这是 Linux + Conda 安装 vLLM 100% 成功的唯一方法

你的旧 Conda 环境已经彻底污染,反复卸载重装没用!必须删除重建环境 + 用 Conda 安装 PyTorch(自带完整兼容的 CUDA/NCCL,从根源解决 undefined symbol 错误)!

第一步:彻底删除坏掉的环境(干净重启)
bash
运行
# 退出当前环境
conda deactivate
# 删除旧的vllm环境(所有污染依赖全部清空)
conda remove -n vllm –all -y
第二步:新建纯净环境(指定 Python3.10,vLLM 最稳定版本)
bash
运行
# 创建新环境
conda create -n vllm python=3.10 -y
# 激活环境
conda activate vllm
第三步:🔥 核心!用 Conda 安装 PyTorch(自带兼容 CUDA/NCCL,永不报错)
Conda 安装的 PyTorch 自带完整的 CUDA/NCCL 库,彻底解决你之前的符号错误:
bash
运行
conda install pytorch torchvision torchaudio pytorch-cuda=12.1 -c pytorch -c nvidia -y
第四步:安装 vLLM(无任何依赖冲突)
bash
运行
pip install vllm
第五步:最终验证(彻底成功!)
bash
运行
python -c “import torch; import transformers; import vllm; print(‘✅ 安装成功!’)”
为什么这个方法能 100% 解决你的问题?
彻底清空污染环境:旧环境的依赖残留全部删除,从零开始;
Conda 安装 PyTorch:自带匹配的 CUDA/NCCL,完全隔离系统库,杜绝 libtorch_cuda.so 报错;
版本全自动匹配:不手动指定任何版本,vLLM 自动适配,无冲突。
总结
旧环境已损坏,必须重建;
严格按上面 5 步执行,全程无报错;
验证命令打印成功,你的 vLLM 就可以正常运行大模型了!

© 版权声明
THE END
喜欢就支持一下吧
点赞15 分享
评论 抢沙发

请登录后发表评论

    暂无评论内容