通义千问-1_8B-Chat本地安装
·
新建一个文件夹放千问的模型文件,我是在Qwen文件夹下新建的models文件夹,下载的模型文件放在这里。

下载模型文件可以在魔搭社区下载,也可以在huggingface下载。模型文件比较大,下载需要安装Git LFS(全称为Git Large File Storage,Git大文件存储)。
打开Qwen的demo文件cli_demo.py,修改里面的默认路径为下载模型的路径。
![]()
在cmd里使用命令运行Qwen的demo。



在运行demo之前需要确保python环境已经安装了所需要的三方库,在Qwen文件夹下有两个txt文件,是运行demo所需要的三方库。

这里我使用conda安装的python环境。conda配置了清华镜像下载三方库。或者在后面加
-i https://pypi.tuna.tsinghua.edu.cn/simple

DAMO开发者矩阵,由阿里巴巴达摩院和中国互联网协会联合发起,致力于探讨最前沿的技术趋势与应用成果,搭建高质量的交流与分享平台,推动技术创新与产业应用链接,围绕“人工智能与新型计算”构建开放共享的开发者生态。
更多推荐
https://github.com/QwenLM/Qwen



所有评论(0)