我们来学人工智能 -- 本地部署DeepSeek
·
题记
- 时不待我
- AI会淘汰各领域一些岗位
- AI可以精简部门,DP白菜价的落地,2025年会更加明显
- 会AI的淘汰不会AI的
- 第四次工业革命将在中国爆发
- 全产业链
- 多年数字化建设
- 以DP为代表的全球领先白菜价人工智能在各行各业的普及
思考
- DP的出现,低代码平台是否成为伪需求
- cursor付费且代码裸奔,IT部门能否搭建出闭源的cursor
- 能否做到产品画图直接让AI识别后完善前端后端逻辑
- 那还养那么多开发干啥呢!(呜呜…)
正题
-
ollama
- 大模型运行框架
- ollama的介绍及安装
-
下载deepseek-r1模型
- 此处选择ollmam仓库
- 运行命令,没有模型会下载 :ollama run deepseek-r1:1.5b

-
运行情况
- 拉取模型后,命令端直接交互


- 看了交互的内容,我搁着纳闷呢,就这…
- 对,本地部署,如果没有数据投喂,没有角色设定,模型本身也是一张白纸,只具备推理能力,但还没办法推理
- 拉取模型后,命令端直接交互
-
CTRL+D 退出终端
- 并没有关闭运行的模型,只是关闭了交互的终端
-
通过api交互
curl http://localhost:11434/api/generate -d "{\"model\":\"deepseek-r1:1.5b\", \"prompt\":\"介绍下JeecgBoot是什么项目\", \"stream\": false}"
-
webui交互,嗯…,后面补充!
结语
- 话到这里,你说这番操作的意义在哪里
- deepseek的意义在于会打破了美帝训练大模型芯片的垄断,降低训练成本,开源了比肩甚至超越openAI的技术
- 在deepseek之前,基于ollama,很多开源的模型也都有人本地部署了
- 咱本地部署有什么意义,截图中1.5B的模型,交互的回答很那个啥…
- 如果不去投喂模型领域内数据,对于我而言是没有意义的
- 如果不抓住AI发展的趋势,对你我而言也是没有意义的

DAMO开发者矩阵,由阿里巴巴达摩院和中国互联网协会联合发起,致力于探讨最前沿的技术趋势与应用成果,搭建高质量的交流与分享平台,推动技术创新与产业应用链接,围绕“人工智能与新型计算”构建开放共享的开发者生态。
更多推荐



所有评论(0)