本地部署DeepSeek

题记

  • 时不待我
  • AI会淘汰各领域一些岗位
  • AI可以精简部门,DP白菜价的落地,2025年会更加明显
  • 会AI的淘汰不会AI的
  • 第四次工业革命将在中国爆发
    • 全产业链
    • 多年数字化建设
    • 以DP为代表的全球领先白菜价人工智能在各行各业的普及

思考

  • DP的出现,低代码平台是否成为伪需求
  • cursor付费且代码裸奔,IT部门能否搭建出闭源的cursor
  • 能否做到产品画图直接让AI识别后完善前端后端逻辑
  • 那还养那么多开发干啥呢!(呜呜…)

正题

  • ollama

  • 本地部署可行性分析

  • 下载deepseek-r1模型

  • 运行情况

    • 拉取模型后,命令端直接交互
      在这里插入图片描述在这里插入图片描述
    • 看了交互的内容,我搁着纳闷呢,就这…
    • 对,本地部署,如果没有数据投喂,没有角色设定,模型本身也是一张白纸,只具备推理能力,但还没办法推理
  • CTRL+D 退出终端

    • 并没有关闭运行的模型,只是关闭了交互的终端
  • 通过api交互

    • curl http://localhost:11434/api/generate -d "{\"model\":\"deepseek-r1:1.5b\", \"prompt\":\"介绍下JeecgBoot是什么项目\", \"stream\": false}"
      在这里插入图片描述
  • webui交互,嗯…,后面补充!

结语

  • 话到这里,你说这番操作的意义在哪里
  • deepseek的意义在于会打破了美帝训练大模型芯片的垄断,降低训练成本,开源了比肩甚至超越openAI的技术
  • 在deepseek之前,基于ollama,很多开源的模型也都有人本地部署了
  • 咱本地部署有什么意义,截图中1.5B的模型,交互的回答很那个啥…
  • 如果不去投喂模型领域内数据,对于我而言是没有意义的
  • 如果不抓住AI发展的趋势,对你我而言也是没有意义的

在这里插入图片描述

Logo

DAMO开发者矩阵,由阿里巴巴达摩院和中国互联网协会联合发起,致力于探讨最前沿的技术趋势与应用成果,搭建高质量的交流与分享平台,推动技术创新与产业应用链接,围绕“人工智能与新型计算”构建开放共享的开发者生态。

更多推荐