‍‍🏡博客主页: virobotics(仪酷智能):LabVIEW深度学习、人工智能博主
🎄所属专栏:『LabVIEW深度学习实战』
📑推荐文章:『LabVIEW人工智能深度学习指南』
🍻本文由virobotics(仪酷智能)原创

🥳欢迎大家关注✌点赞👍收藏⭐留言📝订阅专栏


大家好,这里是仪酷智能 VIRobotics

国内的大模型 DeepSeek 自发布后就受到了广泛关注。仪酷智能近期发布的 AI Vision Toolkit for OpenVINO for LabVIEW (AIVT-OV)2.0版本能够无缝支持DeepSeek系列蒸馏推理模型,帮助用户以极低的成本在本地进行大规模模型推理,保障敏感数据的安全,避免网络中断的风险。

在本文中,笔者将通过三个简单的步骤,为大家介绍如何快速完成DeepSeek R1在LabVIEW中的本地部署。

在这里插入图片描述


🖥️一、环境搭建

1.1 部署所需环境

  • 操作系统:>= Windows 10(64位)
  • LabVIEW:>= 2018 (64-Bit)
  • AIVT-OV:>= virobotics_lib_ai_vision_toolkit_for_openvino-1.0.0.66.vip

1.2 下载并安装 AI Vision Toolkit for OpenVINO for LabVIEW

为了在LabVIEW中使用DeepSeek R1,我们需要下载并安装 AI Vision Toolkit for OpenVINO for LabVIEW。该工具包可以帮助我们将OpenVINO加速框架与LabVIEW集成,使我们能够高效地运行AI推理任务。

安装步骤:

  1. 下载
    访问仪酷智能官方网站:https://www.virobotics.net/download,在下载中心点击软件下载。
    在这里插入图片描述

也可在评论区留言邮箱,笔者将会将安装包发送到邮箱!

  1. 安装
    运行下载的安装包,按照提示完成安装,更多安装问题可以参考安装指南
    当然啦,也可以评论区留言交流。

⬇️二、下载 DeepSeek 模型

在LabVIEW中使用DeepSeek R1模型之前,我们需要下载并准备好该模型。目前主要有 1.5B7B 的模型,更大的模型将在后续文章中详细介绍。

  1. 获取模型文件:

    • 关注微信公众号:仪酷智能科技,回复关键字:deepseek 获取相关模型。
    • 目前一共四种类型模型,推荐下载:DeepSeek-R1-Distill-Qwen-1.5B-int4-ov.zip
      在这里插入图片描述
  2. 解压与准备:

    • 将模型文件解压至本地纯英文路径下,并记录下文件路径,方便后续加载和使用。

⚒️三、本地部署并开始对话

3.1 打开范例

  1. 打开 LabVIEW,依次选择 Help >> Find Examples >> Directory Structure >> VIRobotics >> GenAI >> LLM 查看范例。
    在这里插入图片描述

  2. 双击运行 LLM_Stream.vi,在LabVIEW中搭建一个简单的用户界面,实现与DeepSeek R1模型的交互。
    通过图形化界面,用户可以上传文本内容,点击“Send”,模型将基于输入进行推理,并输出结果。

程序框图:

在这里插入图片描述

前面板用户交互界面:

*(这里可以插入前面板界面图片)*

3.2 部署运行

  1. 选择模型所在文件夹;
    在这里插入图片描述

  2. 运行 VI;

  3. Prompt 输入提问内容,即可获取具体答复。
    演示效果详见:LabVIEW本地部署 DeepSeek R1
    视频讲解教程可以查看:LabVIEW中一键本地部署DeepSeek R1,超简单


🎯总结

通过这三步,你可以成功将 DeepSeek R1 模型在LabVIEW中进行本地部署。后续我们将为大家介绍更大模型的部署。 如果您有任何问题或建议,欢迎随时联系我们,我们会继续努力。

以上就是今天要给大家分享的内容,希望对大家有用。如有笔误,还请各位及时指正。后续我们将为大家更新更多关于AI模型在LabVIEW的部署案例,欢迎大家关注博主。我是virobotics(仪酷智能),我们下篇文章见~

如您想要探讨更多关于LabVIEW与人工智能技术,欢迎加入我们的技术交流群:705637299。进群请备注:仪酷智能

更多内容可查看

如果文章对你有帮助,欢迎✌关注、👍点赞、✌收藏、👍订阅专栏

推荐阅读

AI Vision Toolkit for LabVIEW重磅升级:2.0版本支持本地部署DeepSeek R1

【YOLOv5】LabVIEW+TensorRT的yolov5部署实战(含源码))
【YOLOv5】手把手教你使用LabVIEW ONNX Runtime部署 TensorRT加速,实现YOLOv5实时物体识别(含源码)
【YOLOv8】实战一:手把手教你使用YOLOv8实现实时目标检测
【YOLOv8】实战二:YOLOv8 OpenVINO2022版 windows部署实战
【YOLOv8】实战三:基于LabVIEW TensorRT部署YOLOv8
【YOLOv9】实战一:在 Windows 上使用LabVIEW OpenVINO工具包部署YOLOv9实现实时目标检测(含源码)
【YOLOv9】实战二:手把手教你使用TensorRT实现YOLOv9实时目标检测(含源码)
【YOLOv11】实战一:在LabVIEW 中使用OpenVINO实现YOLOv11

👇技术交流 · 一起学习 · 咨询分享,请联系👇

Logo

DAMO开发者矩阵,由阿里巴巴达摩院和中国互联网协会联合发起,致力于探讨最前沿的技术趋势与应用成果,搭建高质量的交流与分享平台,推动技术创新与产业应用链接,围绕“人工智能与新型计算”构建开放共享的开发者生态。

更多推荐