演示：

本地化部署小模型通常智力水平低，模型稳定性差，边缘设备输出token过慢。

jev模型，一款垂类的决策模型，区别于传统大模型，该模型不能生成文本，只能用于决策 ，但该模型响应更快，稳定网络情况下通常 100～300 毫秒左右。

具体使用方法见：

https://docs.typesafe.ai/introduction

本项目采用jev替代传统模型的工具路由功能，为本地化小模型分担了模型使用中的决策部分。

在我的电脑上测试的输出token速度为 6.4token/s（本项目部署在 2000 块的红米笔记本）加上工具调用决策，rag检索增强生成，在优化后，平均一次最大200 字的回答耗时 40s左右。因为本地部署的原因，加上没有写死提示词（写死回答前必检索的提示词会增加耗时，加上react多轮推理时间实际会超过 60s 从而导致降级回答），rag检索稳定性极差，通常 3 次会有 1 次检索不到。

为了解决以上问题，我使用了jev决策模型来替代本地化模型的决策功能（jev模型的决策时间极其迅速，在网络代理不稳定的情况下 6 次决策一共耗时 1.4s。）。

效果十分显著，因为决策功能分担给了jev，系统提示词就可以根据决策出来的四种不同情况写为固定流程，响应耗时平均降低了 10s左右，稳定性大幅提升，在添加之后，测试回答未出现为检索的情况。

另外本项目输出采用流式输出，所以在体感上会削弱速度对用户体验的影响。

未来项目方向：了解到有开源的决策模型laya，之后会实验laya替代jev的效果。实现完全本地化部署，消除网络环境的影响，进一步提升回答速度。

学AI大模型的正确顺序，千万不要搞错了

🤔2026年AI风口已来！各行各业的AI渗透肉眼可见，超多公司要么转型做AI相关产品，要么高薪挖AI技术人才，机遇直接摆在眼前！

有往AI方向发展，或者本身有后端编程基础的朋友，直接冲AI大模型应用开发转岗超合适！

就算暂时不打算转岗，了解大模型、RAG、Prompt、Agent这些热门概念，能上手做简单项目，也绝对是求职加分王🔋

📝给大家整理了超全最新的AI大模型应用开发学习清单和资料，手把手帮你快速入门！👇👇

学习路线:

✅大模型基础认知—大模型核心原理、发展历程、主流模型（GPT、文心一言等）特点解析
✅核心技术模块—RAG检索增强生成、Prompt工程实战、Agent智能体开发逻辑
✅开发基础能力—Python进阶、API接口调用、大模型开发框架（LangChain等）实操
✅应用场景开发—智能问答系统、企业知识库、AIGC内容生成工具、行业定制化大模型应用
✅项目落地流程—需求拆解、技术选型、模型调优、测试上线、运维迭代
✅面试求职冲刺—岗位JD解析、简历AI项目包装、高频面试题汇总、模拟面经

以上6大模块，看似清晰好上手，实则每个部分都有扎实的核心内容需要吃透！

我把大模型的学习全流程已经整理📚好了！抓住AI时代风口，轻松解锁职业新可能，希望大家都能把握机遇，实现薪资/职业跃迁～

这份完整版的大模型 AI 学习资料已经上传CSDN，朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】