Jev:一个不会聊天的 AI,为什么可能改变下一代 Agent?

最近 AI 圈出现了一个非常反直觉的模型:
它不会聊天。
不会写文章。
不会写代码。
甚至不能像 ChatGPT 一样回答你的问题。
但它却获得了大量关注。
它叫:
Jev。
一个专门负责“判断”的 AI 模型。
很多人第一次听到都会疑惑:
AI 不是应该越来越会说吗?为什么现在有人做一个不会说话的 AI?
答案可能隐藏在一个现实问题:
真正阻碍 AI 大规模进入软件系统的,并不是生成能力,而是决策可靠性。
一、过去四年:AI 学会了表达,却没有真正自动化
过去几年,大语言模型(LLM,Large Language Model【大语言模型】)取得巨大突破。
ChatGPT、Claude、Gemini 等模型已经非常擅长:
- 写文章
- 写代码
- 翻译
- 总结
- 对话
它们像一个知识丰富的顾问。
你提出问题:
帮我分析这份合同
模型可以输出:
第一部分风险较低……
第二部分需要注意……
建议修改……
这种能力非常强。
但是企业真正想自动化的问题,经常不是:
“帮我写一段话”
而是:
“下一步应该做什么?”
例如:
客服系统:
用户:
我的订单扣款两次了
AI系统:
应该进入哪个业务流程?
招聘系统:
这份简历是否符合岗位要求?
安全系统:
这条请求是否存在风险?
Agent:
应该调用哪个工具?
这些问题,本质不是生成问题。
而是:
决策问题。
二、为什么普通大模型不适合做决策?
假设我们使用 GPT 类模型处理客服分流。
目标:
判断用户问题属于:
订单问题
支付问题
物流问题
我们设计 Prompt:
请判断用户问题属于哪个分类。
只能返回:
订单问题
支付问题
物流问题
理论很好。
实际可能:
输入:
我的银行卡被扣了两次
模型:
根据您的描述,这可能涉及支付异常问题。
建议您检查订单记录,如果仍有问题可以联系客服。
支付问题
人看没问题。
但是程序很难处理。
因为系统只想得到:
支付问题
而不是:
一段解释 + 一个答案
于是开发人员需要:
- 正则解析
- 字符串清洗
- 异常处理
更加麻烦。
更严重的问题:
模型可能产生:
财务异常
但是你的系统根本没有这个分类。
这就是:
LLM 的自由生成能力
既是优势。
也是自动化系统最大的风险。
三、Jev 的核心思想:不要让 AI 写答案,让 AI 填表
Jev 的思路非常简单:
不要让 AI 自由发挥。
给它一个固定的问题。
让它只在规定范围内选择。
传统 LLM:
用户输入
↓
大模型
↓
生成文字
↓
程序解析
Jev:
用户输入
↓
Jev判断
↓
结构化结果
↓
程序执行
例如:
输入:
我的订单扣款两次
问题:
属于哪个部门?
选项:
A.订单
B.支付
C.物流
输出:
{
"answer":"支付",
"confidence":0.96
}
程序直接使用。
不需要解析。
四、Jev 到底是什么?
简单理解:
Jev 是一个专门做判断任务的 AI 模型。
它不像 ChatGPT:
输入 → 输出文字
而更像:
输入 → 输出决策
它主要解决三类问题。
1. Choice:选择问题
类似选择题。
例如:
客服分流:
问题:
用户应该进入哪个流程?
候选:
退款
物流
售后
人工
Jev:
{
"refund":0.92,
"delivery":0.05,
"human":0.03
}
系统:
进入退款流程
2. Score:评分问题
例如:
Bug 严重程度。
定义:
0:
普通提示问题
1:
功能异常但有替代方案
2:
系统完全不可用
Jev:
1.4
表示:
更接近功能异常。
3. Noul:真假判断
类似:
二分类问题。
例如:
用户是否要求退款?
输出:
{
"yes":0.98
}
五、Jev 最大价值:让 Agent 更可靠
未来 Agent 不可能只有一个大模型。
现在很多 Agent:
用户
↓
LLM
↓
思考
↓
调用工具
↓
执行任务
问题:
LLM 负责太多事情:
- 理解
- 判断
- 规划
- 执行
压力过大。
未来可能变成:
用户
↓
Decision Layer
Jev判断层
↓
┌────────┬────────┐
工具A 工具B 人工
↓
LLM生成回复
架构联系说明
在这个架构中:
Jev
负责:
“应该做什么?”
例如:
- 是否调用查询订单工具?
- 是否需要人工?
- 是否存在风险?
- 哪个知识库内容相关?
LLM
负责:
“怎么表达?”
例如:
- 生成回复
- 总结原因
- 解释过程
类似传统软件:
Controller 负责路由。
Service 负责业务。
Repository 负责数据。
不同组件负责不同职责。
AI 系统也正在走向工程化。
六、Jev 对 RAG 的影响
RAG:
Retrieval Augmented Generation【检索增强生成】
目前企业知识库:
用户问题
↓
Embedding向量搜索
↓
Milvus
↓
Top-K文档
↓
LLM回答
问题:
Embedding 判断:
哪些内容“像”
但是不知道:
哪些内容真的有用。
加入 Jev:
用户问题
↓
向量搜索
↓
50个候选文档
↓
Jev判断相关性
↓
留下5个
↓
LLM生成
例如:
问题:
Spring事务为什么失效?
搜索:
Spring事务传播机制
MySQL事务
Redis缓存
JVM垃圾回收
Jev:
Spring事务传播机制
0.96
Redis缓存
0.15
减少:
- 无效上下文
- Token消耗
- 幻觉
七、Java 开发者如何理解 Jev?
对于 Java 工程师来说:
Jev 很像:
AI 世界里的业务规则判断引擎。
以前:
我们写:
if(orderStatus=="PAID"){
refund();
}
未来:
可能:
Decision decision =
jev.classify(userRequest);
if(decision.needRefund()){
refund();
}
AI 不负责替代业务代码。
而负责:
复杂、不确定的人类判断。
八、Jev 可以落地哪些场景?
1. AI 客服
流程:
用户消息
↓
Jev
↓
问题分类
↓
业务系统
↓
LLM回复
能力:
- 自动分流
- 情绪判断
- 优先级排序
2. AI Agent
工具:
queryOrder()
pay()
cancelOrder()
refund()
传统:
LLM决定调用哪个。
未来:
用户输入
↓
Jev选择工具
↓
Java执行
3. 内容审核
例如:
判断:
- 是否广告
- 是否诈骗
- 是否违规
- 风险等级
4. 企业知识库
用于:
- 文档分类
- 标签生成
- 搜索排序
- 质量检查
九、Jev 最大的意义是什么?
很多人认为:
AI 的未来:
更大的模型。
但是另一条路线可能同样重要:
更专业的小模型。
未来 AI 系统可能类似人类组织:
大模型 = 专家顾问
Jev = 判断委员会
传统代码 = 执行系统
不同能力组合。
共同完成复杂任务。
十、Java + AI 工程师应该关注什么?
未来企业 AI 应用:
不会只是:
调用GPT API
而会变成:
Spring Boot
+
LLM
+
RAG
+
Agent
+
Decision Model
+
业务系统
Jev 代表一个趋势:
AI 正从“生成内容工具”,走向“软件系统中的决策组件”。
最后
如果只记一句话:
ChatGPT 教 AI 学会表达,而 Jev 让 AI 学会做判断。
未来真正落地的大量 AI 应用,可能不是一个会聊天机器人。
而是一套:
判断模型
+
生成模型
+
业务系统
组成的新型软件架构。
对于 Java 工程师来说,这可能是从后端开发进入 AI 应用工程的重要方向。
DAMO开发者矩阵,由阿里巴巴达摩院和中国互联网协会联合发起,致力于探讨最前沿的技术趋势与应用成果,搭建高质量的交流与分享平台,推动技术创新与产业应用链接,围绕“人工智能与新型计算”构建开放共享的开发者生态。
更多推荐


所有评论(0)