一念

2023年第一次深度使用ChatGPT的时候,我盯着屏幕上那个不断跳动的光标,心里涌起一种极其强烈的熟悉感。很多人惊呼这是颠覆时代的魔法,但在那一刻,我脑子里冒出的念头却非常接地气:剥开那些华丽的套裙,这东西骨子里不就是一个Bot吗?只不过,它的抽象程度远远超过了我们过去手搓的那些QQ社交机器人。

回想一下以前我们在群里是怎么和机器人打交道的。用户必须像对暗号一样,老老实实输入“签到”、“查询背包”或者“今日运势”。机器人后台有一套死板的规则匹配,认出了暗号,就去查数据库,最后吐出一串设定好的文本。现在的场面看起来确实魔幻多了,你可以随口问“我今天是不是忘签到了”,或者“根据我昨天说的情况,帮我总结一下”。表面上看,固定指令被自然语言取代了,但如果你也是个写了多年代码的老兵,退后一步从系统架构的角度去看,这中间真的发生什么本质改变了吗?并没有。自然语言,不过是把过去那些干瘪结构化的指令,变成了一种更自由、更宽容的表达方式。

交互的壳子变了,但最底层的那个漏斗一点都没变。用户发来一条消息,系统去抓取他当前的状态和上下文,理解意图,最后返回一个结果。这套逻辑,我们这些做Bot开发的人,在没有大模型的大航海时代,其实已经默默蹚了很多年的水。

就拿一念成仙来说,要在没有大模型加持的情况下,去维持一个每天几万人同时在线交互的庞大修仙社会,机器人需要处理多复杂的问题?它得精准地知道此刻发消息的这个ID是谁,他在哪个群,他昨天干了什么。面对几十万用户,它要为每个人维护完全独立的上下文和数据库记忆。同样的指令,一个刚入群的新人和一个宗门之主敲出来,结果截然不同。它还要默默在后台跑着大量的定时任务,到了特定时间主动去通知特定的群体。这些在当年看似最苦逼、最基础的业务逻辑,你放到今天的AI圈子里看看,是不是全都换上了一身洋气的马甲?

我们以前叫上下文隔离,现在叫Context;以前叫外部插件调用,现在叫Tool或者Capability;以前存进数据库的长期状态,现在叫Memory;以前设定的定时触发,现在变成了Automation。就连我们现在去写提示词,那种给AI设定人设、规定边界的逻辑,其实和当年往机器人框架里注册一个带有限制条件的新插件,骨子里根本就是一回事。形式天翻地覆,但我们试图回答的终极问题从来没变:怎么把一个新的能力,安全地插进一个每天都在高速运转的对话系统里,并且在它离开时干净地撤销所有的副作用。

这也是为什么,后来我看着Cordis这套技术路线顺理成章地演进到AI Harness的时候,心里毫无波澜,甚至觉得理应如此。从早期Koishi生态里大家死磕插件的生命周期和动态组合,到今天Agent时代去挂载文件系统、网络工具和记忆模块,我们其实一直都在处理“身子”的问题。大模型确实是天降神兵,它带来了前所未有的自然语言理解和自主规划能力,但这就像是给一个系统换上了一颗顶级的“大脑”。如果没有人提前在最泥泞的真实业务里去解决那副“身体”的排异反应,大脑再聪明,也指挥不动一根手指。

很多年前我们在问,一个QQ群里的Bot到底能干嘛?今天整个硅谷都在问,一个AI Agent到底能干嘛?时代确实跃迁了,以前是我们替用户穷举所有的可能性,现在是模型自己去推演。但对于我们这些一路走来的开发者而言,那些长期存在的系统工程问题不仅没有随风消散,反而显得愈发珍贵。我越来越相信,大模型爆发前的那几年,那些在简陋聊天窗口里敲打代码、处理高并发并发和用户状态的日子,就是一场残酷又隐秘的练兵。它教会了我们,到底该怎么让一个会说话的系统,真正靠谱地去为人类服务。

Logo

DAMO开发者矩阵,由阿里巴巴达摩院和中国互联网协会联合发起,致力于探讨最前沿的技术趋势与应用成果,搭建高质量的交流与分享平台,推动技术创新与产业应用链接,围绕“人工智能与新型计算”构建开放共享的开发者生态。

更多推荐