9 月的开源大模型有点密集。据媒体报道,9 月 15 日,紫东太初正式开源了面向物理世界的通用多模态大模型 ZDTaichu5.0-9B;再往前,腾讯混元的新一代旗舰 Hy4 preview 在 8 月 28 日发布并开源,总参数 770B、每 token 只激活 49B、上下文超过 100 万 token,采用 Apache 2.0 协议,权重已放上 Hugging Face,硅基流动等云平台也陆续上线。

一个 9B,一个 770B,走的是两条完全不同的路。这两件事放在一起看,反而比单看某一场发布会更有信息量。

路线一:小参数,但把某一类任务做"密"

ZDTaichu5.0-9B 的定位很明确:面向物理世界的通用多模态模型。参数量约 9B,支持单图、多图、长序列视频以及任意分辨率的视觉输入,重点解决的是真实物理场景下的空间感知、跨视角变换、具身任务规划。

翻译一下技术本质:它不追求"什么都懂一点",而是把参数预算集中砸在空间理解这一类任务上。所谓跨视角变换,就是模型看到一个物体从 A 角度拍的照片,能推断它从 B 角度看是什么样;具身任务规划,则是让模型在一个真实/仿真环境里知道"下一步该往哪走、该抓什么"。

评测方面,据媒体报道,紫东太初方面称该模型是 10B 参数以内空间具身能力最强的通用多模态模型,在九大国际权威空间理解基准中拿下 8 项组别第一。这个数字需要打个折扣看待——厂商自评的基准成绩,和你在自己数据上的表现往往是两回事。但方向是清楚的:9B 这个量级,意味着它能被塞进一张消费级或专业级显卡做本地推理,这是具身智能、机器人、工业视觉这类场景最在意的事。

路线二:大参数 MoE,用稀疏换成本

腾讯混元 Hy4 preview 是另一个思路。它的参数规模很大——总参数 770B,但每个 token 只激活 49B。

这就是 MoE(混合专家)的核心机制:模型里有很多个"专家"子网络,输入进来时只挑其中一小部分参与计算。据公开信息,Hy4 preview 主干共 78 层,第一层是标准 FFN,其余 77 层都是 MoE 结构,并采用了 Gated DSA(门控稀疏注意力)与 iHC 等技术。

这样做的结果是:能力的上限由 770B 决定,单次推理的算力消耗却接近 49B 的量级。再用 100 万 token 的上下文窗口去承接长代码库、长文档、长对话这类任务。许可证是 Apache 2.0,属于相当宽松的一档。

变了的和没变的

把这两件事对照着看,能看到几条清晰的趋势:

变了的:

  • 开源 + 宽松许可是常态。Apache 2.0 这类协议出现在旗舰模型上,商用门槛明显降低;

    • 上下文长度持续拉长,100 万 token 从"卖点"变成"标配";
    • MoE 成为大参数模型的主流架构选择,稠密模型在同等能力下的成本劣势越来越明显。
      没变的:
  • 评测榜单第一名,不等于在你业务上最好用;

    • 落地时真正卡住人的,永远是显存、吞吐和账单,而不是参数量;
    • 模型越强,对"怎么把任务描述清楚"的要求越高。

普通开发者怎么选

这可能是最实际的部分。两条路线对应两类需求:

  1. 要在本地/边缘跑,或者做机器人、工业检测、视觉理解 → 优先看 9B 级别的专用多模态模型。能单机部署、延迟可控,比一个跑不动的巨无霸有用得多;
    1. 要处理长文档、长代码库、长会话 → 看带百万级上下文的 MoE 模型,但要先算清楚成本;
    1. 只是做个应用、做个工具 → 没必要自己部署。直接用云平台上线的 API,用 OpenAI 兼容的调用方式即可。
      云平台大多兼容 OpenAI SDK 的调用格式,代码长这样:
from openai import OpenAI

client = OpenAI(
    api_key="YOUR_API_KEY",                      # 换成平台给你的 key
        base_url="https://api.siliconflow.cn/v1",    # 以平台文档为准
        )
resp = client.chat.completions.create(
    model="请填入平台模型列表中的模型名",           # 模型名以平台文档为准
        messages=[
                {"role": "user", "content": "用三句话解释什么是 MoE 稀疏激活。"}
                    ],
                    )
print(resp.choices[0].message.content)

几个容易被忽略的坑:

  • MoE 权重体积很大。770B 的模型即便只激活 49B,权重本身仍要完整加载,单机多卡或者量化是绕不过去的;
    • 1M 上下文不等于 1M 有效注意力。窗口长了,实际能不能稳定用满、成本会不会翻倍,得自己压测;
    • 别拿公开榜单选型。拿你自己真实的 20~50 条任务跑一轮对比,比任何跑分都准。

写在最后

一边是把小模型做到极致专精,一边是把大模型做成可以便宜调用,2026 年的开源模型市场越来越像两个平行赛道——它们不互相取代,只是服务的人不一样。

对你手上的项目来说,你现在更需要的是"一张卡能跑得动",还是"一口气塞进整个代码库"?评论区聊聊。

Logo

DAMO开发者矩阵,由阿里巴巴达摩院和中国互联网协会联合发起,致力于探讨最前沿的技术趋势与应用成果,搭建高质量的交流与分享平台,推动技术创新与产业应用链接,围绕“人工智能与新型计算”构建开放共享的开发者生态。

更多推荐