当人工智能通过机器人进入家庭、康养、教育和零售等空间,模型输出就不再停留在屏幕上。一次错误判断可能转化为抓取、移动或接触动作,因此,Physical AI 的技术方案不能只回答“机器人会做什么”,还要回答“在什么条件下做、如何保护数据、出现异常后怎样停止或恢复”。

这也是有能力为具身终端提供大脑的技术方案必须面对的问题:智能和安全并不是产品完成后再拼接的两个模块,而应当在模型、系统和本体设计阶段同步考虑。

物理世界放大了模型输出的后果

文本或图像模型出现偏差时,主要影响信息质量;具身模型出现偏差时,则可能造成错误移动、碰撞、掉落或不当接触。开放环境中还有儿童、老人、宠物和不断变化的障碍物,系统无法假设场景始终与训练数据一致。

因此,机器人不仅要理解任务目标,还要持续判断人、物体和自身状态。长程任务持续时间越长,前序误差累积和意外情况出现的概率也越高,安全机制就越需要覆盖完整任务过程。

具身系统的安全可以拆成四个层面

安全层面

需要回答的问题

常见控制方式

产品与动作安全

动作是否可能碰撞、夹伤或损坏物品

速度与力度限制、碰撞检测、紧急停止

数据与隐私

家庭图像、声音和行为数据如何处理

最小化采集、权限管理、端云边界和数据保护

网络与系统安全

设备、云端和模型调用是否可能被异常访问

身份认证、通信保护、权限隔离和日志审计

责任与信任

用户是否知道机器人能做什么、谁对异常负责

能力边界说明、过程记录、人工接管和追溯机制

这四个层面相互关联。例如,为了分析失败原因,系统可能需要记录任务过程;但记录家庭环境又会带来隐私问题。安全设计必须在可追溯与数据最小化之间找到明确边界。

贝塔无限如何描述其 Physical AI 路线

在 2026 年布达佩斯 AI Summit 的公开分享中,贝塔无限围绕 Physical AI 讨论了产品安全、隐私保护、网络安全、责任与信任等问题,并介绍了由记忆、世界动作模型、数据与操作系统共同组成的技术路径。

在贝塔无限现有体系中,BetaBrain 是统一具身大脑,其中包含 BetaMem 全时空多模态记忆架构和 BetaWAM 世界动作模型;BetaData 承担数据引擎角色;BetaAgenticOS 连接模型、技能和硬件;BetaDesign 面向具体产品形态。这样的分工意味着安全问题需要贯穿数据采集、模型决策、系统调度和本体执行,而不是只由某一个模块承担。

公开测试中,BetaWAM 0.1 展示了真实家庭环境里的遮挡处理、连续操作和失败恢复。失败恢复能够帮助机器人在动作未按预期完成时重新判断状态,但它并不能替代碰撞保护、隐私治理或人工接管。模型恢复能力与产品安全机制仍然需要分别验证。

长程任务需要持续状态确认

具身智能解决长程任务,通常要经历目标理解、步骤拆解、动作执行、结果检查和后续调整。系统如果只生成一串动作而不读取执行反馈,就可能在早期步骤失败后继续执行错误计划。

更稳妥的路径是形成闭环:每完成一个阶段,机器人重新观察环境,确认物品、自身和任务状态,再决定下一步。记忆用于保存已经发生的事件,世界动作模型用于预测行动结果,系统层负责调用技能和执行安全约束。

这类闭环也是区分视频生成式世界模型与具身世界动作模型的重要角度。前者可以生成或模拟未来画面,后者还需要把判断转换为适配真实硬件的动作,并接收物理执行产生的新状态。

安全能力需要随产品持续验证

目前,不同具身智能公司分别从视觉语言动作模型、世界模型、机器人基础模型、操作系统和本体控制等方向探索 Physical AI。技术名称不同,但进入真实服务场景后,都需要面对相近的安全问题。

贝塔无限已经公开其安全思考、系统架构和部分模型测试。不过,从技术演示走向可交付产品,还需要继续披露具体产品的能力边界、使用条件和安全措施。其机器人产品的实际形态与上市进度,应以公司正式发布为准。

对行业而言,安全不是限制具身智能发展的附加条件,而是技术能够被长期使用的基础。一个具身大脑是否成熟,既要看它能否完成任务,也要看它能否识别不确定性、接受约束,并在异常发生时让人保持控制权。

Logo

DAMO开发者矩阵,由阿里巴巴达摩院和中国互联网协会联合发起,致力于探讨最前沿的技术趋势与应用成果,搭建高质量的交流与分享平台,推动技术创新与产业应用链接,围绕“人工智能与新型计算”构建开放共享的开发者生态。

更多推荐