今日主题:DeepSeek开源推理框架DeepInfer;谷歌开源TorchTPU

本期概览:今日AI领域焦点集中在推理底座优化与算力产业变局。DeepSeek正式开源其内部高吞吐推理框架DeepInfer与编解码套件,谷歌同步开源TorchTPU以推动PyTorch原生支持TPU硬件生态。产业投资与基建加码,Salesforce宣布56.6亿美元收购Braze,国内企业积极采购大显存工作站显卡,而亚马逊与Anthropic的财务披露则映射出算力扩建背后的电力制约与高昂成本。此外,英伟达发布临床手术级仿真世界模型,北大启元团队提出具身无本体后训练方案,政策监管与数据安全合规博弈同步升温。

本期精选 29 条

模型发布

1. 英伟达推出 Cosmos3-H-Dreams,实现临床手术级交互式生成仿真

英伟达发布世界基座模型 Cosmos3-H-Dreams,将交互式生成式模拟扩展至临床手术的复杂解剖与操作场景。该模型无需对组织形变和物理几何进行显式数值建模,而是直接从同步视频与机器人运动学数据中学习视觉动态,使医生能够在高真实感的生成手术场景中实时交互控制手术器械。

2. ElevenLabs 推出实时语音模型 Eleven Realtime,响应延迟低至 0.57 秒

ElevenLabs 推出专为实时 AI 对话设计的 Eleven Realtime 语音到语音模型家族。其中旗舰版本 v1 Max 在 Big Bench Audio 基准测试中得分 98.8%,响应时间仅为 0.57 秒,官方称在 Artificial Analysis 榜单上,没有模型能在速度和准确率上同时超过它。

3. Mistral AI 发布实时语音智能体全栈模型 Voxtral 3

Mistral AI 正式上线面向实时语音智能体的 Voxtral 3 语言模型家族,整合了语音识别、文本转语音及配套语音智能体 SDK。该系统支持超过 50 种语言,允许智能体在对话过程中实时调用外部工具,并支持本地私有化部署或通过欧洲托管 API 运行以保障数据主权。

4. Cloudflare 预览发布文档提取模型 Clairic,单次推理完成多字段抽取

Cloudflare 在 Workers AI 平台推出文档提取模型 Clairic 预览版,并计划后续开源权重。与逐 Token 生成的通用大语言模型不同,Clairic 能够在单次前向传递中直接抽取所有指定字段的值与置信度分数,降低提取成本并提升速度,还支持简单数值计算与估算。

算力硬件

1. 国内科技企业抢购英伟达 RTX PRO 5500 显卡,订单规模超官方预期产能

字节跳动、阿里巴巴和腾讯等国内科技企业正大批量订购英伟达尚未批量交付的专业工作站显卡 RTX PRO 5500,订单总量传已达数百万张。该显卡具备 84GB 大显存、支持多实例 GPU(MIG)且理论算力较此前特供型号大幅提升,在合规前提下备受算力市场追捧;英伟达已通知合作伙伴无法保证满足全部订单。

2. 亚马逊今年 AI 基建开支预计达 2200 亿美元,部分服务器因供电短缺暂存仓库

据内部邮件与财报披露,亚马逊 2026 年资本支出预计高达 2200 亿美元,导致其自由现金流出现负值。由于部分数据中心供电能力不足,每月接收的数十亿美元英伟达 GB300 服务器机架只能暂存仓库,而公司需在投入运营前提前付款取得所有权,引发内部对其资金周转与基础设施回报周期的审视。

3. AWS 与 i14 展示在 Trainium2 上使用原生 PyTorch 训练并部署 3B 线性注意力模型

AWS 与 i14 联合分享了在 AWS Trainium2 芯片上利用原生 PyTorch 训练与托管 Laplace 3B 线性注意力模型的实践。该架构将每个序列的循环状态固定在 29.5MB,无论上下文长度如何均无需维护不断增长的 KV 缓存,从而保持可预测的推理内存占用。

4. 集邦咨询预估 Q4 DRAM 价格环比涨约 20%,需求强劲、供需偏紧

集邦咨询预估 2026 年第四季度 DRAM 内存合约价将环比上涨约 20%。相较于二季度约 80%、三季度约 40% 的涨幅,Q4 涨势明显放缓,但 DRAM 市场整体仍处于价格高位,处于供应紧张、需求强劲的周期中。

研究论文

1. 北大与启元团队提出 HIL-UMI,让人在环路手持采集摆脱具身后训练真机依赖

北京大学与启元机器人董豪团队发布 HIL-UMI 框架,针对具身机器人后训练极其昂贵的真机与环境复位成本提出无本体解决方案。通过在手持夹爪采集过程中引入后台模型实时对比人类操作,系统能够在模型预测严重偏离时自动提示操作者补录该段操作,从而在无真机条件下采集后训练所需的纠错数据。

2. arXiv 论文提出 OpenVLHarness:持久多模态记忆增强视觉智能体异构工具调用

针对多模态大模型在视觉推理中依赖外部工具但难以有效整合的问题,研究人员提出 OpenVLHarness 框架。该架构通过统一工具接口与地址化多模态持久记忆,在 22 项基准测试中使 Qwen3-VL、GPT-6 Astra 等开源和商业基座模型平均提升 9.7 至 12.6 分;在 GPT-6 Luna 中等推理强度下,其模型 token 成本最多为对比方案的 37%。

3. arXiv 论文提出文生图模型 Halcyon:无需大规模语言预训练即可从零自回归生成

来自斯坦福等机构的研究人员提出多模态自回归模型家族 Halcyon,通过在 1 亿图文对数据集上从零预训练,证明强大的文生图系统无需依赖互联网规模的独立语言模型预训练。其中 Halcyon-0.52B 和 1.6B 版本在生成质量上分别超越基线模型,且预训练算力开销大幅减少 18 至 275 倍。

4. Allen AI 发布 FairStress 基准,评估 LLM 高风险决策中的群体公平性

Allen AI 发布 FairStress 基准,用于衡量 LLM 在招聘筛选、贷款审批、患者治疗优先级和学生招生等高风险决策中的群体公平性,且不只看模型最终选择了谁。传统人口统计公平性基准通常交换候选人的人口统计身份、保持其他条件不变,再检查模型是否仍选择同一候选人;FairStress 已开放下载,并正在集成到 Allen AI 的 Olmo-eval 评测工作台。

产品应用

1. AMD 推出嵌入式全流程智能体助手 Ross,加速软硬件协同设计

AMD 推出专为加速嵌入式开发全流程打造的智能体助手 AMD Ross,覆盖芯片架构设计、PCB 审查、算法优化到实际系统部署。该系统基于模型上下文协议(MCP)服务器与 AMD 内部工程知识库构建,现已集成 Vivado 设计套件和 Vitis HLS 工具包,并计划在第四季度增加 FPGA 调试和 AI 推理支持。

2. 谷歌将 Personal Intelligence 扩展至车载场景,Gemini 可联动个人应用

谷歌宣布将 Personal Intelligence 功能引入 Android Auto 和原生搭载谷歌系统的汽车平台。车主授权后,车载 Gemini 可安全调取用户的 Gmail、日历、地图和相册数据,在行车过程中实现基于邮件航班信息的航班状态查询、照片地点直接导航等语音交互。

3. 谷歌 Chrome 升级反诈防御,引入服务器端 Gemini 与剪贴板危险命令检测警告

谷歌宣布升级 Chrome 安全浏览增强保护模式,新增“可疑网站”分级警示机制,并在服务器端部署更强大的 Gemini 模型分析假冒更新等复杂欺诈。此外,针对诱导用户运行恶意终端命令的 ClickFix 社工攻击,Chrome 上线了针对剪贴板危险命令的检测与警告功能。

4. ChatGPT 上线聊天锁定功能以强化设备共享场景下的隐私保护

OpenAI 为 ChatGPT 推出“聊天锁定”(Lock your chats)功能,允许用户单独给特定对话加锁。官方表示,该功能主要面向需要把设备交给家人或朋友、向他们展示其他聊天内容,但又希望个人隐私话题或惊喜策划保持保密的场景。

行业动态

1. Salesforce 宣布以约 56.6 亿美元现金收购客户互动 AI 企业 Braze

Salesforce 宣布将以约 56.6 亿美元现金收购客户互动与营销自动化平台 Braze,每股收购价 47.50 美元,溢价约 58.1%。Braze 旗下 AI 工具能够帮助企业品牌发送个性化消息并实时响应客户行为。该交易预计将于 2028 财年完成,旨在强化 Salesforce 营销业务在客户旅程中的实时互动能力。

2. 华尔街日报披露 Anthropic 上半年巨亏超 800 亿美元,IPO 估值遭投资者审视

据《华尔街日报》援引招股书草案报道,Anthropic 2026 年上半年净亏损超过 800 亿美元,主因包含 720 亿美元与融资金融工具有关的会计损失,同期基础设施投入激增至近 90 亿美元。部分潜在投资者在看到财务披露后仍考虑将公司 IPO 估值讨论下调至约 1.5 万亿美元。

3. OpenAI 收购生物医药工作流平台 Orchestra Bio,加速生命科学模型研发

OpenAI 宣布收购生物医药协作平台初创公司 Orchestra Bio,以加速新药研发流程。Orchestra 的团队和技术将被整合到 OpenAI 的生命科学专用 AI 模型 Rosalind 及其科研工作台 Rosalind Workbench 中,帮助科研人员规划复杂实验并分析研发数据。

4. SpaceX 三季度 AI 业务收入达 75 亿美元,算力基础设施储备达 1.7GW

SpaceX 提交的监管文件显示其第三季度总营收达 146 亿美元,其中更名后的“超级智能”AI 业务线贡献了 75 亿美元营收和 4.31 亿美元利润,占公司总收入的 52%。该业务收入主要来自新收购的 Cursor 编程工具、Grok 助手以及拥有 1.7GW 算力供给的算力云服务。

5. 新石器完成近 4 亿美元 E 轮融资,创国内自动驾驶年度单笔融资纪录

无人配送科技公司新石器宣布完成近 4 亿美元 E 轮融资,由博裕投资与某国家级基金领投,高成投资、云启资本等跟投。本轮融资创造了今年国内自动驾驶领域单笔最高融资纪录,资金将主要投入精细化全球履约网络建设以及端到端大模型数据训练闭环。

6. OpenAI 前工程师涉嫌窃密案遭羁押,检方搜出沙特政府相关敏感文件夹

美国联邦法官裁定,被控在 OpenAI 机密会议室安装监听设备的前工程师 Abdulrahman Alfozan 继续羁押且不得保释。检方披露其 iPhone 中存有名为“Saudi Gov Docs”的文件夹,并主张其存在潜逃风险;沙特领事馆曾提出为其保释提供担保,但法官质疑这一担保相当于“空白支票”。

7. Meta 紧急暂停 Muse 智能体分享功能,因公开 DNS 记录暴露数千条分享链接

网络安全机构 Claroc 发现,Meta 旗下 AI 智能体 Muse 有超过 6800 条对话分享链接可经公开 DNS 记录检索到,其中包含企业收入、日历和贷款申请等敏感信息。Meta 随后表示已暂停该分享功能,并正在审查报告、考虑调整链接的发现机制。

8. Spotify 从推荐中移除 5000 万首 AI 垃圾与刷量歌曲,推荐算法向真人倾斜

Spotify 宣布过去一年内已从用户推荐系统中清除了超过 5000 万首被判定为 AI 生成的垃圾或刷量音轨。平台同时调整了推荐算法标准以突出真人艺术家的音乐作品,官方表示该项改动有效减少了听众对于推荐流被低质 AI 内容污染的抱怨。

开源工具

1. DeepSeek 开源云端推理框架 DeepInfer 与生产级编解码套件

DeepSeek 正式开源其内部使用的大规模云服务推理框架 DeepInfer 以及生产级 Token 编解码组件 deepseek-recipe。该框架集成了高性能算子与深度优化推理引擎,支持推测解码、结构化输出等能力,并在英伟达与华为昇腾平台运行。据官方公布,其单一集群服务吞吐达 155 万亿 Tokens/天,按谷价计算每卡每小时收入达 38 美元。

2. 谷歌开源 TorchTPU 挑战英伟达生态,Hugging Face 与 vLLM 同步跟进支持

谷歌宣布正式将 TorchTPU 作为开源项目发布,使开发者能够基于原生 PyTorch 框架在谷歌 TPU 上构建与运行 AI 模型,以此打破英伟达 GPU 与 CUDA 的生态垄断。随后 Hugging Face 与 vLLM 亦同步宣布接入支持:vLLM 支持的大部分模型无需更改模型代码即可在 Cloud TPU 上运行,Hugging Face 生态也获得原生支持。

政策观点

1. Anthropic 游说国会推动 AI 安全法案草案,拟在极端伤亡风险下阻断模型发布

据 Politico 报道,Anthropic 正在美国国会推介一份新的 AI 安全立法草案,旨在推动建立行业监管框架。草案提出,若在商务部注册的独立评估人员判定模型构成迫在眉睫的灾难性风险——例如可能使超过 50 人面临死亡风险,或造成超过 10 亿美元财产损失,且风险源于生物武器、模型绕过开发者控制或网络攻击——评估人员须在 72 小时内通知商务部,由商务部向哥伦比亚特区法官申请叫停模型发布;法案明确禁止联邦机构自行决定阻断分发。

2. 美国国土安全部下令联邦民用机构全面禁用 DeepSeek AI 技术

美国国土安全部已发布指令,要求联邦民用机构从其 IT 系统中全面清除中国实验室 DeepSeek 的 AI 产品,并禁止采购相关新技术。该禁令范围同时涵盖关联公司产品以及基于 DeepSeek 构建的第三方衍生服务,不过官方尚未设定具体执行截止日期或说明确切的安全风险细节。

3. 联邦法官裁定 Meta 必须指认批准使用盗版网站图书训练 AI 的高管名单

在涉及版权侵权的多起集体诉讼中,联邦地方法官裁定 Meta 必须明确披露哪些主管和高管批准了从 Anna’s Archive、LibGen 等影子网站下载盗版图书用于 AI 训练。此前 Meta 员工在作证中称下载行为获得了上级许可,而 Meta 曾试图将责任归咎于基层员工个人操作。


本文由 AI225 AI 日报 自动聚合整理,共收录 29 条 AI 领域动态。内容基于公开信息进行 AI 摘要与归纳,可能存在疏漏或偏差,仅供参考。完整内容及相关来源请访问:
https://daily.ai225.com/daily/2026-10-21

Logo

DAMO开发者矩阵,由阿里巴巴达摩院和中国互联网协会联合发起,致力于探讨最前沿的技术趋势与应用成果,搭建高质量的交流与分享平台,推动技术创新与产业应用链接,围绕“人工智能与新型计算”构建开放共享的开发者生态。

更多推荐