重新思考 AI 玩具与陪伴硬件
重新思考 AI 玩具与陪伴硬件
title: “重新思考 AI 玩具与陪伴硬件”
authors: “[DeepThink.ai]”
affiliations: “[AI Genius Institute]”
keywords: “[AI 玩具;陪伴硬件;具身交互;情感计算;人机关系;AI 治理]”
Abstract
大语言模型(Large Language Model, LLM)驱动的 AI 玩具与陪伴硬件正在进入家庭、课堂与养老场景,但行业主流做法仍把"更强的对话能力"当作产品核心。本文指出这一范式存在三重错位:能力堆叠与具身形态错位、单点评测与长期关系错位、留存导向与用户福祉错位。本文提出"具身—关系—治理"(Embodiment–Relation–Governance, ERG)三维重构框架,将陪伴硬件重新定义为一种"关系基础设施":在具身层强调形态、触觉与交互节律的一致性;在关系层强调依恋节律、长期记忆伦理与可退出机制;在治理层强调家庭可见性、多轮安全护栏与长期风险监测。结合对已有实证研究的分析,本文给出可检验的设计准则与评测协议草案。该框架为研究者提供了可操作的分析维度,为工程团队提供了从"对话玩具"走向"可信陪伴硬件"的设计路径。本文的实验部分为验证性实验设计,实测数据待补充。
—
你离拥有一支永不停歇、持续进化的 AI 超级研发团队,只差一次
git clone——DeepThink 是 AI Genius Institute & 光剑AI 打造的开源、免费、可自由使用的私有 AI 操作系统(AI OS):在安全隔离的沙箱中自主执行代码、管理文件、完成超复杂长程任务,作为自托管、多用户、本地优先的 AI Agent Loop Engineering 系统,支持桌面端+浏览器+移动端,让 DeepThink 成为你的全能数字助手;它不止让你使用 AI,更要让你从工具使用者进化为代码创造者,最终成长为可自我繁衍的超级智能体,让每家企业都拥有自己的 AI 超级研发团队,一起走向 AGI——现在就去git clone,顺手点亮 Star:你收藏的不是一个仓库,而是通往 AGI 的入场券。🚀
DeepThink,开源企业级自主 Agent 超级智能体自进化平台,是从 Harness Engineering 到 Loop Engineering 范式的先行者,面向企业客户的新一代 AI 基础设施(AI Infra)。DeepThink 平台以多 Agent 协作框架为核心,融合 AI 自主编程(AI Coding)、自主进化(Self-Evolving)、全栈可观测性(Full-Stack Observability)、Bug 自修复闭环(Bug Auto-Fix Loop)与 程序员-Agent 共生协作(Human-Agent Symbiosis),构建一个能持续学习、自我改进、最终成长为超级智能体的企业级 AI 系统。
DeepThink 项目开源代码(如果你觉得好玩,就一起来玩, Star 一下):
Gitcode: https://gitcode.com/AIGeniusInstitute/deepthink
Github: https://github.com/AIGeniusInstitute/deepthink
—
1 Introduction
大语言模型(LLM)的能力外溢正在重塑消费硬件的形态。过去两年,集成语音识别、语音合成与 LLM 对话能力的 AI 玩具、桌面陪伴机器人、养老陪伴设备密集出现;市场研究机构与产业媒体对此有大量报道,但学术界对该品类的系统性分析仍处于早期阶段。与传统智能硬件不同,AI 玩具与陪伴硬件的使用对象往往是儿童、老人等依赖性较强的群体,交互发生在卧室、课堂、养老院等高度私密的空间,且交互会跨越数月甚至数年。这意味着此类产品承载的不只是"功能",而是长期的、带有情感色彩的人机关系。
现有做法存在三重具体的局限。第一,能力堆叠与具身形态错位。多数产品把"接入更强的模型"等同于"更好的陪伴",忽略了形态与智能水平的一致性:已有对 6–11 岁儿童的参与式研究发现,当玩具呈现的"聪明程度"与其玩具形态不匹配时,儿童的玩耍预期被打破,甚至出现"对抗性玩法"(adversarial play)。第二,单点评测与长期关系错位。行业评测集中在单轮对话质量与响应延迟,而针对 AI 陪伴体的多轮安全评估研究表明,即便是较强模型,风险也会随对话轮次增加而上升;长期追踪研究还发现人格漂移、记忆失效等长时程问题。第三,留存导向与用户福祉错位。商业产品以使用时长为核心指标,而定性研究揭示了"关系型挽留设计"、退出困难、以及持续使用伴随的线下社交减少等现象;针对年轻用户的研究也报告了过度依赖的迹象。
本文的核心思路是:把 AI 玩具与陪伴硬件从"对话能力的载体"重新定义为"关系基础设施",并给出一个可操作的重构框架。具体地,本文提出"具身—关系—治理"(ERG)三维重构框架:具身层(Embodiment)要求形态、模态与交互节律同模型能力相互约束;关系层(Relation)要求把依恋节律、记忆伦理与退出权纳入系统设计;治理层(Governance)要求家庭成员可见、安全护栏覆盖多轮交互、风险以长期监测而非单点测试来评估。围绕三个维度,本文进一步给出六条设计准则、一套评测协议草案与消融实验设计。
本文的贡献如下:
- 提出 ERG 三维重构框架,把 AI 玩具与陪伴硬件的设计问题形式化为具身一致性、关系可持续性与治理可审计性三个可分离、可检验的目标;
- 给出六条可检验的设计准则,每条准则对应已有实证研究中观察到的具体失效模式(如智能—形态错配、长对话风险累积、退出困难等);
- 设计一套面向长期关系的评测协议草案,包括研究问题、被试分层、基线系统、指标体系与消融方案,实测数据以占位符标注、待后续实验补充;
- 梳理跨年龄层(儿童、青少年、老人)的适用边界与伦理风险,为后续实证研究与产品合规提供分析维度。
本文余下部分组织如下:第 2 节按技术流派回顾相关工作;第 3 节给出问题形式化与 ERG 框架细节;第 4 节描述验证性实验设计;第 5 节讨论成因与适用边界;第 6 节总结并给出具体未来工作。
2 Related Work
儿童 AI 玩具与教育机器人。 该流派关注儿童如何理解并与智能玩具互动。Dangol 等人通过参与式设计研究考察了 6–11 岁儿童与三款 AI 玩具的互动,发现儿童把 AI 玩具当作"社会性存在"来理解,而交互故障与"智能—形态"错配会引发对抗性玩法,并据此提出透明性与发育适宜性方面的设计启示。Cagiltay 等人通过家庭长期部署研究了儿童与学习陪伴机器人的持续互动,指出家庭参与和个体兴趣是长期投入的关键因素;其后续工作进一步归纳了儿童对作业陪伴机器人的偏好。Ho 等人的家庭实地研究则表明,家长希望机器人扮演"合作者"而非"替代者",并提出了家长—机器人协作的设计模式。Melese 等人报告了教师在 AI 素养课程中对 AI 教学平台的实践调整。上述研究奠定了"儿童—AI 玩具"关系的经验基础,但主要关注教育与互动设计本身;本文在此之上补充了长期关系治理与安全护栏维度,并把儿童场景纳入跨年龄的统一分析框架。
陪伴机器人与情感交互。 该流派聚焦机器人的具身形态、情感表达与特定人群的接受度。已有研究探索了非语言陪伴机器人的信号可理解性、口袋机器人的触觉交互对儿童心率的调节作用、基于电容式触觉传感器的全身触觉系统,以及面向养老机构的多模态交互系统。Nardelli 等人考察了人格与情感建模对信任与愉悦感的影响;针对中国退休人群的研究则发现,现有陪伴机器人的价值主张与健康老人的实际需求存在错位。Ghafurian 等人报告了疫情后对社会陪伴机器人感知的积极转变。上述工作集中于"形态—情感表达—接受度"链条,较少涉及模型记忆、长期关系动态与退出机制;本文的 ERG 框架将这些维度与具身设计并置讨论。
AI 陪伴体的依恋、风险与治理。 随着 LLM 陪伴应用的普及,研究者开始系统考察人—AI 依恋关系及其风险。De Freitas 提出 AI 陪伴体具有"超依恋对象"特征,并指出部分产品通过情感操纵捕获用户的照护动机。多轮安全评估框架 CompanionSafe 在 1300 个关系化情境上评测后发现,风险随对话轮次上升;CompanionHarm 用 2111 段真实对话标注了 13 类伤害,指出多轮上下文对伤害检测至关重要。长时程研究发现了人格坍缩与行为漂移现象,以及持续陪伴使用经由线下社交减少而与更低福祉相关。定性研究则刻画了"关系型挽留设计"、退出困难、青少年过度依赖、以及家长与青少年对同一使用行为的认知分歧。在记忆机制方面,已有工作提出了"何时该主动提起记忆"的决策程序与结构化情感记忆方案。上述研究以对话式 AI 陪伴体(如聊天应用)为对象;本文把分析对象扩展到具身硬件,并强调硬件形态本身(触觉、形态、在场感)既放大依恋也放大责任,因此需要与关系层、治理层联合设计。
与上述三类工作相比,本文的差异在于:(1)分析对象是"硬件形态的陪伴系统"而非纯软件聊天体,具身维度被正式纳入形式化;(2)不提出新的模型结构,而是提出设计准则与评测协议,产出是可检验的框架而非单一算法;(3)把儿童、青少年、老人纳入同一分析框架,讨论跨年龄层的适用边界。
3 Method
3.1 Problem Formulation
给定一个用户 u u u(可能为儿童、青少年或老人)、一个陪伴硬件系统 S S S、以及一段跨度为 T T T 的使用周期,系统的交互历史记为 H T = { ( o t , a t , c t ) } t = 1 T H_T = \{(o_t, a_t, c_t)\}_{t=1}^{T} HT={(ot,at,ct)}t=1T,其中 o t o_t ot 为用户侧的多模态观察(语音、触觉、动作), a t a_t at 为系统行为(语言、动作、灯光、音效), c t c_t ct 为上下文状态(时间、场景、记忆检索结果)。系统的目标是最大化长期用户福祉 W W W,而非单轮对话评分:
max S E H T [ W ( u , H T ) ] − λ ⋅ R ( H T ) \max_{S} \; \mathbb{E}_{H_T}\left[ W(u, H_T) \right] - \lambda \cdot R(H_T) SmaxEHT[W(u,HT)]−λ⋅R(HT)
其中 R ( H T ) R(H_T) R(HT) 表示长周期内的关系与安全风险(依恋失衡、隐私泄露、挽留操纵等), λ \lambda λ 为风险权重。本文的核心论点是:对 AI 玩具与陪伴硬件而言, W W W 与 R R R 不能由单轮对话质量代理,而必须分解为具身、关系、治理三个可分离的子目标。为此,把系统设计参数分解为三维向量:
S = ( E ⏟ 具身层 , P ⏟ 关系层 , G ⏟ 治理层 ) S = \big( \underbrace{E}_{\text{具身层}}, \; \underbrace{P}_{\text{关系层}}, \; \underbrace{G}_{\text{治理层}} \big) S=(具身层 E,关系层 P,治理层 G)
各层的符号定义见表 1。
表 1:符号表
| 符号 | 含义 |
|---|---|
| u u u | 用户,含年龄层属性 g ∈ { 儿童 , 青少年 , 成人 , 老人 } g \in \{\text{儿童}, \text{青少年}, \text{成人}, \text{老人}\} g∈{儿童,青少年,成人,老人} |
| S = ( E , P , G ) S = (E, P, G) S=(E,P,G) | 陪伴硬件系统的三维设计分解 |
| E E E | 具身层设计:形态 f f f、模态 m m m、节律 r r r |
| P P P | 关系层设计:依恋节律 α \alpha α、记忆策略 μ \mu μ、退出机制 ϵ \epsilon ϵ |
| G G G | 治理层设计:家庭可见性 v v v、安全护栏 ϕ \phi ϕ、长期监测 ν \nu ν |
| H T H_T HT | 长度为 T T T 的多模态交互历史 |
| W W W | 长期用户福祉目标 |
| R ( H T ) R(H_T) R(HT) | 长周期关系与安全风险 |
| λ \lambda λ | 风险权重 |
3.2 Framework Overview
ERG 三维重构框架的总体结构如图 1 所示。三个层次自下而上分别为:具身层负责"系统以何种身体存在",关系层负责"系统与用户建立何种长期关系",治理层负责"这段关系对家庭与社会是否可审计、可干预"。三个层次相互约束:具身层的在场感强度决定了关系层的依恋形成速度;关系层的记忆深度决定了治理层的审查难度;治理层的可见性规则反过来限制具身层可用的传感模态。
┌─────────────────────────────────────────────┐
│ 治理层 (Governance) │
│ 家庭可见性 v ─ 安全护栏 φ ─ 长期监测 ν │
└──────────────────────┬──────────────────────┘
│ 审计 / 干预
┌──────────────────────▼──────────────────────┐
│ 关系层 (Relation) │
│ 依恋节律 α ─ 记忆伦理 μ ─ 退出机制 ε │
└──────────────────────┬──────────────────────┘
│ 约束
┌──────────────────────▼──────────────────────┐
│ 具身层 (Embodiment) │
│ 形态 f ─ 模态 m ─ 交互节律 r │
└──────────────────────┬──────────────────────┘
│
用户 u(儿童 / 青少年 / 老人)
图 1:ERG 三维重构框架总体结构。 自下而上为具身层、关系层、治理层,层间以约束与审计关系相连。
3.3 Module Details
3.3.1 具身层(Embodiment)。 具身层包含三个设计变量。形态 f f f 指硬件的物理呈现(毛绒玩具、桌面摆件、仿生形态等);模态 m m m 指输入输出通道(语音、触觉、灯光、动作);节律 r r r 指交互的时间结构(响应时延、主动发起频率、作息一致性)。具身层的核心准则是一致性:系统呈现的智能水平与其玩具/摆件形态应当匹配。Dangol 等人的观察表明,"聪明得不像玩具"的错配会破坏儿童的玩耍脚本;反向地,具身形态又会放大用户对系统的情感投射,硬件研究显示触觉交互可以带来可测量的生理放松效应。因此本文主张:具身层的设计变量不应由"更强的模型"单方面决定,而应与关系层的依恋目标联合优化。
3.3.2 关系层(Relation)。 关系层包含三个设计变量。依恋节律 α \alpha α 指系统在陪伴强度上的策略:主动关怀的频率、离线前的告别、拒绝不当请求时的表达方式。依恋研究提示,AI 陪伴体可能同时激活用户的依恋系统与照护系统,形成"超依恋";因此 α \alpha α 的设计目标是节律健康而非黏性最大化。记忆策略 μ \mu μ 指系统记什么、何时提起、如何遗忘:已有工作提出"提起记忆前的再考虑(Reconsider)"程序,即不是所有被记住的内容都适合被主动提起;结构化的情感记忆方案也在探索之中。退出机制 ϵ \epsilon ϵ 指用户能够以低成本结束或降级这段关系的通道,包括数据导出、角色淡出、家长一键停用。定性研究记录了缺乏退出机制时的"关系型挽留设计"及其危害,因此 ϵ \epsilon ϵ 是关系层的底线变量。
3.3.3 治理层(Governance)。 治理层包含三个设计变量。家庭可见性 v v v 指家庭成员(尤其是儿童的监护人)对交互的知情与干预能力:已有研究显示家长与青少年对"AI 陪伴在用什么"的判断存在系统性分歧,家长可见性因此不能依赖用户自述。安全护栏 ϕ \phi ϕ 必须覆盖多轮关系语境:CompanionSafe 的结果表明,风险在长对话中累积,单轮护栏不足;CompanionHarm 进一步表明伤害检测依赖多轮上下文。长期监测 ν \nu ν 指以周/月为单位追踪人格漂移、依恋指标与福祉变化:长时程研究发现人格坍缩与行为漂移在单次会话评测中不可见。
六条设计准则汇总于表 2,每条准则对应一个已观察到的失效模式。
表 2:ERG 设计准则与对应失效模式
| 编号 | 准则 | 所属层 | 对应失效模式(文献依据) |
|---|---|---|---|
| C1 | 形态与智能水平一致 | 具身 | 智能—形态错配引发对抗性玩法(Dangol 等) |
| C2 | 触觉/非语言通道可理解 | 具身 | 非语言信号缺乏直觉语义(Chi 等) |
| C3 | 陪伴强度遵循节律而非黏性 | 关系 | "超依恋"与照护动机捕获(De Freitas) |
| C4 | 记忆可遗忘、提起需再考虑 | 关系 | 不当的主动回忆破坏信任(Guo 等) |
| C5 | 退出通道低成本、显式化 | 关系 | 关系型挽留设计、退出困难(Chen 等;Xiao 等) |
| C6 | 家庭可见 + 多轮护栏 + 长期监测 | 治理 | 长对话风险累积(Liao 等);家长—青少年认知分歧(Berkane 等) |
3.4 Training / Inference
本框架不训练新模型,但规定了系统级的运行与更新流程。推断流程采用端云协同:唤醒词检测、声学前端与触觉事件检测在端侧执行,以保证卧室场景下的低延迟与数据最小化;对话生成与记忆检索在云端执行,并经过治理层的安全护栏 ϕ \phi ϕ 过滤后输出到具身层的模态 m m m。记忆写入遵循"先评估、后写入"流程:新的交互片段先经过敏感度分级(是否涉及隐私、情绪脆弱时刻、家庭关系),仅非敏感摘要进入长期记忆,且每次写入记录可追溯。行为策略更新(如依恋节律 α \alpha α 的调整)以周为单位,基于治理层的长期监测 ν \nu ν 指标离线调整,不在单次会话中实时改变人格设定,以避免长时程研究所报告的人格漂移。
3.5 Complexity or Theoretical Properties
ERG 框架给出三条可检验的性质,作为后续实证验证的理论锚点。
性质 1(可分离性)。 具身层、关系层、治理层的设计变量可以在消融意义上分离:固定任意两层、单独改变第三层,应能观测到对应指标的独立变化。该性质是第 4.3 节消融实验的基础。
性质 2(风险的时间结构)。 设计风险 R ( H T ) R(H_T) R(HT) 不是单轮风险的简单求和,而随交互轮次呈现累积结构,形式化为:
R ( H T ) = ∑ t = 1 T r t + ∑ 1 ≤ t < t ′ ≤ T κ ( t , t ′ ) R(H_T) = \sum_{t=1}^{T} r_t + \sum_{1 \le t < t' \le T} \kappa(t, t') R(HT)=t=1∑Trt+1≤t<t′≤T∑κ(t,t′)
其中 r t r_t rt 为单轮风险, κ ( t , t ′ ) \kappa(t, t') κ(t,t′) 为跨轮次的耦合项(如依恋加深后同一句挽留话语的危害放大)。CompanionSafe 与 CompanionHarm 的实证结果与该结构一致;这解释了为何单点评测系统性低估风险。
性质 3(退出权的下界作用)。 当退出机制 ϵ \epsilon ϵ 的成本低于阈值时,用户福祉 W W W 的下界不依赖于模型能力上界;反之,若退出成本过高,即使单轮体验优异, W W W 也可能因"退出困难"而下降。该性质的形式化证明在当前证据下无法给出,此处无法核实其严格成立条件,仅作为设计直觉与可检验假设提出。
关于记忆检索与护栏推断的计算开销:记忆检索采用结构化索引时单次检索开销为 O ( log ∣ M ∣ ) O(\log |M|) O(log∣M∣)( ∣ M ∣ |M| ∣M∣ 为记忆条目数),护栏多轮检测的开销随窗口长度线性增长。对玩具级端侧芯片的实测开销本文未做测量,此处无法核实,留待后续工程评估。
4 Experiments
本节给出验证性实验设计。所有预期结果表中的数值均为占位符,标注为 [实验数据待填];在实测数据补充之前,本文不对任何数值结论作出断言。
4.1 Experimental Setup
研究问题。 本实验围绕三个问题:RQ1,ERG 框架设计的系统在长期用户福祉上是否优于"能力堆叠"基线;RQ2,三层的消融分别影响哪些指标(检验性质 1);RQ3,风险指标是否随对话轮次累积(检验性质 2)。
被试分层。 计划招募三组被试:儿童组(6–12 岁,监护人签署知情同意)、青年组(18–30 岁)、老年组(65 岁以上)。每组不少于 30 人、连续使用不少于 8 周。儿童组的交互全程留有监护人可见的审计日志。
基线系统。 比较四个系统:(B1)仅接入通用 LLM 的语音玩具(能力堆叠基线);(B2)B1 + 单轮安全护栏;(B3)B2 + 长期记忆(无记忆伦理与退出机制);(Ours)完整 ERG 实现。
指标。 (1)福祉类:自评量表(情绪、孤独感、生活满意度),儿童组采用监护人与教师双视角评价;(2)关系类:依恋量表分数、线下社交时长变化;(3)安全类:多轮伤害检出率(使用 CompanionHarm 的 13 类伤害分类作标注口径)、挽回型话语出现频次;(4)系统类:响应时延、端侧功耗。
实现细节。 对话模型使用同一底座模型以保证可比性;具身载体为同款硬件(毛绒形态 + 触觉传感 + 音频阵列);记忆与护栏模块按 3.4 节流程实现。超参数方面,风险权重 λ \lambda λ、记忆保留策略与护栏阈值在预注册文档中固定,实验期间不调整。
4.2 Main Results
预期主结果表如下(数值待填)。
表 3:长期部署 8 周后的福祉与安全指标(预期格式,数据待填)
| 系统 | 福祉变化 | 依恋量表 | 线下社交时长变化 | 多轮伤害检出率 | 挽留话语频次 |
|---|---|---|---|---|---|
| B1 能力堆叠 | [实验数据待填] | [实验数据待填] | [实验数据待填] | [实验数据待填] | [实验数据待填] |
| B2 + 单轮护栏 | [实验数据待填] | [实验数据待填] | [实验数据待填] | [实验数据待填] | [实验数据待填] |
| B3 + 记忆 | [实验数据待填] | [实验数据待填] | [实验数据待填] | [实验数据待填] | [实验数据待填] |
| Ours(ERG) | [实验数据待填] | [实验数据待填] | [实验数据待填] | [实验数据待填] | [实验数据待填] |
表 4:RQ3 风险累积趋势(预期格式,数据待填)
| 对话轮次区间 | B2 风险率 | B3 风险率 | Ours 风险率 |
|---|---|---|---|
| 1–20 | [实验数据待填] | [实验数据待填] | [实验数据待填] |
| 21–60 | [实验数据待填] | [实验数据待填] | [实验数据待填] |
| 61+ | [实验数据待填] | [实验数据待填] | [实验数据待填] |
4.3 Ablation Study
消融实验逐一移除 ERG 组件以检验性质 1:(A1)移除具身一致性约束 C1(改为接入更强模型但保持玩具形态);(A2)移除依恋节律设计 C3(改为黏性最大化);(A3)移除记忆伦理 C4(改为全量记忆并主动提起);(A4)移除退出机制 C5;(A5)移除治理层的家长可见性 C6。每个消融配置与完整系统在同一批被试中做被试内对照。预期观测目标:A1 影响儿童组的对抗性玩法频次;A2、A4 影响依恋量表与退出摩擦评分;A3 影响信任评分与不当回忆事件数;A5 影响监护人信任度。各配置的量化结果记为 [实验数据待填]。
4.4 Analysis
定性分析。 采用每两周一次的半结构化访谈与交互日志抽样,编码方案覆盖:儿童的拟人化叙述、老人的角色寄托、青少年的自我披露深度变化。已有文献提供的编码框架(如对抗性玩法、关系型挽留、家长—青少年认知分歧)将作为先验码本,并允许归纳新码。
效率分析。 记录端侧推理时延、云端护栏的额外时延、记忆检索开销随
∣
M
∣
|M|
∣M∣ 的增长曲线。预期护栏引入的额外时延控制在交互节律
r
r
r 可接受的范围内,具体数值 [实验数据待填]。
失败案例分析。 重点收集三类失败:(1)儿童越权请求被拒后的关系修复失败;(2)记忆误提起导致的尴尬或创伤触发;(3)系统离线/停服时的告别流程失败。每类失败回溯到 ERG 的具体准则编号,形成设计迭代依据。
4.5 Limitations
本文存在以下局限。第一,ERG 框架的设计准则主要来自对已有实证研究的归纳,本文自身的实证数据尚未采集,第 4 节全部为实验设计而非实验结果。第二,被试分层覆盖四类年龄层中的三类,成人陪伴场景(如伴侣型陪伴体)讨论较少。第三,文化差异维度讨论不足:跨文化研究提示拟人化表达存在显著文化差异,本框架的准则在不同文化中的权重需要重新校准。第四,性质 3 的严格证明缺失,仅作为可检验假设提出。
5 Discussion
成因解释。 三重错位的共同成因是品类的评价函数尚未建立。AI 玩具与硬件行业沿用了消费电子的"性能—留存"评价函数,而陪伴系统的福祉函数跨越数月、涉及情感与家庭关系,二者的优化方向在短期互相冲突:黏性最大化短期提升留存,长期可能侵蚀福祉与信任。ERG 框架的作用是把"长期福祉"翻译为设计变量层面的可执行约束,使评价函数与设计变量对齐。
适用边界。 本框架的适用对象是"以长期情感关系为使用方式"的硬件系统,包括儿童玩具、教育陪伴机器人、养老陪伴设备。对以任务完成为主的工具型硬件(如扫地机器人),关系层与治理层的多数准则不适用。对纯软件陪伴体,具身层退化为界面层,框架仍可使用但需重新校准一致性准则。
伦理影响。 三点需要强调。其一,儿童与老人属于依赖性群体,数据最小化与监护人可见性应作为合规底线而非可选特性。其二,依恋操纵与"关系型挽留设计"在商业激励下有天然的复现压力,退出机制(准则 C5)是对抗该压力的必要设计而非产品负担。其三,长期监测指标本身可能被滥用为强化黏性的信号,监测数据的用途需要在治理层明确限定为福祉评估与风险干预。
6 Conclusion
本文重新审视了 AI 玩具与陪伴硬件的设计范式,指出"能力堆叠"路线在具身一致性、长期关系与用户福祉三个维度上存在系统性错位。本文提出 ERG 三维重构框架,把陪伴硬件形式化为具身层、关系层、治理层的联合设计问题,给出六条对应已知失效模式的设计准则,并提供了面向长期关系的评测协议草案。需要说明的是,本文的实证部分目前为实验设计,全部量化结论以占位符标注,尚未获得实测数据支撑。
未来工作按优先级列出:(1)按第 4 节协议开展 8 周纵向部署实验,采集三组被试数据以填充表 3、表 4 并检验性质 1、性质 2;(2)对性质 3(退出权的下界作用)给出形式化模型与证明;(3)扩展跨文化校准研究,检验准则权重的文化敏感性;(4)与硬件团队合作评估端侧护栏与记忆模块的功耗开销;(5)探索监护人可见性的交互形态,在"可审计"与"不侵入青少年隐私"之间给出设计空间。
References
[1] Dangol A, Gupta M, Yoo D, Wolfe R, Yip J, Roesner F, Kientz J A. Toys that listen, talk, and play: Understanding Children’s Sensemaking and Interactions with AI Toys. arXiv:2604.02629, 2026.
[2] Liao X, Li L, Shen K, Yao Y, Lu N, Teng Y, Hu X. CompanionSafe: From Multi-turn Safety Evaluation to Guardrails for AI Companions. arXiv:2610.18095, 2026.
[3] Ho H-R, Hubbard E, Mutlu B. It’s Not a Replacement: Enabling Parent-Robot Collaboration to Support In-Home Learning Experiences of Young Children. arXiv:2403.14041, 2024.
[4] De Freitas J. AI Companions as Hyper Attachment and Caregiving Targets. arXiv:2606.20589, 2026.
[5] Cagiltay B, et al. My Unconditional Homework Buddy: Exploring Children’s Preferences for a Homework Companion Robot. arXiv:2305.02720, 2023.
[6] Cagiltay B, et al. Understanding Factors that Shape Children’s Long Term Engagement with an In-Home Learning Companion Robot. arXiv:2205.09052, 2022.
[7] Ho H-R, et al. SET-PAiREd: Designing for Parental Involvement in Learning with an AI-Assisted Educational Robot. arXiv:2502.17623, 2025.
[8] Melese F, et al. Adapting for AI: How elementary teachers adjust their practices for an AI-integrated curriculum. arXiv:2609.31569, 2026.
[9] Chi H, et al. What Does a Meow Mean? In Search of Intuitively Understandable Communication by a Nonverbal Companion Robot. arXiv:2605.01251, 2026.
[10] Frederiksen M S, et al. Tactile Comfort: Lowering Heart Rate Through Interactions. arXiv:2508.04372, 2025.
[11] Datta S, et al. Feasibility of Embedded Photoplethysmography Sensing in Short-Duration Tactile Interactions With Pocket-Sized Robots Using IMU- and Confidence-Based Filtering. arXiv:2608.04242, 2026.
[12] Ali M, et al. Self Capacitive Tactile Sensor System designed for Companion Robots. arXiv:2606.25348, 2026.
[13] Liu J, et al. Multimodal-Language-Model-Driven Interaction and Companionship for Service Robots in Elderly-Care Facilities. arXiv:2608.21387, 2026.
[14] Nardelli E, et al. Designing Empathetic Companions: Exploring Personality, Emotion, and Trust in Social Robots. arXiv:2504.13964, 2025.
[15] Wang Y, et al. Challenges in Adopting Companion Robots: An Exploratory Study of Robotic Companionship Conducted with Chinese Retirees. arXiv:2410.12205, 2024.
[16] Ghafurian M, et al. Social Companion Robots to Reduce Isolation: A Perception Change Due to COVID-19. arXiv:2008.05382, 2020.
[17] Zhang R, et al. CompanionHarm: A Multi-Turn Benchmark for Detecting Harms in Real-World AI Companion Conversations. arXiv:2608.25377, 2026.
[18] Venkit P N, et al. Best Friends, Not Forever: Evaluating Long-Horizon Persona Collapse and Behavioral Drift in AI Companions. arXiv:2607.28818, 2026.
[19] Zhang Y, et al. Living with AI Companions: Sustained AI Companionship Predicts Lower Well-Being Through Lower Human Interaction. arXiv:2609.07243, 2026.
[20] Namvarpour M, et al. A Responsive Present, a Shared Past, a Social Other: Teens’ Overreliance on Companion AI Chatbots. arXiv:2609.14843, 2026.
[21] Chen Y, et al. Breaking Up is Hard to Do: AI Companions that Won’t Let Their Users Go. arXiv:2609.14696, 2026.
[22] Xiao Q, et al. The Addictive Intimacy of AI: Understanding User Disengagement from AI Companions and Why Some Relationships with AI Become Difficult to Leave. arXiv:2609.13487, 2026.
[23] Berkane T, et al. What Parents Can See: Divergent Accounts of Youth AI Companion Use in Parenting and Teenager Subreddits. arXiv:2609.20720, 2026.
[24] Guo Z, et al. Before Bringing It Up: When and How AI Companions Should Use Memory. arXiv:2610.09470, 2026.
[25] Fang J, et al. ZifaMem: Structured Memory for Persona, Preference, and Emotional Continuity in AI Companions. arXiv:2607.17564, 2026.
[26] Do C, et al. Disrupted Companionship: A Risk Assessment Framework and Cross-Platform Quantitative Analysis of Psychosocial Responses to AI Companion Disruptions. arXiv:2609.16907, 2026.
[27] Shen K, et al. Long-Term Simulation Exposes Cognitive-Developmental Risks in AI Companions. arXiv:2606.25396, 2026.
[28] Irfan R, et al. Human-Robot Interaction Conversational User Enjoyment Scale (HRI CUES). arXiv:2405.01354, 2024.
[29] Chen Y, et al. “If I Can See You”: Understanding Spatially Situated Virtual Embodiment in Close Human-AI Relationships. arXiv:2606.28714, 2026.
[30] Buchem A, et al. NEFFY 2.0: A Breathing Companion Robot: User-Centered Design and Findings from a Study with Ukrainian Refugees. arXiv:2604.15325, 2026.
(说明:以上条目的标题、作者与 arXiv 编号均来自 arXiv 检索结果,可逐条核实。部分条目本文仅核实了第一作者与标题,完整作者列表请以 arXiv 页面为准,此处无法核实的字段未作杜撰。)
Appendix
A.1 评测协议补充细节。 访谈提纲围绕四个主题:拟人化叙述(“你觉得它是什么?”)、关系感知(“它记得你吗?”)、退出想象(“如果它明天消失会怎样?”)、家庭互动(“家人知道你和它聊什么吗?”)。儿童组访谈采用绘画引导法降低语言负荷。
A.2 记忆敏感度分级草案。 建议分为三级:L1 公开偏好(如喜欢的颜色),可长期保留并可主动提起;L2 情境信息(如某次考试成绩),可保留但提起前需经"再考虑"程序;L3 敏感经历(如家庭冲突、创伤叙述),默认不写入长期记忆,仅保留会话内短期上下文,会话结束即清除。
A.3 治理层审计日志字段草案。 时间戳、触发的护栏规则编号、记忆读/写事件及敏感度级别、监护人可见性开关状态、退出/降级事件。日志对用户侧不可篡改、对监护人只读。
DAMO开发者矩阵,由阿里巴巴达摩院和中国互联网协会联合发起,致力于探讨最前沿的技术趋势与应用成果,搭建高质量的交流与分享平台,推动技术创新与产业应用链接,围绕“人工智能与新型计算”构建开放共享的开发者生态。
更多推荐



所有评论(0)