4. 【具身智能】多 Agent 具身智能家庭管家机器人系统方案
1 前言
当前市面上家庭智能设备大多是单点能力产品:扫地机器人只负责清扫、家用摄像头仅承担安防监控、语音音箱只能完成简单对话。各类设备相互独立、数据不通,无法协同完成复合型家庭任务。
本文设计一套多 Agent 家庭管家机器人集群方案,融合全屋固定传感器阵列、固定点位相机,搭配搭载激光雷达的移动机器人,依托大模型多智能体架构,将环境感知、安防、家务、物品递送、家庭事务、人机交互能力整合为统一系统。用户一句自然语言指令,系统自动拆解任务、调度机器人集群协同执行。底层基于 ROS2 Humble + Qt 上位机开发,Agent 只负责高层任务规划,不侵入底层运动控制逻辑,保障系统实时性与运行安全。
硬件组成清单:
- 移动管家机器人(激光雷达 + 移动 RGB 相机,支持全屋自主移动)
- 全屋固定感知阵列:固定点位相机 + 各类环境传感器,部署在门口、厨房、客厅、卫生间等区域,7×24 小时持续监测
- 多机器人集群:支持单机独立运行,也支持多机器人协同作业
- 人机交互终端:机器人本体语音、手机 APP、Qt 管理面板,用于下发指令、查看画面、接收告警、对话交互
2 整体设计思路
核心设计原则:分层解耦,由简单能力逐步构建复杂任务,多 Agent 负责认知决策,底层机器人控制栈保持确定性。
- 感知层:固定传感器 + 固定相机实现全天候持续监测;移动机器人携带雷达 + 机载传感器、移动相机完成机动巡检与近距离复核观测;
- 技能层:封装标准化机器人技能接口,Agent 只能调用预定义技能,禁止直接下发电机、速度指令;
- 认知层:多 Agent 协同,完成自然语言理解、任务拆解、安全校验、家庭记忆管理;
- 执行层:ROS2 Nav2、MoveIt、Qt 上位机负责导航、运动、抓取等底层执行;
- 安全层:独立安全规则引擎,高危动作强制人工确认,规避安全风险。
3 核心功能模块(由易到难)
模块 1:自然语言对话陪伴(基础交互能力)
作为全系统人机交互入口,是所有功能的基础。
- 日常闲聊:支持多轮对话,陪家人聊天、讲故事、讲笑话;可以记住家庭成员、家庭物品位置等上下文信息。
- 生活问答:查询天气、菜谱、出行建议等生活常识。
- 情感陪伴:面向老人、儿童提供陪伴对话;支持主动提醒,例如夜间提醒休息。
- 交互方式:语音唤醒、文字输入,支持对话中途打断。
- 家庭记忆:长期记录家庭成员偏好、物品常用摆放位置。
模块 2:全屋环境巡检 & 安全监测(基础感知能力)
感知源分为:全屋固定传感器阵列 + 固定相机常驻监测 + 移动机器人机动巡检 + 机载传感器复核
- 定时全屋巡检:支持自定义巡检点位、巡检路线,自动定时执行;也支持用户随时手动发起单次巡检。
- 多维度环境参数监测
- 温湿度监测:固定点位 + 移动机器人机载温湿度探头采集各房间温湿度;温湿度超出预设阈值触发告警;对接互联网天气预报,结合室内外环境智能提醒(例:室外降雨,室内湿度上升,建议关闭窗户;室外高温,提醒合适开窗通风时段)。
- 空气质量监测:PM2.5、PM10、TVOC 检测,室内空气污染超标推送告警,联动新风机。
- 光照监测:采集房间亮度,辅助智能灯光、窗帘联动。
- 噪声监测:采集室内噪音分贝,夜间噪音超标触发提醒。
- 厨房专项安全监测
- 固定相机常驻监测:持续识别灶台明火、燃气阀门状态、烟雾;
- 红外热成像监测:识别灶台、插座、电器异常高温热源;
- 可燃气体传感器监测天然气泄漏;CO 一氧化碳传感器防范不完全燃烧中毒;烟雾传感器实现火灾早期预警;
- 移动机器人定点巡检:定期前往厨房复核燃气、灶台、电器温度状态。
- 漏水监测:厨房、卫生间部署水浸传感器,检测积水漏水,触发告警。
- 防盗振动监测:门窗部署振动传感器,检测窗户被撬动、撞击振动,触发安防告警。
- 定向环境查看:调度机器人前往指定房间,查看窗户、灯光、地面状态,返回文字 + 现场照片。
- 多类型异常识别:识别地面积水、地面杂物、人员跌倒等风险事件;PIR 人体红外传感器作为相机补充,暗光下检测人体活动,降低摄像头持续录制功耗。
- 告警推送:识别异常后,本地语音提醒,手机 APP 推送告警信息 + 现场图片;可联动智能家居切断燃气电磁阀、启动排风设备(需配套硬件)。
传感器选型说明
- 红外热成像:属于安全类核心传感器,可检测隐形高温隐患,弥补可见光相机无法测温的短板;普通 PIR 人体红外不作为主识别源,仅作为相机辅助,降低功耗,减少隐私录像。
- 激光雷达作为机器人主避障,超声波做低矮障碍物补盲;碰撞传感器作为最后一级物理安全兜底。
- 固定传感器负责 7×24 小时不间断监测;移动机器人负责机动复核。单一传感器容易误报,采用多源融合判断,提升告警可靠性。
模块 3:看家护院安防告警(固定相机为主,移动机器人复核)
- 24 小时固定相机值守:门口、客厅点位持续视频监控。
- 人员分类识别:区分家人、宠物、陌生人;识别门口长时间逗留、窗口异动、闯入事件,自动抓拍并推送手机告警。
- 移动机器人现场复核:固定相机触发告警后,调度移动机器人前往现场近距离拍照、语音喊话。
- 看家模式一键切换:离家自动布防,回家自动撤防;告警录像片段自动保存,支持历史录像回放。
模块 4:门禁访客管理
- 门口固定相机抓拍访客画面,实时推送至手机。
- 远程视频对讲:手机端与门口访客双向语音通话。
- 远程授权开门:主人核验访客身份后 APP 一键开门;支持给快递、保洁设置限时临时开门权限。
- 开门日志:记录每次开门时间、人员、开门方式,可回溯查询。
- 机器人辅助复核:可调度移动机器人到门口,辅助查看门口现场情况。
模块 5:小件物品搬运递送
- 跨房间小件转运:完成物品取件、转运、放置,支持水杯、书本、遥控器、小型包裹等轻量物品在房间之间递送。
- 物品校验:视觉识别物品尺寸、体量,超重 / 超大物品拒绝搬运并提示用户。
- 取放核验:抓取前拍照确认目标物品;放置完成后拍照反馈任务结果。
- 高危物品拦截:刀具、易碎玻璃、热水等危险物品,直接拒绝搬运指令。
模块 6:快递取件辅助
依赖【门禁管理】+【小件物品搬运递送】模块能力。
前置硬件条件:智能门禁 + 门口安全投递区
- 包裹识别:门口固定相机识别快递包裹,推送取件提醒。
- 快递临时授权:用户远程视频确认后,临时授权开门,供快递员放置包裹。
- 机器人取件搬运:调度移动机器人到门口取包裹,搬运送至室内指定房间。
- 面单信息采集:搬运至桌面后拍摄快递面单,读取快递信息。
安全限制:机器人不执行拆包操作(刀具安全风险)。
模块 7:家务清扫
- 自主全屋吸尘清扫;自动避开线缆、拖鞋、地毯等障碍物。
- 分区清扫:支持指定单一房间清扫。
- 脏污区域识别:视觉识别地面污渍,对脏污区域重点重复清扫。
- 清扫报告:任务结束生成清扫报告,标注已清扫区域、因障碍物无法清扫区域。
- 自动回充:电量不足自动返回充电桩,充电完成自动接续未完成清扫任务;遇到地面散落杂物,提醒用户整理后继续清扫。
模块 8:家庭事务管理(水电燃气账单)
- 表计读数采集:移动机器人定点拍照抄表,或固定相机持续读取水表、电表、燃气表读数。或接入网络获取。
- 账单提醒:到缴费周期主动提醒用户缴纳水电燃气费用。
- 消耗台账:记录每月用量,生成月度消耗简报(包含室内温湿度、空气质量统计)。
- 缴费快捷入口:APP / 管理面板提供缴费跳转链接。
安全限制:机器人不直接发起支付,支付操作由用户确认执行。
模块 9:儿童作业辅导
- 拍照识题:相机拍摄习题,解析题目内容。
- 学习辅导:数学、语文、英语习题讲解、作文润色、古诗文听写、单词朗读。
- 坐姿矫正:视觉识别孩子弯腰、离书本过近,语音提醒纠正坐姿。
- 学习计划管理:协助制定学习任务,定时提醒学习与休息。
- 家长管控模式:家长可控制答案是否展示,防止孩子直接抄答案。
模块 10:智能家居联动
- 设备控制:语音 / APP 下发指令,控制灯光、窗帘、空调、智能插座。
- 状态查询:查询智能家居设备当前工作状态。
- 场景联动策略:支持预设场景联动,例如识别燃气异常自动联动关闭燃气阀、离家一键关灯。
模块 11:多机器人集群协同(高阶能力)
依赖前面全部基础模块,属于系统调度层能力。
- 任务自动拆分分配:收到复杂自然语言指令,自动拆分子任务,分配给不同机器人并行执行。
- 示例:同时执行「客厅清扫」+「查找车钥匙」,清扫机器人负责打扫,另一台机器人检索物品。
- 信息共享:集群内机器人共享地图、障碍物、物品位置、告警信息,一台机器人发现的物品位置,全集群共用。
- 任务接力:机器人电量不足自动回充,同集群其他机器人接力继续完成未完成任务。
- 冲突避让:多机器人相遇自动避让,避免堵路。
- 集群监控:统一管理面板查看全部机器人电量、实时位置、任务进度;支持随时新增机器人加入集群。
4 系统全局调度能力(多 Agent 业务层,跨模块公共能力)
- 自然语言任务拆解:一句话接收复合任务,自动拆分为可执行子任务。
示例指令:“我出门上班,开启看家模式,全屋清扫一遍,顺便检查厨房燃气。” 系统拆解:开启安防布防 → 启动全屋清扫任务 → 调度机器人巡检厨房燃气。
- 异常动态处理:任务执行遇到障碍自动重试;无法完成则询问用户备选方案。
- 任务优先级策略:安防告警 > 安全巡检 > 递送 / 清扫 > 闲聊。安全事件触发时,自动暂停家务任务优先处理告警。系统综合融合图像、雷达、各类环境传感器、互联网天气数据做多源信息融合,降低单一传感器误报率。
- 用户权限管理:区分主人、老人、儿童权限;儿童账号禁止开门、搬运高危物品等高风险操作。
5 人机交互与消息通知(全局公共能力)
- 多渠道推送:手机 APP、机器人本地语音、Qt 管理面板;告警、任务完成、账单提醒均可推送。
- 多媒体消息:告警、巡检、物品查找完成后,附带现场照片 / 短视频推送。
- 任务日志:永久保存机器人任务记录、告警记录,支持随时回溯查看。
- 语音播报:实时播报任务进度、异常事件。
6 全局安全约束(所有模块统一规则)
- 高危动作二次确认:开门、联动燃气切断阀等高危操作,必须用户确认才可执行。
- 禁区自定义:可划定机器人禁止进入区域(婴儿房、浴室)。
- 碰撞与人体保护:靠近人体自动减速,内置碰撞传感器物理防护。
- 隐私总开关:一键关闭所有摄像头图像采集与录像。
7 系统总体架构
7.1 多 Agent 角色划分
系统认知层采用多 Agent 分工协作模式,每个 Agent 职责单一,解耦设计,避免大模型单 Agent 职责臃肿。
- 交互 Agent 负责接收用户语音 / 文字指令,完成 ASR、语义理解,对话管理;回答闲聊类问题;将用户指令转发给任务规划 Agent;把系统执行结果、告警信息整理成自然语言反馈给用户。
- 任务规划 Agent 系统核心调度 Agent。接收交互 Agent 的用户指令,将复合任务拆解为有序 / 并行子任务;结合任务优先级、机器人集群状态、地图信息,分配子任务到对应机器人;监控任务执行状态;子任务失败时生成重试策略或者询问用户。
- 感知融合 Agent 统一汇聚固定传感器、固定相机、移动机器人机载传感器、互联网天气数据;对多源数据做融合分析,过滤传感器噪声,降低误告警;识别环境异常事件(燃气泄漏、高温、漏水、闯入等);产生告警事件推送给任务规划 Agent 与通知模块。
- 安全校验 Agent 独立安全守门 Agent。所有待执行动作(开门、燃气阀联动、搬运物品等)都必须经过安全校验 Agent 审核;根据权限规则、禁区配置、物品风险等级判断动作是否允许执行;高危动作拦截并触发人工确认流程。
- 家庭记忆 Agent 持久化管理家庭知识库:房间地图、物品存放位置、家庭成员信息、用户习惯、历史任务记录、传感器历史数据;为其他 Agent 提供记忆查询能力,持续学习家庭环境信息。
7.2 数据流文字描述
- 用户下发任务数据流 用户(语音 / APP/Qt 面板)→交互 Agent 解析自然语言→交互 Agent 把结构化任务提交给任务规划 Agent→任务规划 Agent 查询家庭记忆 Agent 获取家庭环境信息→任务规划 Agent 拆分任务,提交给安全校验 Agent 做权限 & 风险校验→校验通过后,下发标准化技能指令到 ROS2 技能执行层→ROS2 驱动机器人集群、传感器、智能家居硬件执行动作→执行过程中的图像、传感器数据回传给感知融合 Agent→任务执行结果回传给任务规划 Agent→交互 Agent 整理结果,语音 / APP 反馈给用户,同时写入家庭记忆 Agent 持久化保存。
- 主动告警数据流(传感器触发,无需用户指令) 各类固定传感器、相机、移动机器人机载感知数据 → 感知融合 Agent 做数据融合、异常判断 → 感知融合 Agent 生成告警事件,推送给任务规划 Agent → 任务规划 Agent 按照最高优先级暂停现有任务,调度机器人现场复核;同时交给安全校验 Agent 确认告警联动策略 → 通知模块推送告警消息(APP、语音);告警事件写入家庭记忆 Agent 留存日志。
- 外部数据流入数据流 互联网天气 API → 感知融合 Agent,作为环境决策辅助数据,生成环境提醒。
7.3 分层架构说明
- 感知层:各类传感器、摄像头、激光雷达,原始数据采集;
- 认知 Agent 层:交互 Agent、任务规划 Agent、感知融合 Agent、安全校验 Agent、家庭记忆 Agent;
- 技能抽象层:封装机器人标准化技能接口(巡检、清扫、抓取搬运、导航、拍照、智能家居控制);
- ROS2 执行层:ROS2 节点(Nav2、MoveIt、图像识别节点、传感器驱动节点);
- Qt 上位机:集群状态监控、可视化面板、任务日志管理;
- 终端层:手机 APP、机器人语音交互。
8 典型业务场景示例
场景 1:离家场景
用户语音:“我出门上班,开启看家模式,机器人打扫全屋,顺便检查厨房燃气。”
- 开启全屋固定相机看家布防,PIR 人体红外、振动传感器进入值守状态;
- 调度清扫机器人启动全屋清扫;
- 调度巡检机器人前往厨房,采集燃气、CO、温度数据并检查燃气阀门;
- 如果清扫时识别地面积水,或传感器检测到燃气泄漏、高温、烟雾,立刻暂停清扫,手机推送告警;
- 后台持续拉取互联网天气,若预报暴雨,提前推送提醒用户回家检查门窗。
场景 2:快递到家
固定相机识别门口快递,推送手机提醒。用户远程视频核验,临时授权开门。调度移动机器人到门口取包裹,搬运送到客厅茶几,拍照通知主人快递送达。
场景 3:多机协同任务
用户:“清扫客厅,同时帮我找一下车钥匙。” 清扫机器人负责清扫客厅;另一台移动机器人在全屋检索钥匙,找到后拍照汇报位置。
9 方案总结与展望
本方案把多 Agent 具身智能和传统 ROS2 服务机器人结合,打破单一功能家电孤岛。系统采用模块化设计,从最简单的对话交互,逐步叠加巡检、安防、家务、多机协同能力,可分阶段开发验证。
- MVP 阶段:先实现单机器人,完成导航、巡检、语音交互;
- 迭代阶段:叠加物品搬运、清扫、智能家居联动;
- 高阶阶段:落地多机器人集群协同。
后续扩展方向:数字孪生可视化、RAG 家庭知识库、老人跌倒健康监测、更多智能家居设备接入。
本文为产品功能方案,暂未深入底层代码与 ROS2 节点实现。大家觉得家庭管家机器人最刚需的功能是什么?欢迎评论区交流。
DAMO开发者矩阵,由阿里巴巴达摩院和中国互联网协会联合发起,致力于探讨最前沿的技术趋势与应用成果,搭建高质量的交流与分享平台,推动技术创新与产业应用链接,围绕“人工智能与新型计算”构建开放共享的开发者生态。
更多推荐



所有评论(0)