Agent 的价值，不在于更会聊天，而在于把目标变成可验证的行动。

很多人第一次接触 Agent，会把它理解成“更聪明的聊天机器人”。这个理解并不完整。

聊天机器人通常是：用户提问，模型生成回答。Agent 则要完成一件事：理解目标，决定下一步，调用工具，观察结果，再继续行动，直到任务完成或需要人介入。

一个 Agent 系统通常可以这样理解：模型负责推理，Harness 负责运行，工具负责行动，状态和上下文负责延续，工作流和护栏负责控制，评估和监控负责改进。

“Agent = LLM + Harness”是一种工程上的简写。Harness 可以译成运行框架或运行外壳，它把模型、工具、上下文、状态、权限和验证组织成一个可运行的系统。

— 图 1：Agent 不是单一模型，而是多个工程模块共同构成的系统。

并不是所有问题都需要 Agent。能提前写死步骤的任务，通常用脚本或 Workflow 更合适；只有需要动态判断和多轮推进时，Agent 的价值才会明显。

本文看点

01

Agent 如何运行

02

工具、状态与协作

03

质量、安全与上线

01

FOUNDATIONS

先理解 Agent 如何运行

1．Agent 与 Workflow：自主决策还是固定流程？

Workflow 是预先定义好的流程。它的步骤、分支和执行顺序，主要由程序决定。Agent 则会根据任务目标和环境反馈，动态决定下一步怎么做。

固定的报销流程可以写成：提交申请 → 检查金额 → 匹配预算 → 人工审批 → 生成付款单，这类任务适合 Workflow。

如果任务是“帮我定位线上故障并修复”，Agent 可能需要查看日志、阅读代码、运行测试、修改文件，再根据测试结果继续调整。步骤无法完全提前写死，这时才适合使用 Agent。

能提前写死步骤，用 Workflow；需要动态判断，再考虑 Agent。

— 图 2：Workflow 预先规定路径，Agent 根据反馈动态选择下一步。

来源：[A] Anthropic《Building effective agents》。

2．Agent Harness：模型的运行框架

大模型擅长理解和生成，但它不会天然管理任务进度，也不会自动决定工具权限、失败重试和停止条件。

Harness 通常负责：

组织系统指令和工具定义；控制模型与工具之间的循环；管理上下文和任务状态；处理超时、重试和中断。

执行权限和安全检查；保存检查点；验证最终结果；记录运行轨迹。

可以把模型想象成发动机，把 Harness 想象成汽车的底盘、方向盘、刹车和仪表盘。同一个模型放进不同 Harness，表现可能完全不同。

— 图 3：Harness 将模型、工具、状态、循环、权限和验证组织成可运行的 Agent 系统。

来源：[C] Anthropic《Effective harnesses for long-running agents》；[E] OpenAI《Agent definitions》；[K] OpenAI《Harness engineering》。

3．Agent Loop：模型与工具的循环

Agent 的基本运行单元不是“一问一答”，而是一个循环：理解目标 → 选择行动 → 调用工具 → 观察结果 → 再次决策。

常见执行方式有两种：ReAct，也就是边思考、边行动、边根据结果调整；Plan-and-Execute，也就是先形成总体计划，再逐步执行。复杂任务通常会把两者结合。

— 图 4：Agent Loop 是模型—工具的内层循环。

循环必须有边界，例如最大步数、超时、失败次数、验证条件和人工接管条件，否则 Agent 可能不断重复无效操作。

来源：[A] Anthropic《Building effective agents》。

4．Loop Engineering：围绕循环设计系统

Agent Loop 只解决“一次任务如何行动”。当任务需要运行很久、反复验证或自动触发时，还需要设计更外层的循环，这就是 Loop Engineering。

常见的循环层次包括：

Agent loop：模型调用工具，完成任务。

Verification loop：检查结果，不合格就反馈并重试。

Event-driven loop：由事件、Webhook 或定时任务触发 Agent。

Hill-climbing loop：分析运行轨迹，持续改进 Prompt、工具和 Harness。

Loop Engineering 不只是“让 Agent 一直运行”，而是把触发、执行、验证、恢复和改进组织成一个完整系统。

来源：[I] LangChain《The Art of Loop Engineering》；[C] Anthropic《Effective harnesses for long-running agents》。

5．State、Checkpoint 与 Resume：记录任务进行到哪了

State 是 Agent 运行过程中的事实状态，例如当前步骤、已调用的工具、工具返回值、修改过的文件和待办事项。Checkpoint 是某个时间点的状态快照。Resume 是从快照恢复任务，继续执行。

这三者对长任务尤其重要。一个编码 Agent 可能运行数小时甚至数天，如果每次上下文窗口切换后都要重新猜测之前发生了什么，效率和可靠性都会下降。

可靠的系统还会保存进度文件、任务清单、版本记录和中间产物，让下一次运行可以快速接手。

— 图 5：State 保存任务事实，Context 决定模型本轮看到什么。

来源：[C] Anthropic《Effective harnesses for long-running agents》；[E] OpenAI《Agent definitions》。

6．Context Engineering：决定模型这一轮看到什么

Context 是模型本轮推理时真正能看到的信息，可能包括系统指令、当前任务、最近消息、工具说明、工具返回值、检索结果、历史摘要、业务规则和权限边界。

Context Engineering 的重点，不是把资料全部塞进去，而是让模型在正确时间看到正确的信息。上下文太少，模型缺少事实；上下文太多，模型会被无关信息干扰。

进入多轮和长任务后，工程师需要持续整理、筛选、压缩和更新上下文。

来源：[B] Anthropic《Effective context engineering for AI agents》；[K] OpenAI《Harness engineering》。

7．Retrieval、RAG 与 Grounding：让判断建立在事实之上

模型不会自动知道企业数据库里的最新订单，也不会自动知道代码仓库刚刚发生了什么变化。Agent 需要通过检索和外部系统获取事实。

RAG：从知识库检索相关资料。

Live Retrieval：在执行过程中获取最新信息。

Grounding：让模型的回答和行动建立在可追溯的外部事实之上。

常见数据来源包括文档库、代码库、数据库、CRM、ERP、搜索引擎和实时 API。检索还要决定查什么、查多少、如何排序、信息是否可信，以及什么时候需要重新查询。

来源：[A] Anthropic《Building effective agents》；[B] Anthropic《Effective context engineering for AI agents》。

02

ACTION & COLLABORATION

让 Agent 能够行动、复用和协作

8．Tool Calling 与 MCP：连接外部世界

Tool Calling 让模型能够调用外部工具，例如查询数据库、读取文件、搜索互联网、创建订单或修改代码。

MCP，也就是 Model Context Protocol，是一种标准化的工具和上下文接入协议，让不同来源的能力用较统一的方式被 Agent 发现和调用。

可以把 MCP 理解成 Agent 世界里的“USB 接口”。工具背后可以是数据库、业务服务或本地程序，但接入方式更统一。工具设计需要注意描述、参数、返回值和错误信息，因为模型正是依靠这些信息来判断该不该调用、怎么调用、失败后怎么办。

— 图 6：Tool Calling 连接外部能力，MCP 统一接入方式。

来源：[A] Anthropic《Building effective agents》；[J] Model Context Protocol 官方文档。

9．Structured Outputs 与 Tool Schemas：让输入输出可校验

Agent 不应该只依赖自然语言传递结构化数据。Tool Schema 用结构化方式定义工具参数；Structured Outputs 要求模型按照明确格式返回结果；程序再对这些结果进行校验。

一个可靠的工具契约通常要说明：

参数类型和必填项；返回数据的结构；成功、失败和部分成功的状态；错误码和错误信息。

工具是否会产生副作用；哪些参数需要额外审批。

让模型返回一段看起来像 JSON 的文本，不等于真正可校验的结构化输出。

来源：[E] OpenAI《Agent definitions》；[J] Model Context Protocol 官方文档。

10．Skills：复用做事的方法

工具回答的是“能做什么”，Skill 回答的是“应该怎么做”。例如 Bug 修复 Skill 可以规定：复现问题 → 定位原因 → 修改代码 → 运行测试 → 检查回归 → 输出变更说明。

一个 Skill 通常包含触发条件、所需输入、推荐步骤、可调用工具、输出模板和验收标准。Skill 更像结构化的知识和操作规范，而不是把所有业务逻辑写成复杂程序。

最有价值的 Skill，往往来自真实项目中反复出现的错误和遗漏。

来源：[K] OpenAI《Harness engineering》中关于将规范、计划和知识库变成 Agent 可读工件的实践。

11．Memory：保存跨任务的长期经验

Memory 是 Agent 的持久化记忆，用来保存跨任务仍然有价值的信息，例如用户偏好、历史决策、工程经验和常见问题的解决方法。

Session：一次任务过程。State：当前任务的事实状态。Knowledge：相对稳定的参考知识。

Memory：从过去任务中提炼出来的长期经验。Context：模型本轮实际看到的信息。

Memory 不应该保存所有聊天流水账。无关、过期或未经整理的信息，进入记忆后可能变成未来的噪音。

来源：[A] Anthropic《Building effective agents》；[E] OpenAI《Agent definitions》。

12．Workflow Orchestration：控制整体流程

Workflow Orchestration 负责安排 Agent、工具、规则和人工环节之间的关系。企业流程通常需要“确定性主干＋局部智能判断”。

例如采购流程可以固定为：读取申请 → 检查预算 → 风险评估 → 人工审批 → 创建订单。其中，风险评估可以交给 Agent，但审批节点、预算约束和创建订单的条件仍由工作流控制。

编排的目标不是限制 Agent 的所有自主性，而是明确哪些步骤必须执行、哪些结果需要验证、哪些动作必须经过批准。

来源：[A] Anthropic《Building effective agents》；[E] OpenAI《Agent definitions》。

13．Multi-Agent 与 A2A：让多个 Agent 分工协作

当任务涉及多个专业领域时，可以把工作拆分给不同 Agent，例如规划 Agent、前端 Agent、后端 Agent 和测试 Agent。多 Agent 的常见收益是职责更清晰、上下文更独立、部分任务可以并行执行。

但多 Agent 也会增加协调成本。每个 Agent 都需要明确职责、输入、输出和交接方式，否则容易出现重复工作、互相覆盖或循环调用。

MCP 主要解决 Agent 与工具的连接；A2A，也就是 Agent2Agent，关注 Agent 与 Agent 之间的能力发现、任务协作和状态同步。

— 图 7：多个 Agent 可以分工协作，但需要清晰的职责边界和信息交接。

来源：[H] Google《Announcing the Agent2Agent Protocol》；[E] OpenAI《Agent definitions》。

14．Ontology（本体）：统一业务语义

企业里的“客户”“订单”“状态”“分配”等词，往往有自己的业务含义。Ontology 用结构化方式描述业务对象、属性、关系和规则。

例如在电信业务中，可以定义客户、套餐、订单、工单之间的关系，也可以定义“欠费客户不能变更套餐”这样的约束。

Ontology 解决的是“业务世界是什么样的”；Retrieval 解决的是“这个世界现在发生了什么”。两者结合，Agent 才能既理解业务规则，又获取最新事实。

Ontology 对复杂企业系统很有价值，但不一定是所有 Agent 项目的起点。简单场景通常可以先从清晰的业务术语表和规则文档开始。

— 图 8：Ontology 描述业务语义，Retrieval 获取实时事实，Grounding 支撑基于事实的判断。

来源：[N] W3C《OWL Web Ontology Language》；Ontology 在 Agent 场景中通常作为企业级语义建模能力使用。

03

QUALITY & OPERATIONS

让 Agent 可测试、可观测、可恢复

15．Evals：定义什么叫“做对了”

Agent 的输出具有随机性，而且往往会经过多轮工具调用。因此，不能只靠人工试用几次来判断系统质量。Evals，也就是 Agent Evaluation，需要把任务、输入、成功标准和评分逻辑固定下来。

Task：一个待完成的测试任务。Trial：任务的一次运行。Grader：对结果或过程进行评分的规则、模型或人工。

Trace：一次完整的执行轨迹。Outcome：环境中的最终结果。Evaluation Suite：覆盖一组场景的测试集合。

好的评估既看最终结果，也看执行过程。答案看起来正确，但如果调用了错误工具、违反了安全策略，仍然应该判定为失败。

16．Observability：看清 Agent 为什么这样做

可观测性不是简单打印几行日志，而是记录 Agent 的完整运行轨迹：看到了哪些上下文、调用了哪些工具、为什么选择某个工具、运行了多少轮、消耗了多少 Token 和时间、哪一步发生了错误、使用了哪个 Prompt、Skill 或模型版本。

Trace 就像 Agent 的黑匣子。没有 Trace，故障排查只能靠猜；有了 Trace，才能定位问题、比较版本和分析成本。

— 图 9：生产 Trace 经过评分和分析，反过来推动 Prompt、工具和 Harness 改进。

来源：[D] Anthropic《Demystifying evals for AI agents》；[G] OpenAI《Evaluate agent workflows》；[I] LangChain《The Art of Loop Engineering》。

17．Reliability and Recovery：失败之后还能回来

生产 Agent 必须假设失败一定会发生：网络可能中断，工具可能超时，模型可能选错工具，任务也可能只完成了一半。

可靠性设计需要考虑：超时和重试、幂等性、断点续跑、状态恢复、事务和补偿操作。

还要处理部分成功、版本回滚，以及失败后转人工。

特别是下单、扣款、发信和删除数据等有副作用的动作，不能简单地“失败就重试”，必须防止重复执行。

来源：[C] Anthropic《Effective harnesses for long-running agents》；[K] OpenAI《Harness engineering》。

18．Cost、Latency 与 Model Routing：智能也要有预算

Agent 通常比一次模型调用更慢、更贵，因为它可能多轮调用模型和工具。生产系统需要关注单任务成本、Token 使用量、端到端延迟、工具等待时间和重试次数。

Model Routing 可以让简单任务使用成本较低的模型，复杂任务再使用更强的模型。Prompt Caching、上下文压缩和稳定前缀，是降低重复计算和上下文成本的常见方法。

来源：[A] Anthropic《Building effective agents》；[B] Anthropic《Effective context engineering for AI agents》。

04

SAFETY & DEPLOYMENT

让 Agent 在真实环境中安全运行

19．Guardrails 与 Human-in-the-loop：自动检查，必要时请人批准

Guardrails 是自动护栏，用来检查输入、输出和工具行为，例如检测违规内容、敏感信息、危险参数和业务规则冲突。Human-in-the-loop 是人工介入机制。

当 Agent 准备执行取消订单、转账、删除数据或修改生产配置等敏感动作时，系统可以暂停运行，等待人或政策批准。

Guardrails：自动判断是否允许继续。

Human review：在高风险场景中由人批准或拒绝。

常见做法是风险分级：低风险自动执行，中风险记录和审查，高风险执行前必须批准。审批过程还应支持暂停、恢复和审计。Hooks 可以作为护栏和生命周期扩展的实现方式，但它更像一种机制，而不是独立的 Agent 架构层。

来源：[F] OpenAI《Guardrails and human review》；[I] LangChain《The Art of Loop Engineering》。

20．Sandbox、Permissions、Identity 与 Prompt Injection Defense

Agent 一旦能够访问工具，就必须有清晰的安全边界。

Sandbox：限制 Agent 能进入哪里，例如限定目录、容器或虚拟机。

Permissions：限制 Agent 能做什么，例如读取代码但不能删除目录。

Identity：明确 Agent 代表哪个用户、服务或租户执行操作。

Prompt Injection Defense：防止外部文档、网页、代码或工具返回值伪装成指令，劫持 Agent 的目标和行为。

外部内容应该被视为需要审查的数据，而不是天然可信的命令。可靠的防御通常是多层组合：最小权限、沙箱隔离、允许列表、参数校验、敏感信息检测和高风险人工批准。

— 图 10：从外部内容进入系统，到最终执行动作，需要经过信任分级、策略检查和受控执行。

来源：[F] OpenAI《Guardrails and human review》；[H] Google A2A 的 Secure by default 原则；[L] OpenAI《Sandbox agents》；[M] OpenAI《Safety in building agents》。

∞

THE END

结语：Agent 工程的核心，是建立可靠的反馈系统

Agent 工程并不只是选择一个更强的模型，也不只是写一段更长的 Prompt。真正的工程问题是：模型能否获得正确的上下文？Agent 能否调用合适的工具？任务状态能否持续保存？结果能否被自动验证？失败之后能否恢复？高风险动作能否被拦截或审批？运行过程能否被追踪和解释？系统能否根据评估结果持续改进？

LLM 负责推理，Harness 负责运行，Agent Loop 负责行动，Loop Engineering 负责持续推进，工具负责连接现实，状态负责延续，上下文负责聚焦，护栏负责控制风险，Evals 负责验证质量。

当这些部分协同起来，Agent 才会从“会演示”走向“可交付”。

普通人如何抓住AI大模型的风口？

领取方式在文末

2026年入行AI大模型的黄金窗口!!!

AI产业正迎来前所未有的爆发式增长。 从DeepSeek以百万年薪重金招募顶尖研究员，到百度、阿里、腾讯等头部企业加速推进AI Agent商业化布局，再到国家层面持续出台政策，大力扶持数字经济与AI人才培育体系，多重信号清晰指向一个共识：AI的“黄金十年”已全面开启

在产业浪潮的强劲推动下，AI人才争夺战日趋白热化。技术迭代与场景落地双轮驱动，催生海量高价值岗位。放眼未来，AI领域的职业发展前景广阔无垠，正涌现出大量高潜机遇，堪称一片值得深耕的**“人才蓝海”**。

脉脉数据显示📊：
2026年1-2月，AI岗位数量同比增长约12倍，增速远超新经济行业整体增幅；AI岗位在全部新经济岗位中的占比也从2025年同期的2.29%跃升至26.23%，几乎占据新经济招聘市场的四分之一。

与此同时，AI新发岗位平均月薪高达60738元，较新经济行业整体平均月薪48189元高出约26%。

这一切都说明一件事：2026年，正是入行AI大模型的黄金窗口❗️❗️

最佳学习路线

只要你真心想学习AI大模型技术，这份精心整理的学习资料我愿意无偿分享给你，但是想学技术去乱搞的人别来找我！

在当前这个人工智能高速发展的时代，AI大模型正在深刻改变各行各业。我国对高水平AI人才的需求也日益增长，真正懂技术、能落地的人才依旧紧缺。我也希望通过这份资料，能够帮助更多有志于AI领域的朋友入门并深入学习。

真诚无偿分享！！！
vx扫描下方二维码即可
加上后会一个个给大家发
【附赠一节免费的直播讲座，技术大佬带你学习大模型的相关知识、学习思路、就业前景以及怎么结合当前的工作发展方向等，欢迎大家~】

大模型全套学习资料展示

自我们与MoPaaS魔泊云合作以来，我们不断打磨课程体系与技术内容，在细节上精益求精，同时在技术层面也新增了许多前沿且实用的内容，力求为大家带来更系统、更实战、更落地的大模型学习体验。

希望这份系统、实用的大模型学习路径，能够帮助你从零入门，进阶到实战，真正掌握AI时代的核心技能！

01 教学内容

• 从零到精通完整闭环：【基础理论 →RAG开发 → Agent设计 → 模型微调与私有化部署调→热门技术】5大模块，内容比传统教材更贴近企业实战！

• 大量真实项目案例： 带你亲自上手搞数据清洗、模型调优这些硬核操作，把课本知识变成真本事‌！

02适学人群

应届毕业生‌： 无工作经验但想要系统学习AI大模型技术，期待通过实战项目掌握核心技术。

零基础转型‌： 非技术背景但关注AI应用场景，计划通过低代码工具实现“AI+行业”跨界‌。

业务赋能突破瓶颈： 传统开发者（Java/前端等）学习Transformer架构与LangChain框架，向AI全栈工程师转型‌。

vx扫描下方二维码即可
【附赠一节免费的直播讲座，技术大佬带你学习大模型的相关知识、学习思路、就业前景以及怎么结合当前的工作发展方向等，欢迎大家~】

本教程比较珍贵，仅限大家自行学习，不要传播！更严禁商用！

03 入门到进阶学习路线图

大模型学习路线图，整体分为5个大的阶段：

04 视频和书籍PDF合集

从0到掌握主流大模型技术视频教程（涵盖模型训练、微调、RAG、LangChain、Agent开发等实战方向）

新手必备的大模型学习PDF书单来了！全是硬核知识，帮你少走弯路（不吹牛，真有用）

05 行业报告+白皮书合集

收集70+报告与白皮书，了解行业最新动态！

06 90+份面试题/经验

AI大模型岗位面试经验总结（谁学技术不是为了赚$呢，找个好的岗位很重要）

07 deepseek部署包+技巧大全

由于篇幅有限

只展示部分资料

并且还在持续更新中…

人工智能大潮已来，不加入就可能被淘汰。如果你是技术人，尤其是互联网从业者，现在就开始学习AI大模型技术，真的是给你的人生一个重要建议！

真诚无偿分享！！！
vx扫描下方二维码即可
加上后会一个个给大家发
【附赠一节免费的直播讲座，技术大佬带你学习大模型的相关知识、学习思路、就业前景以及怎么结合当前的工作发展方向等，欢迎大家~】