从零手搓大模型 Agent:LangChain 与原生 Function Calling 深度实战(附百炼接入与计费指南)
📖 前言
在 AI 时代,大模型已经不仅仅是个“聊天机器人”。通过 LangChain 这样的强大框架,我们可以轻松构建出带有记忆、能调用外部工具的 Agent(智能体)。
但你是否好奇过:大模型究竟是如何做到“自己查天气”的? 框架底层到底帮我们封装了什么?
今天,我们将从 基础对话与计费 出发,深入探讨 LangChain 的 核心调用机制、工具绑定 与 记忆管理,最后带领大家抛开框架,手写底层源码,彻底搞懂大模型 Function Calling 的本质!
🛠️ 一、 准备工作与百炼 API 接入避坑
在开始之前,请确保安装了必要的库:
pip install langchain-openai langchain-core pydantic
⚠️ 安全警告:千万不要把真实的 API Key(以 sk- 开头)直接硬编码到代码里并上传到 GitHub!建议使用环境变量。
本文以 阿里云百炼 为例。注意:阿里云百炼的兼容接口 base_url 是专属的,格式为 https://{WorkspaceId}.cn-beijing.maas.aliyuncs.com/compatible-mode/v1。如果你遇到 401 报错,99% 是因为 API Key 与 Workspace 不匹配或者复制了掩码(带*)的假 Key!**
import os
from langchain_openai import ChatOpenAI
# 初始化大模型(以阿里云百炼为例)
llm = ChatOpenAI(
model="qwen-plus",
api_key=os.getenv("DASHSCOPE_API_KEY"), # 从环境变量读取,不要直接写死!
base_url="https://ws-xxxxxx.cn-beijing.maas.aliyuncs.com/compatible-mode/v1"
)
💡 二、 LangChain 基础:调用、解析与计费
1. 响应字段解析与 Token 计费
我们发起一次对话,并看看如何提取结果中的关键信息以及计算成本。
(注:Pydantic V2 版本后,官方推荐使用 .model_dump() 替代 .dict())
resp = llm.invoke("用一句话解释什么是大语言模型")
# 1. 一一打印所有字段
print("========== 响应字段输出 ==========")
for key, value in resp.model_dump().items():
print(f"[{key}]: {value}")
# 2. Token 计费计算
usage = resp.usage_metadata
input_tokens = usage.get("input_tokens", 0) if usage else 0
output_tokens = usage.get("output_tokens", 0) if usage else 0
# 假设单价:输入 0.8元/百万tokens,输出 2.7元/百万tokens
input_cost = (input_tokens / 1_000_000) * 0.8
output_cost = (output_tokens / 1_000_000) * 2.7
print(f"本次对话总计花费: {(input_cost + output_cost):.8f} 元")
2. LangChain 的三大核心调用方式
LangChain 提供了三种非常优雅的调用模式:
-
invoke:阻塞式,等全部生成完返回。 -
stream:流式输出,首字延迟低,适合做打字机效果。 -
batch:批量并行,处理多条独立输入时效率极高。
# 流式输出(打字机效果)
for chunk in llm.stream("写一首关于秋天的诗"):
print(chunk.content, end="", flush=True)
# 批量调用
results = llm.batch(["什么是RAG?", "什么是微调?"])
🧠 三、 进阶:LangChain 赋能,让模型长出“手脚”
1. 绑定工具 (Binding Tools)
大模型只是大脑,我们需要 @tool 装饰器定义本地函数,并交给大模型。
from langchain_core.tools import tool
@tool
def get_weather(city: str) -> str:
"""获取某个城市的天气。"""
return f"{city}今天晴,25°C"
llm_with_tools = llm.bind_tools([get_weather])
resp = llm_with_tools.invoke("北京天气怎么样?")
# 此时模型不会直接回答天气,而是返回一个工具调用意图
print(resp.tool_calls)
# 输出: [{'name': 'get_weather', 'args': {'city': '北京'}, 'id': 'call_xxx'}]
2. 构建最小 Agent 与持久化记忆
利用 create_agent,我们可以快速构建能自动执行工具的智能体。配合 InMemorySaver,还能让它拥有记忆。
from langchain.agents import create_agent
from langgraph.checkpoint.memory import InMemorySaver
agent = create_agent(
model=llm,
tools=[get_weather],
checkpointer=InMemorySaver(), # 加入记忆模块
)
# 设定 thread_id,区分不同的会话
config = {"configurable": {"thread_id": "user_001"}}
agent.invoke({"messages": [{"role": "user", "content": "我叫小明"}]}, config=config)
result = agent.invoke({"messages": [{"role": "user", "content": "我叫什么?"}]}, config=config)
# 模型会记得你的名字:你叫小明。
3. 结构化输出 (Structured Output)
通过 Pydantic,强制模型输出特定的 JSON 格式,这在数据提取时非常实用。
from pydantic import BaseModel
class Answer(BaseModel):
summary: str
confidence: float
agent = create_agent(
model=llm,
tools=[],
response_format=Answer, # 强制按此格式输出
)
result = agent.invoke({"messages": [{"role": "user", "content": "总结一下AI趋势"}]})
print(result["structured_response"].summary)
🔥 四、 终极解密:手写原生 Function Calling(告别框架依赖)
框架虽好,但理解底层才是王道。现在,我们抛开 LangChain,直接用 openai 原生库手写一个完整的 Agent 循环。
大模型的工具调用本质上是一个“请求-识别-本地执行-结果返回-再请求”的循环。
import json
from openai import OpenAI
client = OpenAI(api_key="你的Key", base_url="你的BaseURL")
# 1. 编写工具的“说明书”(JSON Schema)
tools = [{
"type": "function",
"function": {
"name": "get_current_weather",
"description": "当你想查询指定城市的天气时非常有用。",
"parameters": {
"type": "object",
"properties": {
"location": {"type": "string", "description": "城市名,如北京市"},
},
"required": ["location"],
},
},
}]
# 2. 本地真正干活的函数
def get_current_weather(location):
return f"{location}今天晴天,气温 25°C。"
# 3. 核心交互循环
messages = [{"role": "user", "content": "北京天气咋样"}]
# 第一次请求:大模型判断是否需要调用工具
response = client.chat.completions.create(
model="qwen-plus", messages=messages, tools=tools
)
assistant_output = response.choices[0].message
messages.append(assistant_output.model_dump()) # 必须转为字典
# 判断是否需要调用工具
if assistant_output.tool_calls:
while assistant_output.tool_calls is not None:
tool_call = assistant_output.tool_calls[0]
func_name = tool_call.function.name
args = json.loads(tool_call.function.arguments)
print(f"正在调用工具 [{func_name}],参数: {args}")
# 执行本地函数
tool_result = get_current_weather(args["location"])
# 极其重要:将结果追加到历史,必须带 role="tool" 和 tool_call_id
messages.append({
"role": "tool",
"tool_call_id": tool_call.id, # 对号入座的关键
"content": tool_result,
})
# 带着工具的结果,再次请求大模型
response = client.chat.completions.create(
model="qwen-plus", messages=messages, tools=tools
)
assistant_output = response.choices[0].message
messages.append(assistant_output.model_dump())
if assistant_output.tool_calls is None:
break
print(f"最终回复: {assistant_output.content}")
⚠️ 踩坑避雷指南
-
Pydantic 警告:在 LangChain 中打印对象,遇到
The 'dict' method is deprecated警告,请把.dict()换成.model_dump()。 -
401 鉴权失败:反复检查百炼的 API Key 是否完整(不要复制带
***的),且是否与base_url里的专属工作空间匹配。 -
死循环陷阱:手写 Function Calling 时,一定要在
while里判断assistant_output.tool_calls is None,否则如果大模型一直觉得缺参数,你的程序会疯狂死循环刷 Token。
🎯 总结
框架帮我们简化了流程,但原生的底层逻辑才是大模型应用的灵魂。掌握了这套“循环+角色+ID”的通信协议,无论以后你换成哪家大模型,或者用 Go、Java 开发,都能轻松驾驭 AI Agent 的开发!
如果这篇文章对你有帮助,请点赞👍、收藏⭐、评论💬!你的支持是我持续输出干货的最大动力!
DAMO开发者矩阵,由阿里巴巴达摩院和中国互联网协会联合发起,致力于探讨最前沿的技术趋势与应用成果,搭建高质量的交流与分享平台,推动技术创新与产业应用链接,围绕“人工智能与新型计算”构建开放共享的开发者生态。
更多推荐



所有评论(0)