📖 前言

在 AI 时代,大模型已经不仅仅是个“聊天机器人”。通过 LangChain 这样的强大框架,我们可以轻松构建出带有记忆、能调用外部工具的 Agent(智能体)。

但你是否好奇过:大模型究竟是如何做到“自己查天气”的? 框架底层到底帮我们封装了什么?

今天,我们将从 基础对话与计费 出发,深入探讨 LangChain 的 核心调用机制、工具绑定 与 记忆管理,最后带领大家抛开框架,手写底层源码,彻底搞懂大模型 Function Calling 的本质!

🛠️ 一、 准备工作与百炼 API 接入避坑

在开始之前,请确保安装了必要的库:

pip install langchain-openai langchain-core pydantic

⚠️ 安全警告:千万不要把真实的 API Key(以 sk- 开头)直接硬编码到代码里并上传到 GitHub!建议使用环境变量。
本文以 阿里云百炼 为例。注意:阿里云百炼的兼容接口 base_url 是专属的,格式为 https://{WorkspaceId}.cn-beijing.maas.aliyuncs.com/compatible-mode/v1。如果你遇到 401 报错,99% 是因为 API Key 与 Workspace 不匹配或者复制了掩码(带*)的假 Key!**

import os
from langchain_openai import ChatOpenAI

# 初始化大模型(以阿里云百炼为例)
llm = ChatOpenAI(
    model="qwen-plus", 
    api_key=os.getenv("DASHSCOPE_API_KEY"), # 从环境变量读取,不要直接写死!
    base_url="https://ws-xxxxxx.cn-beijing.maas.aliyuncs.com/compatible-mode/v1"
)

💡 二、 LangChain 基础:调用、解析与计费

1. 响应字段解析与 Token 计费

我们发起一次对话,并看看如何提取结果中的关键信息以及计算成本。

(注:Pydantic V2 版本后,官方推荐使用 .model_dump() 替代 .dict())

resp = llm.invoke("用一句话解释什么是大语言模型")

# 1. 一一打印所有字段
print("========== 响应字段输出 ==========")
for key, value in resp.model_dump().items():
    print(f"[{key}]: {value}")

# 2. Token 计费计算
usage = resp.usage_metadata
input_tokens = usage.get("input_tokens", 0) if usage else 0
output_tokens = usage.get("output_tokens", 0) if usage else 0

# 假设单价:输入 0.8元/百万tokens,输出 2.7元/百万tokens
input_cost = (input_tokens / 1_000_000) * 0.8
output_cost = (output_tokens / 1_000_000) * 2.7

print(f"本次对话总计花费: {(input_cost + output_cost):.8f} 元")

2. LangChain 的三大核心调用方式

LangChain 提供了三种非常优雅的调用模式:

  • invoke:阻塞式,等全部生成完返回。

  • stream:流式输出,首字延迟低,适合做打字机效果。

  • batch:批量并行,处理多条独立输入时效率极高。

# 流式输出(打字机效果)
for chunk in llm.stream("写一首关于秋天的诗"):
    print(chunk.content, end="", flush=True)

# 批量调用
results = llm.batch(["什么是RAG?", "什么是微调?"])

🧠 三、 进阶:LangChain 赋能,让模型长出“手脚”

1. 绑定工具 (Binding Tools)

大模型只是大脑,我们需要 @tool 装饰器定义本地函数,并交给大模型。

from langchain_core.tools import tool

@tool
def get_weather(city: str) -> str:
    """获取某个城市的天气。"""
    return f"{city}今天晴,25°C"

llm_with_tools = llm.bind_tools([get_weather])
resp = llm_with_tools.invoke("北京天气怎么样?")

# 此时模型不会直接回答天气,而是返回一个工具调用意图
print(resp.tool_calls) 
# 输出: [{'name': 'get_weather', 'args': {'city': '北京'}, 'id': 'call_xxx'}]

2. 构建最小 Agent 与持久化记忆

利用 create_agent,我们可以快速构建能自动执行工具的智能体。配合 InMemorySaver,还能让它拥有记忆。

from langchain.agents import create_agent
from langgraph.checkpoint.memory import InMemorySaver

agent = create_agent(
    model=llm,
    tools=[get_weather],
    checkpointer=InMemorySaver(), # 加入记忆模块
)

# 设定 thread_id,区分不同的会话
config = {"configurable": {"thread_id": "user_001"}}

agent.invoke({"messages": [{"role": "user", "content": "我叫小明"}]}, config=config)
result = agent.invoke({"messages": [{"role": "user", "content": "我叫什么?"}]}, config=config)
# 模型会记得你的名字:你叫小明。

3. 结构化输出 (Structured Output)

通过 Pydantic,强制模型输出特定的 JSON 格式,这在数据提取时非常实用。

from pydantic import BaseModel

class Answer(BaseModel):
    summary: str
    confidence: float

agent = create_agent(
    model=llm,
    tools=[],
    response_format=Answer, # 强制按此格式输出
)
result = agent.invoke({"messages": [{"role": "user", "content": "总结一下AI趋势"}]})
print(result["structured_response"].summary) 

🔥 四、 终极解密:手写原生 Function Calling(告别框架依赖)

框架虽好,但理解底层才是王道。现在,我们抛开 LangChain,直接用 openai 原生库手写一个完整的 Agent 循环。

大模型的工具调用本质上是一个“请求-识别-本地执行-结果返回-再请求”的循环。

import json
from openai import OpenAI

client = OpenAI(api_key="你的Key", base_url="你的BaseURL")

# 1. 编写工具的“说明书”(JSON Schema)
tools = [{
    "type": "function",
    "function": {
        "name": "get_current_weather",
        "description": "当你想查询指定城市的天气时非常有用。",
        "parameters": {
            "type": "object",
            "properties": {
                "location": {"type": "string", "description": "城市名,如北京市"},
            },
            "required": ["location"],
        },
    },
}]

# 2. 本地真正干活的函数
def get_current_weather(location):
    return f"{location}今天晴天,气温 25°C。"

# 3. 核心交互循环
messages = [{"role": "user", "content": "北京天气咋样"}]

# 第一次请求:大模型判断是否需要调用工具
response = client.chat.completions.create(
    model="qwen-plus", messages=messages, tools=tools
)
assistant_output = response.choices[0].message
messages.append(assistant_output.model_dump()) # 必须转为字典

# 判断是否需要调用工具
if assistant_output.tool_calls:
    while assistant_output.tool_calls is not None:
        tool_call = assistant_output.tool_calls[0]
        func_name = tool_call.function.name
        args = json.loads(tool_call.function.arguments)
        
        print(f"正在调用工具 [{func_name}],参数: {args}")
        
        # 执行本地函数
        tool_result = get_current_weather(args["location"])
        
        # 极其重要:将结果追加到历史,必须带 role="tool" 和 tool_call_id
        messages.append({
            "role": "tool",
            "tool_call_id": tool_call.id, # 对号入座的关键
            "content": tool_result,
        })
        
        # 带着工具的结果,再次请求大模型
        response = client.chat.completions.create(
            model="qwen-plus", messages=messages, tools=tools
        )
        assistant_output = response.choices[0].message
        messages.append(assistant_output.model_dump())
        
        if assistant_output.tool_calls is None:
            break

print(f"最终回复: {assistant_output.content}")

⚠️ 踩坑避雷指南

  1. Pydantic 警告:在 LangChain 中打印对象,遇到 The 'dict' method is deprecated 警告,请把 .dict() 换成 .model_dump()。

  2. 401 鉴权失败:反复检查百炼的 API Key 是否完整(不要复制带 *** 的),且是否与 base_url 里的专属工作空间匹配。

  3. 死循环陷阱:手写 Function Calling 时,一定要在 while 里判断 assistant_output.tool_calls is None,否则如果大模型一直觉得缺参数,你的程序会疯狂死循环刷 Token。

🎯 总结

框架帮我们简化了流程,但原生的底层逻辑才是大模型应用的灵魂。掌握了这套“循环+角色+ID”的通信协议,无论以后你换成哪家大模型,或者用 Go、Java 开发,都能轻松驾驭 AI Agent 的开发!

如果这篇文章对你有帮助,请点赞👍、收藏⭐、评论💬!你的支持是我持续输出干货的最大动力!

Logo

DAMO开发者矩阵,由阿里巴巴达摩院和中国互联网协会联合发起,致力于探讨最前沿的技术趋势与应用成果,搭建高质量的交流与分享平台,推动技术创新与产业应用链接,围绕“人工智能与新型计算”构建开放共享的开发者生态。

更多推荐