基于OpenAI Function Calling+多层风控的数码AI咨询系统｜吴恩达课程实战落地

一、项目前言与学习背景

近期系统学习了吴恩达的提示词工程与**《Building Systems with the ChatGPT API》**两门核心课程，系统学习了大模型标准化提示词设计、API工程化落地、AI业务流水线搭建、工具调用与系统优化的核心理论知识。

市面上多数AI实战项目仅实现基础的模型对话调用，缺少企业级开发必备的分层架构、安全风控、幻觉抑制、答案量化评估等工程化能力。为将课程理论知识落地为可落地、可迭代的实战项目，我基于课程核心知识点，搭建了这套具备多层架构、稳健性较强、可拓展的数码产品AI智能咨询系统。

本项目基本对标课程工程化开发思想，完整实现意图识别、三层安全校验、Function Calling工具调度、本地知识库去幻觉、自动化答案评估等基本能力，搭配轻量化Web交互界面，形成「后端逻辑+前端交互」的完整项目闭环，是大模型API工程化学习的优质实战案例。

二、项目整体介绍

2.1 项目定位

本项目是一款基于大模型API的垂直场景智能问答系统，依托字节方舟大模型API开发，聚焦数码产品咨询场景。区别于通用闲聊AI，本项目通过本地知识库绑定真实模拟产品数据，结合原生工具调用能力，精准完成产品参数查询、年份筛选、预算推荐、续航排序、机型筛选等定制化业务问答，同时配套完整的安全风控与答案质检机制，是贴合课程标准的大模型API工程化落地实战项目。

2.2 核心功能清单

• 智能意图分类：精准识别用户输入类型，自动区分问候闲聊、数码产品咨询、无关提问三类场景，实现业务逻辑精准分流，适配不同用户提问场景

• 原生Function Calling工具调用：依托模型自主判断业务需求，自动调度本地工具函数，无需硬编码场景判断指令，高效完成数据查询、筛选、排序、统计等业务操作

• 三层递进式安全风控：整合本地正则离线风控、LLM语义风控、腾讯云TMS第三方API风控，层层拦截Prompt注入、违规内容等风险请求，保障系统调用安全

• 大模型幻觉抑制：依托本地静态知识库做数据校验，强制模型输出内容依托真实库内数据，有效规避参数编造、虚假信息等大模型幻觉问题

• 全维度答案质量评估：从真实性、完整性、合规性三个维度对模型输出自动打分，生成量化评估报告与针对性优化建议，规范输出质量

• 轻量化Web可视化交互：基于Panel快速搭建网页端对话界面，无需搭建复杂前端框架，快速实现可视化人机交互，方便项目演示与调试

• 工程化性能优化：采用全局单例客户端复用TCP连接、全局常量统一管控、重复逻辑封装解耦等优化方式，小幅提升系统稳定性与接口响应效率

2.3 技术栈

• 核心语言：Python3.8+

• 大模型调用：OpenAI SDK（适配字节方舟API）

• 安全风控：本地正则匹配、LLM语义检测、腾讯云TMS内容安全API

• 前端界面：Panel轻量化Web组件库

• 核心技术：提示词工程、Function Calling、AI业务流水线、本地知识库检索、多层安全架构

2.4 运行展示

三、完整项目源码

github链接：点击链接

五、核心知识点落地（对标吴恩达两门核心课程）

本项目所有核心能力无编造、无虚标，100%源自吴恩达《提示词工程》与《Building Systems with the ChatGPT API》课程核心知识点，是课程理论的真实工程化落地，区别于网上拼凑的简易Demo项目。

5.1 标准化提示词工程落地

课程核心观点：高质量AI系统，依赖标准化提示词，而非单纯依赖模型能力。本项目严格遵循课程提示词设计规范，所有自定义Prompt均规范化编写，无随意口语化内容：

• 任务明确化：每一条提示词都明确指定核心任务、输入内容、输出要求，避免模型理解偏差

• 输出格式强约束：意图识别、安全检测、答案评估全部强制JSON结构化输出，彻底杜绝模型自由文本输出导致的解析失败问题

• 角色与规则限定：通过系统提示词固定AI助手角色、应答规则、数据来源规范，统一输出风格

• Token精细化管控：针对意图分类、安全检测、日常问答、质量评估等不同场景，配置独立Token上限，平衡输出质量与调用成本

5.2 ChatGPT API工程化流水线思想

《Building Systems with the ChatGPT API》课程核心目标：将零散的单次API调用，升级为可复用、可维护、高稳健的企业级AI业务流水线。本项目完整落地该核心思想：

• 统一API底层封装：封装通用llm调用核心函数，统一处理普通对话、JSON解析、工具调用三种场景，规避代码冗余问题

• 分层解耦设计：配置、数据、工具、业务、界面五层完全拆分，单一模块故障不影响整体系统运行，适配工程化开发规范

• 全流程异常容错：捕获密钥异常、接口超时、JSON解析失败、工具调用异常等各类场景，避免程序闪退崩溃

• 可观测性设计：通过日志打印、量化评估报告，让AI的调用过程、输出质量可追溯、可评测

5.3 Function Calling工具调用实战（课程重点）

Function Calling是两门课程重点讲解的高阶能力，也是区分入门Demo与工程化项目的核心标志。本项目完整复刻课程工具调用逻辑，无简化、无编造：

• 标准化工具Schema定义：严格按照OpenAI规范定义工具名称、描述、入参规则、必填项，完美适配方舟模型调用规范

• 模型自主决策：无需人工硬编码判断场景，模型可根据用户问题，自动决策是否调用工具、调用哪一个工具

• 标准工具交互链路：模型发起调用请求→本地函数执行逻辑→工具结果回填上下文→模型二次生成精准答案，完全遵循官方调用链路

• 多工具场景适配：支持查询、筛选、排序、统计、推荐等十余种工具能力，适配复杂业务问答场景

5.4 三层安全风控体系（课程安全优化方案）

课程明确指出：商用AI系统必须具备多层安全防护能力，单一依赖模型自带安全能力存在极大风险。本项目落地递进式三层风控架构，逻辑真实、可落地：

• 第一层：本地离线正则风控：零开销快速拦截Prompt注入、高危指令、违规关键词，适配高频简单风险拦截场景，响应速度快

• 第二层：LLM语义风控：弥补正则无法识别隐性风险的短板，通过提示词让模型识别隐性指令劫持、隐晦违规内容

• 第三层：第三方API风控：对接腾讯云官方TMS内容安全接口，依托成熟商用风控能力兜底，满足基础线上合规要求

5.5 大模型幻觉抑制与量化评估体系

大模型幻觉是课程重点解决的核心痛点，本项目采用课程推荐的**「外部数据绑定+人工规则校验+模型复检」**方案，有效缓解模型编造问题：

• 本地知识库强绑定：所有问答数据均来自本地静态知识库，强制模型依托工具返回数据应答，限制自由编造行为

• 真实性硬规则校验：通过预缓存的产品名、价格集合，自动检测回答中的虚假参数，违规直接判定低分

• 多维度量化评估：结合本地规则校验真实性、模型评估完整性与合规性，计算平均分并生成优化建议，标准化管控输出质量

六、项目核心技术亮点

本项目基于课程知识点完成开发，在基础功能实现之上，结合工程化开发习惯做了多处轻量化优化，小幅提升项目稳定性与实用性，适合新手学习参考：

6.1 全局单例客户端，优化基础性能

优化了新手常见的重复实例化客户端的问题，项目启动时仅初始化一次OpenAI、腾讯云风控全局客户端，复用TCP连接，减少重复握手开销，在多轮对话场景中能小幅提升响应效率，是基础的工程化优化方式。

6.2 逻辑封装解耦，精简冗余代码

针对问候回复、无效提问、风控拦截等重复业务分支，统一封装公共处理函数，标准化评估、报告拼接、结果返回逻辑，精简了大量冗余代码，让整体代码结构更清晰，降低新手阅读和二次修改的难度。

6.3 全场景异常捕获，提升项目稳健性

针对环境变量缺失、接口请求超时、工具调用异常、JSON解析失败等常见报错场景，添加了全局异常捕获机制，避免程序直接闪退崩溃，同时返回友好提示文案，提升项目运行稳定性。

6.4 量化评估机制，规范输出质量

摒弃单纯主观判断输出效果的方式，结合本地硬规则校验+大模型智能评估，从三个维度量化打分，让AI回答质量有可参考的评判标准，也便于后续针对性优化prompt与业务逻辑。

七、后续优化方向

• 接入向量数据库，替代当前静态知识库，实现海量数码产品的语义检索与模糊问答，拓展项目适配场景

• 优化多轮对话上下文记忆逻辑，提升长对话场景下的模型理解精准度

• 新增对话日志持久化存储、用户权限管理，适配多人同时使用场景

• 适配模型并行工具调用能力，优化多条件复杂筛选场景的接口响应速度