RAG 交付后的账单防爆门：甲方海量恶意刷检索时的 Token 配额与多级限流实战

在私有化或 SaaS 模式的 RAG（检索增强生成）系统交付上线后，很多小厂往往会遭遇一种始料未及的“财务危机”：
系统刚上线一周，客户的某些终端用户出于好奇或恶意，编写了多线程爬虫脚本对智能问答接口进行暴力抓取；或者某个员工将大模型问答机器人的 API Key 泄露到了公开网络。

其结果是：大模型公有云账号在短短两天内被刷掉了上千元甚至上万元的 Token 费用！ 当小厂拿着账单去找甲方结算超额费用时，甲方往往以“系统存在安全漏洞、缺乏防刷机制”为由拒绝买单，双方陷入激烈的商务撕扯。

为了彻底杜绝此类账单事故，我们必须在 RAG 系统网关层构筑一套牢不可破的**“Token 消费防爆门（Billing Blast Door）”**——建立包含“用户级、租户级、全局硬预算与语义防重”的四重动态限流防御体系。

一、RAG 账单防爆门的多层防御体系拓扑

[外部用户 / 爬虫并发请求]
           │
           ▼
┌─────────────────────────────────────────────────────────┐
│ 1. IP / 终端级别轻量频次限流 (Rate Limiting)             │
│ - 单 IP 限制 10 次/分钟 ──► 超限直接 429 拦截 (0 算力消耗)│
└──────────────────────────┬──────────────────────────────┘
                           │ (通过)
                           ▼
┌─────────────────────────────────────────────────────────┐
│ 2. 租户日/月 Token 预算硬配额 (Tenant Token Quota)      │
│ - Redis 预扣减: 检查当前租户本月已用额度是否超过购买套餐 │
│ - 达到 80% 触发飞书预警，达到 100% 自动切断 LLM 转入静态 │
└──────────────────────────┬──────────────────────────────┘
                           │ (通过)
                           ▼
┌─────────────────────────────────────────────────────────┐
│ 3. 语义防重与高频 Query 拦截 (Anti-Scraping Cache)       │
│ - 5 分钟内完全相同或高度近似的问题，0ms 直接走缓存返回   │
└──────────────────────────┬──────────────────────────────┘
                           │ (通过)
                           ▼
┌─────────────────────────────────────────────────────────┐
│ 4. 全局单日止损硬熔断 (Global Kill Switch)               │
│ - 整个系统单日公有云消费突破 ¥500 阈值，强制挂起在线调用 │
└─────────────────────────────────────────────────────────┘

二、基于 Redis 的原子 Token 配额预扣减与限流器实现

在处理高并发请求时，绝对不能等大模型推理完成后再去数据库扣减 Token，而必须在请求进入网关时通过 Redis Lua 脚本 进行原子级的“预算预检与并发锁定”。

import redis
import time
import logging
from typing import Tuple

logging.basicConfig(level=logging.INFO, format="%(asctime)s [%(levelname)s] %(message)s")

class RAGBillingGuard:
    def __init__(self, redis_client: redis.Redis):
        self.redis = redis_client
        # Redis Lua 脚本：原子检查并累计单日 Token 消耗
        self.lua_quota_check = """
        local tenant_key = KEYS[1]
        local max_daily_tokens = tonumber(ARGV[1])
        local estimated_cost = tonumber(ARGV[2])

        local current_usage = tonumber(redis.call('get', tenant_key) or '0')

        if current_usage + estimated_cost > max_daily_tokens then
            return 0 -- 预算超标，拒绝请求
        end

        -- 预扣减并设置 24 小时过期
        redis.call('incrby', tenant_key, estimated_cost)
        if redis.call('ttl', tenant_key) < 0 then
            redis.call('expire', tenant_key, 86400)
        end
        return 1 -- 允许放行
        """
        self.script_handler = self.redis.register_script(self.lua_quota_check)

    def check_and_reserve_quota(self, tenant_id: str, prompt_len: int, max_daily_tokens: int = 500000) -> bool:
        """
        在发起模型调用前，依据输入长度预估开销并执行原子配额锁定
        """
        today_str = time.strftime("%Y%m%d")
        redis_key = f"quota:tenant:{tenant_id}:{today_str}"
        
        # 预估本次交互大概消耗的 Token (Prompt 长度 + 预留 500 MaxTokens 生成)
        estimated_tokens = (prompt_len // 2) + 500

        # 执行 Lua 原子判定
        is_allowed = self.script_handler(keys=[redis_key], args=[max_daily_tokens, estimated_tokens])
        
        if is_allowed == 0:
            logging.warning(f"🚫 [防爆门触发] 租户 [{tenant_id}] 今日 Token 配额 ({max_daily_tokens}) 已用尽，已阻断调用！")
            return False

        return True

    def reconcile_actual_usage(self, tenant_id: str, estimated_tokens: int, actual_tokens: int):
        """模型调用完成后，根据真实消耗多退少补校准 Redis 计数器"""
        today_str = time.strftime("%Y%m%d")
        redis_key = f"quota:tenant:{tenant_id}:{today_str}"
        diff = actual_tokens - estimated_tokens
        if diff != 0:
            self.redis.incrby(redis_key, diff)

三、生产交付必签的 3 项防扯皮条款

在向甲方交付 RAG 系统时，合同与技术附件中必须白纸黑字写明以下规则：

1. Token 超额即停机制（Hard Limit Clause）：明确约定“基础交付包包含每月 1000 万 Tokens。一旦达到上限，系统将自动降级为离线关键词问答，若需继续使用需在管理后台在线增购 Token 包”，杜绝事后追讨成本的被动局面。
2. IP 与单用户防刷基线（Fair Use Policy）：明确技术 SLA 规定“单用户每分钟最高提问频次不超过 10 次，严禁通过脚本或程序化方式调用前台 Web 交互界面”，赋予平台封禁异常爬虫 IP 的合法权利。
3. 管理后台实时消耗看板（Transparency Dashboard）：在系统管理后台为甲方管理员提供清晰的“各部门 / 各用户 / 各知识库”每日 Token 消耗饼图与导出明细，让客户的每一分钱都花得明明白白。