llms.txt 死刑复盘:官方否定 + 97% 零请求之后,正确姿势是什么
llms.txt 死刑复盘:官方否定 + 97% 零请求之后,正确姿势是什么
目录
- 一、回顾:llms.txt 是怎么火起来的
- 二、死刑判决书:三大证据链
- 三、它没死透:唯一真实存在的用例
- 四、2026 年正确姿势:按站点类型决定
- 五、真正能提升 AI 可见性的三件事
- 六、如果还是想加,5 分钟上线模板
- 参考来源(全部为海外一手/独立信源)
一句话结论:llms.txt 作为"AI 搜索可见性"手段已经被数据宣告死亡——2026 年 6 月 Google 官方明确"搜索不使用它",Ahrefs 137,210 域名实测 97% 的文件零请求,AI 检索机器人仅占请求的 1.1%。但它没完全死透:面向开发者的文档站点,它是编码代理读取文档的"廉价入口",依然值得保留。
一、回顾:llms.txt 是怎么火起来的
2024 年 9 月,fast.ai 联合创始人 Jeremy Howard(Answer.AI)提出 llms.txt:一个放在网站根目录的 Markdown 文件,用纯文本形式汇总站点结构、列出最有价值的页面,让大模型"不用爬整个站就能理解你"。
格式很简单:
# 站点名
> 一句话说明这个站点是干什么的
## 文档
- [安装指南](https://example.com/docs/install): 5 分钟跑通环境
- [API 参考](https://example.com/docs/api): 全部接口说明
## 定价
- [价格页](https://example.com/pricing): 三种套餐对比
它被营销圈迅速捧成"AI 时代的 robots.txt",理由很诱人:给 AI 爬虫递一份干净的目录,省 token、提效率、增加被引用概率。2025 年一整年,它都是 GEO 教程里的必选项。
二、死刑判决书:三大证据链
2.1 Google 官方:搜索不使用它们
2026 年 6 月,Google 发布"生成式 AI 搜索优化官方指南",在 “Mythbusting generative AI search” 一节白纸黑字:
你不需要创建新的机器可读文件、AI 文本文件、标记或 Markdown 来出现在 Google 搜索(包括其生成式 AI 能力)中,因为 Google 搜索不使用它们。这样做既不会损害也不会帮助你的可见性——Google 搜索会直接忽略它们。
这已经是 Google 搜索团队第三次明确表态:
| 时间 | 人物/渠道 | 表态 |
|---|---|---|
| 2025-06 | John Mueller | 没有任何 AI 系统使用 llms.txt,比作 keywords meta 标签 |
| 2025-07 | Gary Illyes | Google 无计划支持 llms.txt,不会为排名爬取它 |
| 2026-06 | 官方文档 | “Google 搜索不使用它们”,做不做都无影响 |
Mueller 后来进一步定性:llms.txt 只是"临时拐杖"(temporary crutch),用来给 AI 编码工具解析开发者文档省 token——不是给搜索引擎用的。
来源:Ahrefs - What Is llms.txt、wpslimseo - You don’t need llms.txt
2.2 Ahrefs 大数据:97% 的文件零请求
2026 年 6 月 16 日,Ahrefs 发布基于 137,210 个域名服务器日志的大规模研究(样本为 2026 年 5 月数据):
| 指标 | 数值 |
|---|---|
| 已发布有效 llms.txt 的域名 | 约 38,000(28%) |
| 收到零请求的文件占比 | 97% |
| 有任意请求的域名 | 仅约 1,100 |
| AI 检索机器人(OAI-SearchBot 等)占请求比 | 1.1% |
把请求来源拆开看,真相更扎心:
| 请求来源 | 占比 | 说明 |
|---|---|---|
| SEO 审计工具 | 21.7% | 检查"你有没有这个文件",蛇咬自己的尾巴 |
| 通用网络爬虫 | 13.1% | 无差别爬取 |
| GPTBot | 4.5% | OpenAI 训练爬虫 |
| Claude Code indexer | 3.5% | 开发者编码代理 |
| ClaudeBot | 0.8% | Anthropic 爬虫 |
| OAI-SearchBot | 0.74% | OpenAI 搜索机器人 |
真正会引用你内容的 AI 检索机器人(ChatGPT/Perplexity/AI Overviews 的检索爬虫),合计只占 1.1%。 而 Slackbot——一个办公聊天工具的爬虫——获取 llms.txt 的次数都比 PerplexityBot 多。还有 12% 的请求来自"专门研究 llms.txt 的工具",Ahrefs 原话:“在一个有意义的受众出现之前,围绕给文件打分和编目录的生态已经形成了。”
来源:Ahrefs llms.txt study、roa-marketing 数据分析
2.3 引用相关性研究:有它没它一个样
2026 年 3 月,SE Ranking 对 300,000 个域名的研究发现:有没有 llms.txt 文件,与域名在主流 LLM 回答中被引用的频率之间没有任何关系。 采用率约 10%,且各流量层级基本持平。
最刺眼的一组数据:AI 回答中引用最多的 50 个域名里,只有 1 个发布了 llms.txt。 赢得 AI 引用的网站,是靠内容赢得引用,而不是靠这个文件。
来源:techriseups - What Is llms.txt And Should You Add It in 2026
三、它没死透:唯一真实存在的用例
数据虽然残酷,但 llms.txt 有一个真实且明确的读者群:AI 编码代理。
当你用 Cursor、Claude Code、Windsurf、GitHub Copilot 去读一份技术文档时,代理第一步就会尝试拉取 /llms.txt 或 /llms-full.txt——因为这是加载整套文档成本最低的方式。Claude Code 相关请求占了 llms.txt 流量的约 10.5%,是所有具名 AI 工具里最高的。
这也是为什么 Cloudflare、Anthropic、Vercel、Mintlify、Stripe 等仍然在发布这个文件——不是给搜索引擎看,是给"正在替你读文档的开发者 AI"看的。
结论:llms.txt 是一个"文档交付格式",被营销圈包装成了"SEO 战术"。用错场景,就是一场空;用对场景,是真体验优化。
四、2026 年正确姿势:按站点类型决定
| 站点类型 | 要不要加 llms.txt | 理由 |
|---|---|---|
| 开发者工具 / API / 文档型产品 | 要 | 编码代理会主动读,能显著降低代理理解成本 |
| 带技术文档的 SaaS | 可以加 | 成本低、未来 agentic browsing 可能放大收益 |
| 面向 AI Overviews 的营销站 | 别指望它 | 无实测收益,时间该花在内容和结构化上 |
| 博客 / 内容站 | 可选 | 无害,但别期待引用提升 |
五、真正能提升 AI 可见性的三件事
既然 llms.txt 不是杠杆,那什么才是?同样有数据支撑:
1. 品牌提及(品牌搜索量)> 外链
Flowup Agency 汇总的数据:网络品牌提及与 AI 引用的相关性高达 0.664,而外链只有 0.218。 品牌搜索量也是最强单一预测因子(相关系数 0.334)。
动作:让品牌名被更多地方"点名"——行业媒体、播客、第三方署名文章、社区发言,这些都会转化为 AI 引用的基础。
2. 第三方赢得媒体(earned media)
Muck Rack 对 100 万+ 引用的分析:82% 的 AI 引用来自第三方渠道,而非品牌自有内容。Stacker/Scrunch 实验也显示,通过第三方媒体分发后,中位可见性提升 +239%。
动作:把"被第三方转载/报道"当成核心 KPI,而不是在自己页面堆技巧。
3. 可被引用的内容结构
回到内容本身:答案先行、模块化结构、引用锚点(数据/具名来源/时间节点)、Q&A 格式。SIGIR 2026 论文(arXiv:2605.25517)证明:结构清晰的模块化内容被引用概率是非结构化内容的 1.8 倍;Kevin Indig 的 120 万回答研究显示 44.2% 的引用来自前 30% 内容。
动作:把最强的答案放在页面最前面,每个 H2 都做成独立可提取的知识单元。
六、如果还是想加,5 分钟上线模板
面向文档站点,直接照抄:
# 你的产品名
> 一句话:我们是做什么的,服务谁,和竞品最大的区别。
## 快速开始
- [5 分钟快速上手](https://your.site/docs/quickstart): 含环境要求与第一个示例
- [常见问题 FAQ](https://your.site/docs/faq): 部署与配置高频问题
## API 参考
- [认证](https://your.site/docs/api/auth): OAuth / API Key 获取方式
- [核心接口](https://your.site/docs/api/core): 全部端点、参数与示例代码
## 资源
- [示例仓库](https://github.com/your/repo): 官方示例与模板
三条纪律:
- 只列真正有用的页面,别堆列表页和分页;
- 每条链接配一句话说明,让代理能判断"要不要点进去";
- 和文档保持同步,过期索引比没有更糟。
上线后用两个检查确认它有没有被读:看服务器日志里的 /llms.txt 请求量;在 Cursor 或 Claude Code 里指向你的文档,观察代理是否顺利拉取到文件。
参考来源(全部为海外一手/独立信源)
- Ahrefs, What Is llms.txt, and Should You Care About It?(137,210 域名日志研究)— https://ahrefs.com/blog/what-is-llms-txt
- wpslimseo, You don’t need llms.txt for your website(Google 官方文档原文引用)— https://wpslimseo.com/you-dont-need-llms-txt
- techriseups, What Is llms.txt — And Should You Actually Add It in 2026(SE Ranking 30 万域名研究)— https://techriseups.com/articles/what-is-llms-txt-and-should-you-actually-add-it-in-2026
- roa-marketing, LLMs.txt Fails — 97% Get Zero AI Requests in 2026(请求来源构成拆解)— https://roa-marketing.com/blog/llms-txt-fails-97-percent-zero-requests-ai-seo-2026
- contextbolt, llms.txt: What It Is and How to Write One (2026)(读者构成表、编码代理用例)— https://contextbolt.com/blog/llms-txt
- Flowup Agency, Why llms.txt alone won’t make AI recommend your brand(品牌提及相关性 0.664、earned media 82%)— https://flowup.agency/does-llms-txt-work
- Vishwakarma et al., What Gets Cited: Competitive GEO in AI Answer Engines, SIGIR 2026 — https://arxiv.org/abs/2605.25517
有任何问题可小窗,欢迎提问
DAMO开发者矩阵,由阿里巴巴达摩院和中国互联网协会联合发起,致力于探讨最前沿的技术趋势与应用成果,搭建高质量的交流与分享平台,推动技术创新与产业应用链接,围绕“人工智能与新型计算”构建开放共享的开发者生态。
更多推荐

所有评论(0)