llms.txt 死刑复盘:官方否定 + 97% 零请求之后,正确姿势是什么

目录

一句话结论:llms.txt 作为"AI 搜索可见性"手段已经被数据宣告死亡——2026 年 6 月 Google 官方明确"搜索不使用它",Ahrefs 137,210 域名实测 97% 的文件零请求,AI 检索机器人仅占请求的 1.1%。但它没完全死透:面向开发者的文档站点,它是编码代理读取文档的"廉价入口",依然值得保留。

一、回顾:llms.txt 是怎么火起来的

2024 年 9 月,fast.ai 联合创始人 Jeremy Howard(Answer.AI)提出 llms.txt:一个放在网站根目录的 Markdown 文件,用纯文本形式汇总站点结构、列出最有价值的页面,让大模型"不用爬整个站就能理解你"。

格式很简单:

# 站点名

> 一句话说明这个站点是干什么的

## 文档

- [安装指南](https://example.com/docs/install): 5 分钟跑通环境
- [API 参考](https://example.com/docs/api): 全部接口说明

## 定价

- [价格页](https://example.com/pricing): 三种套餐对比

它被营销圈迅速捧成"AI 时代的 robots.txt",理由很诱人:给 AI 爬虫递一份干净的目录,省 token、提效率、增加被引用概率。2025 年一整年,它都是 GEO 教程里的必选项。

二、死刑判决书:三大证据链

2.1 Google 官方:搜索不使用它们

2026 年 6 月,Google 发布"生成式 AI 搜索优化官方指南",在 “Mythbusting generative AI search” 一节白纸黑字:

你不需要创建新的机器可读文件、AI 文本文件、标记或 Markdown 来出现在 Google 搜索(包括其生成式 AI 能力)中,因为 Google 搜索不使用它们。这样做既不会损害也不会帮助你的可见性——Google 搜索会直接忽略它们。

这已经是 Google 搜索团队第三次明确表态:

时间 人物/渠道 表态
2025-06 John Mueller 没有任何 AI 系统使用 llms.txt,比作 keywords meta 标签
2025-07 Gary Illyes Google 无计划支持 llms.txt,不会为排名爬取它
2026-06 官方文档 “Google 搜索不使用它们”,做不做都无影响

Mueller 后来进一步定性:llms.txt 只是"临时拐杖"(temporary crutch),用来给 AI 编码工具解析开发者文档省 token——不是给搜索引擎用的

来源:Ahrefs - What Is llms.txtwpslimseo - You don’t need llms.txt

2.2 Ahrefs 大数据:97% 的文件零请求

2026 年 6 月 16 日,Ahrefs 发布基于 137,210 个域名服务器日志的大规模研究(样本为 2026 年 5 月数据):

指标 数值
已发布有效 llms.txt 的域名 约 38,000(28%)
收到零请求的文件占比 97%
有任意请求的域名 仅约 1,100
AI 检索机器人(OAI-SearchBot 等)占请求比 1.1%

把请求来源拆开看,真相更扎心:

请求来源 占比 说明
SEO 审计工具 21.7% 检查"你有没有这个文件",蛇咬自己的尾巴
通用网络爬虫 13.1% 无差别爬取
GPTBot 4.5% OpenAI 训练爬虫
Claude Code indexer 3.5% 开发者编码代理
ClaudeBot 0.8% Anthropic 爬虫
OAI-SearchBot 0.74% OpenAI 搜索机器人

真正会引用你内容的 AI 检索机器人(ChatGPT/Perplexity/AI Overviews 的检索爬虫),合计只占 1.1%。 而 Slackbot——一个办公聊天工具的爬虫——获取 llms.txt 的次数都比 PerplexityBot 多。还有 12% 的请求来自"专门研究 llms.txt 的工具",Ahrefs 原话:“在一个有意义的受众出现之前,围绕给文件打分和编目录的生态已经形成了。”

来源:Ahrefs llms.txt studyroa-marketing 数据分析

2.3 引用相关性研究:有它没它一个样

2026 年 3 月,SE Ranking 对 300,000 个域名的研究发现:有没有 llms.txt 文件,与域名在主流 LLM 回答中被引用的频率之间没有任何关系。 采用率约 10%,且各流量层级基本持平。

最刺眼的一组数据:AI 回答中引用最多的 50 个域名里,只有 1 个发布了 llms.txt。 赢得 AI 引用的网站,是靠内容赢得引用,而不是靠这个文件。

来源:techriseups - What Is llms.txt And Should You Add It in 2026

三、它没死透:唯一真实存在的用例

数据虽然残酷,但 llms.txt 有一个真实且明确的读者群:AI 编码代理

当你用 Cursor、Claude Code、Windsurf、GitHub Copilot 去读一份技术文档时,代理第一步就会尝试拉取 /llms.txt/llms-full.txt——因为这是加载整套文档成本最低的方式。Claude Code 相关请求占了 llms.txt 流量的约 10.5%,是所有具名 AI 工具里最高的。

这也是为什么 Cloudflare、Anthropic、Vercel、Mintlify、Stripe 等仍然在发布这个文件——不是给搜索引擎看,是给"正在替你读文档的开发者 AI"看的。

结论:llms.txt 是一个"文档交付格式",被营销圈包装成了"SEO 战术"。用错场景,就是一场空;用对场景,是真体验优化。

四、2026 年正确姿势:按站点类型决定

站点类型 要不要加 llms.txt 理由
开发者工具 / API / 文档型产品 编码代理会主动读,能显著降低代理理解成本
带技术文档的 SaaS 可以加 成本低、未来 agentic browsing 可能放大收益
面向 AI Overviews 的营销站 别指望它 无实测收益,时间该花在内容和结构化上
博客 / 内容站 可选 无害,但别期待引用提升

五、真正能提升 AI 可见性的三件事

既然 llms.txt 不是杠杆,那什么才是?同样有数据支撑:

1. 品牌提及(品牌搜索量)> 外链

Flowup Agency 汇总的数据:网络品牌提及与 AI 引用的相关性高达 0.664,而外链只有 0.218。 品牌搜索量也是最强单一预测因子(相关系数 0.334)。

动作:让品牌名被更多地方"点名"——行业媒体、播客、第三方署名文章、社区发言,这些都会转化为 AI 引用的基础。

2. 第三方赢得媒体(earned media)

Muck Rack 对 100 万+ 引用的分析:82% 的 AI 引用来自第三方渠道,而非品牌自有内容。Stacker/Scrunch 实验也显示,通过第三方媒体分发后,中位可见性提升 +239%

动作:把"被第三方转载/报道"当成核心 KPI,而不是在自己页面堆技巧。

3. 可被引用的内容结构

回到内容本身:答案先行、模块化结构、引用锚点(数据/具名来源/时间节点)、Q&A 格式。SIGIR 2026 论文(arXiv:2605.25517)证明:结构清晰的模块化内容被引用概率是非结构化内容的 1.8 倍;Kevin Indig 的 120 万回答研究显示 44.2% 的引用来自前 30% 内容

动作:把最强的答案放在页面最前面,每个 H2 都做成独立可提取的知识单元。

六、如果还是想加,5 分钟上线模板

面向文档站点,直接照抄:

# 你的产品名

> 一句话:我们是做什么的,服务谁,和竞品最大的区别。

## 快速开始

- [5 分钟快速上手](https://your.site/docs/quickstart): 含环境要求与第一个示例
- [常见问题 FAQ](https://your.site/docs/faq): 部署与配置高频问题

## API 参考

- [认证](https://your.site/docs/api/auth): OAuth / API Key 获取方式
- [核心接口](https://your.site/docs/api/core): 全部端点、参数与示例代码

## 资源

- [示例仓库](https://github.com/your/repo): 官方示例与模板

三条纪律

  1. 只列真正有用的页面,别堆列表页和分页;
  2. 每条链接配一句话说明,让代理能判断"要不要点进去";
  3. 和文档保持同步,过期索引比没有更糟。

上线后用两个检查确认它有没有被读:看服务器日志里的 /llms.txt 请求量;在 Cursor 或 Claude Code 里指向你的文档,观察代理是否顺利拉取到文件。

参考来源(全部为海外一手/独立信源)

  1. Ahrefs, What Is llms.txt, and Should You Care About It?(137,210 域名日志研究)— https://ahrefs.com/blog/what-is-llms-txt
  2. wpslimseo, You don’t need llms.txt for your website(Google 官方文档原文引用)— https://wpslimseo.com/you-dont-need-llms-txt
  3. techriseups, What Is llms.txt — And Should You Actually Add It in 2026(SE Ranking 30 万域名研究)— https://techriseups.com/articles/what-is-llms-txt-and-should-you-actually-add-it-in-2026
  4. roa-marketing, LLMs.txt Fails — 97% Get Zero AI Requests in 2026(请求来源构成拆解)— https://roa-marketing.com/blog/llms-txt-fails-97-percent-zero-requests-ai-seo-2026
  5. contextbolt, llms.txt: What It Is and How to Write One (2026)(读者构成表、编码代理用例)— https://contextbolt.com/blog/llms-txt
  6. Flowup Agency, Why llms.txt alone won’t make AI recommend your brand(品牌提及相关性 0.664、earned media 82%)— https://flowup.agency/does-llms-txt-work
  7. Vishwakarma et al., What Gets Cited: Competitive GEO in AI Answer Engines, SIGIR 2026 — https://arxiv.org/abs/2605.25517

有任何问题可小窗,欢迎提问

Logo

DAMO开发者矩阵,由阿里巴巴达摩院和中国互联网协会联合发起,致力于探讨最前沿的技术趋势与应用成果,搭建高质量的交流与分享平台,推动技术创新与产业应用链接,围绕“人工智能与新型计算”构建开放共享的开发者生态。

更多推荐