2026 年 10 月 16 日,Cloudflare 推出 Verified Bots 持续评估系统。该系统会考察观察到的流量是否符合 robots.txt 规则,以及机器人在收到 HTTP 429 响应后是否降低请求频率。该公司将这一方法描述为在确认机器人身份之外,进一步检查其行为。

Cloudflare 的公告称,反复不遵守网站偏好的行为可能会降低机器人的信任等级,而持续遵守规则则可能提高信任等级。系统会结合具体情况看待个别违规事件:Cloudflare 表示,它评估的是持续的行为模式,而非单次事件。
如何考量网站规则
robots.txt 文件是网站所有者表达偏好的信号之一:系统会将机器人流量与该文件进行比对。HTTP 429(“请求过多”)会告知客户端需要降低访问频率;Cloudflare 会考察机器人是否减速、暂停请求,还是继续以原有频率访问。
对于网站运营者而言,实际可采取的措施包括保持 robots.txt 内容及时更新、设置适当的请求频率限制,并检查日志,了解客户端在收到 HTTP 429 后的行为。无论网站是否使用 Cloudflare 工具,这些做法都有助于管理流量。
目前有哪些进展
Cloudflare 表示,公司已在内部使用该系统,评估 Verified Bots 是否遵守网站偏好。下一步是向客户开放该系统;届时,网站所有者可以选择信任阈值,用于决定如何处理 Verified Bots 的流量。该公司还计划在 Cloudflare Radar 上公布评估结果,并扩大纳入考量的信号范围。
因此,这项公告介绍的是新增的一层控制机制,并非一项已向所有客户开放的设置。对网站运营者来说,重要变化在于评估原则:除了确认机器人身份,还会观察它如何遵循已公布的规则,以及如何响应请求限制。