jsonscraper

Cloudflare 将根据网站规则评估 Verified Bots

该系统会考察机器人是否遵守 robots.txt,以及如何响应 HTTP 429。Cloudflare 已在内部使用这套系统,并计划稍后向客户开放信任阈值,以便管理流量。

编辑政策 报告错误

2026 年 10 月 16 日,Cloudflare 推出 Verified Bots 持续评估系统。该系统会考察观察到的流量是否符合 robots.txt 规则,以及机器人在收到 HTTP 429 响应后是否降低请求频率。该公司将这一方法描述为在确认机器人身份之外,进一步检查其行为。

文章:Cloudflare 将根据网站规则评估 Verified Bots
摘要:10 月 16 日,Cloudflare 推出 Verified Bots 持续评估系统。系统会考察机器人是否遵守 robots.txt、如何响应 HTTP 429。Cloudflare 已在内部使用该系统,计划稍后向客户开放。
图片用途:封面——核心主题
章节:
视觉主题:编辑风格照片插画,画面是一块监控网页服务器的屏幕,旁边显示清晰的 HTTP 429 速率限制事件,以及一份打印出来的
© jsonscraper · AI 生成插画

Cloudflare 的公告称,反复不遵守网站偏好的行为可能会降低机器人的信任等级,而持续遵守规则则可能提高信任等级。系统会结合具体情况看待个别违规事件:Cloudflare 表示,它评估的是持续的行为模式,而非单次事件。

如何考量网站规则

robots.txt 文件是网站所有者表达偏好的信号之一:系统会将机器人流量与该文件进行比对。HTTP 429(“请求过多”)会告知客户端需要降低访问频率;Cloudflare 会考察机器人是否减速、暂停请求,还是继续以原有频率访问。

对于网站运营者而言,实际可采取的措施包括保持 robots.txt 内容及时更新、设置适当的请求频率限制,并检查日志,了解客户端在收到 HTTP 429 后的行为。无论网站是否使用 Cloudflare 工具,这些做法都有助于管理流量。

目前有哪些进展

Cloudflare 表示,公司已在内部使用该系统,评估 Verified Bots 是否遵守网站偏好。下一步是向客户开放该系统;届时,网站所有者可以选择信任阈值,用于决定如何处理 Verified Bots 的流量。该公司还计划在 Cloudflare Radar 上公布评估结果,并扩大纳入考量的信号范围。

因此,这项公告介绍的是新增的一层控制机制,并非一项已向所有客户开放的设置。对网站运营者来说,重要变化在于评估原则:除了确认机器人身份,还会观察它如何遵循已公布的规则,以及如何响应请求限制。

People

No people listed for this article yet.

Keep reading谷歌资助爱尔兰560所学校建设气象站网络,用于人工智能天气预报
Read the next article

将阅读内容转化为可用的集成

探索 jsonscraper 社交数据 API、测试请求并构建下一个工作流。

查看 API