Cloudflare 称 Perplexity绕过限制,抓取明令禁止 AI 抓取的网站
创始人
2025-08-05 17:33:19
0

  炒股就看金麒麟分析师研报,权威,专业,及时,全面,助您挖掘潜力主题机会!

(来源:IT之家)

IT之家 8 月 5 日消息,当地时间周一,Cloudflare 发布了一份报告,指控 AI 初创公司 Perplexity 在网站已明确标注禁止 AI 抓取的情况下仍进行抓取,并通过改变身份标识规避拦截规则。

报告显示,Perplexity 忽略网站 robots.txt 文件(用于告知搜索引擎和 AI 公司哪些页面可供索引)及针对其已知爬虫的拦截规则,调整 UA 和 ASN 信息,通过更换身份和网络地址等手段绕过屏蔽并抓取大量内容。

Cloudflare 称,他们通过“机器学习与网络信号相结合”的方式,识别出了 Perplexity 爬虫的特征,其行为涉及“数万个域名,每天数百万次请求”。

针对指控,Perplexity 发言人 Jesse Dwyer 表示:Cloudflare 的博文是“销售噱头”,并表示文中截图“显示没有内容被访问”。在后续邮件中,Dwyer 进一步否认,称 Cloudflare 提到的机器人“甚至不是我们的”。

Cloudflare 表示,其调查源于客户投诉 —— 部分客户已在 robots 文件中添加规则并专门拦截 Perplexity 的已知爬虫,但仍遭其抓取。Cloudflare 测试后确认属实。

作为回应,Cloudflare 已将 Perplexity 的爬虫移出认证名单(用于标识合法爬虫),并添加新的技术拦截其行为。

IT之家注意到,这并非 Perplexity 首次面临此类指控。去年《Wired》等媒体也曾指控 Perplexity 抄袭其内容;首席执行官 Aravind Srinivas 在 Disrupt 2024 大会上面对媒体问询却不敢回答。

相关内容

热门资讯

中证A500ETF摩根(560... 8月22日,截止午间收盘,中证A500ETF摩根(560530)涨1.19%,报1.106元,成交额...
A500ETF易方达(1593... 8月22日,截止午间收盘,A500ETF易方达(159361)涨1.28%,报1.104元,成交额1...
何小鹏斥资约2.5亿港元增持小... 每经记者|孙磊    每经编辑|裴健如 8月21日晚间,小鹏汽车发布公告称,公司联...
中证500ETF基金(1593... 8月22日,截止午间收盘,中证500ETF基金(159337)涨0.94%,报1.509元,成交额2...
中证A500ETF华安(159... 8月22日,截止午间收盘,中证A500ETF华安(159359)涨1.15%,报1.139元,成交额...
科创AIETF(588790)... 8月22日,截止午间收盘,科创AIETF(588790)涨4.83%,报0.760元,成交额6.98...
创业板50ETF嘉实(1593... 8月22日,截止午间收盘,创业板50ETF嘉实(159373)涨2.61%,报1.296元,成交额1...
港股异动丨航空股大幅走低 中国... 港股航空股大幅下跌,其中,中国国航跌近7%表现最弱,中国东方航空跌近5%,中国南方航空跌超3%,美兰...
电网设备ETF(159326)... 8月22日,截止午间收盘,电网设备ETF(159326)跌0.25%,报1.198元,成交额409....
红利ETF国企(530880)... 8月22日,截止午间收盘,红利ETF国企(530880)跌0.67%,报1.034元,成交额29.0...