PatronView 150万页面网站运营者分享与抓取机器人斗争一年的经历
PatronView 负责人 Nick Gray 分享了其运营的 150 万页面网站在一年内应对抓取机器人和 AI 爬虫的经历。网站每获得一次人类页面加载,就会出现 214 次机器人页面加载。Claude 每带来一名引荐用户,就进行了 3.5 万次抓取;而亚马逊的机器人没有带来任何用户。Gray 介绍了尝试过的措施、失败的做法,以及目前有效的方法。2026 年 8 月 7 日。
本文来源:Techmeme,仅供学习参考,版权归原作者所有。