360Spider,它是一个很“勤奋抓爬”的蜘蛛。
不想让360搜索抓取,可以选择robots.txt协议禁止。
User-agent: 360Spider
Disallow: /
如果还是禁止不了,可以选择nginx规则禁止访问,如下:
if ($http_user_agent ~* "360Spider") {
return 403;
}
360Spider,它是一个很“勤奋抓爬”的蜘蛛。
不想让360搜索抓取,可以选择robots.txt协议禁止。
User-agent: 360Spider
Disallow: /
如果还是禁止不了,可以选择nginx规则禁止访问,如下:
if ($http_user_agent ~* "360Spider") {
return 403;
}
Lycos蜘蛛
神马蜘蛛
雅虎中国蜘蛛
360蜘蛛
backlinks蜘蛛
Criteo蜘蛛
twiceler蜘蛛
一淘蜘蛛
网络爬虫程序
网络爬虫系统
人工智能模型爬虫
今日头条蜘蛛