.

protecter

Universal Analytics

这周彻底把360蜘蛛拉黑了



之所以把360搜索蜘蛛拉黑,有以下几个原因:

  1. 360蜘蛛不遵守robots.txt中设置的规则,胡乱抓取;
  2. 360蜘蛛不遵守 meta 中的一些设置,偷取数据;
  3. 360 蜘蛛会时不时抓取一些不存在的php文件,测试网站的漏洞,造成服务器负担;
  4. 360 来的流量不大,尽管索引不少;
  5. 反感360 的服务态度。

0 评论 :

发表评论