搜索引擎蜘蛛爬虫名大全汇总!

对于seo优化工作者们清楚掌握主流搜索引擎的爬虫名称十分的关键,因为当分析网站日志的时候来分析爬取情况,以及如果为了保护站点内容的时候的需要屏蔽搜索引擎爬取,这两者都要基于清楚的了解搜索引擎对应的名称才能实现。掌握各大搜索引擎蜘蛛爬虫,对我们开展网站seo优化具有挺大作用,网络小编搜集了各大搜索引擎的蜘蛛爬虫ua,便于你需要时查看。
1、百度蜘蛛:baiduspider
百度公司还有其它几个蜘蛛:baiduspider-video(抓取视频)、baiduspider-news(抓取新闻)、baiduspider-mobile(抓取wap),都不常见。
2、百度蜘蛛爬虫ua:
pc端:mozilla/5.0 (compatible; baiduspider-render/2.0;
+http://www.baidu.com/search/spider.html)
移动端:mozilla/5.0 (iphone; cpu iphone os 9_1 like mac os x)
applewebkit/601.1.46 (khtml, like gecko) version/9.0 mobile/13b143 safari/601.1
(compatible; baiduspider-render/2.0;
+http://www.baidu.com/search/spider.html)
图片:“baiduspider-image+(+http://www.baidu.com/search/spider.htm)”
3、谷歌蜘蛛:googlebot
有人说谷歌蜘蛛是googlebot,官方谷歌蜘蛛最新名称为googlebot,还发现了googlebot-mobile,看名字是应该是抓取wap内容的。谷歌蜘蛛爬虫ua:“mozilla/5.0
(compatible; googlebot/2.1;
+http://www.google.com/bot.html)”,图片:“googlebot-image/1.0”。
4、360蜘蛛:360spider
它是一个十分“勤奋抓爬”的蜘蛛。360蜘蛛爬虫ua:mozilla/5.0 (compatible; msie 9.0; windows nt
6.1; trident/5.0);
5、搜狗蜘蛛:sogou news spider
搜狗公司还有其它几个蜘蛛:sogou web spider、sogou inst spider、sogou spider2、sogou
blog、sogou orion spider。搜狗蜘蛛爬虫ua:“sogou web
spider/4.0(+http://www.sogou.com/docs/help/webmasters.htm#07)”
6、必应蜘蛛:bingbot
必应蜘蛛爬虫ua:“mozilla/5.0 (compatible; bingbot/2.0;
+http://www.bing.com/bingbot.htm)”