今天冬镜seo讲的是2018年最新各大搜索引擎蜘蛛名称整理分享
各大seo搜索引擎的蜘蛛会不断地访问抓取我们站点的内容,也会消耗一定的站点流量
有时候就需要屏蔽某些蜘蛛访问我们的站点,文章尾部会讲解决办法
了解各大搜索引擎蜘蛛爬虫,对我们进行网站seo优化起到很大作用
冬镜seo收集了各大搜索引擎的蜘蛛爬虫ua,以便你需要时查阅
搜索引擎蜘蛛1、百度蜘蛛:baiduspider
常见的baiduspider和baiduspider-image(抓取图片)
百度公司还有其它几个蜘蛛:baiduspider-video(抓取视频)、baiduspider-news(抓取新闻)、baiduspider-mobile(抓取wap),都不常见
百度蜘蛛爬虫ua:
pc端:mozilla/5.0 (compatible; baiduspider-render/2.0; +)
移动端:mozilla/5.0 (iphone; cpu iphone os 9_1 like mac os x) applewebkit/601.1.46 (khtml, like gecko) version/9.0 mobile/13b143 safari/601.1 (compatible; baiduspider-render/2.0; +)
图片:“baiduspider-image+(+)”
图片:“googlebot-image/1.0”
3、360蜘蛛:360spider
它是一个十分“勤奋抓爬”的蜘蛛
360蜘蛛爬虫ua:
mozilla/5.0 (compatible; msie 9.0; windows nt 6.1; trident/5.0);
4、搜狗蜘蛛:sogou news spider
搜狗公司还有其它几个蜘蛛:sogou web spider、sogou inst spider、sogou spider2、sogou blog、sogou orion spider,冬镜在日志中只发现了常见的sogou news spider。(参考大神百度的robots文件,搜狗蜘蛛名称可以用sogou概括,但有没有用就不知道了.)
搜狗蜘蛛爬虫ua:
“sogou web spider/4.0(+)”
雅虎英文:“mozilla/5.0 (compatible; yahoo! slurp; ”)
其它还有 一搜蜘蛛:yisouspider、alexa蜘蛛:ia_archiver、宜搜蜘蛛:easouspider、即刻蜘蛛:jikespider,以及还有yandexbot、ahrefsbot和ezooms.bot等这些蜘蛛,据说这几个国外的蜘蛛都不咋好
搜索引擎蜘蛛名称其实常用的搜索引擎就那么几个,只要在robots.txt文件里把常用的搜索引擎蜘蛛放进来就行,其它的可以统统屏蔽。