网络爬虫是什么意思 什么是网络爬虫

1、网络爬虫（又称为网页蜘蛛，网络机器人，在foaf社区中间，更经常的称为网页追逐者），是一种按照一定的规则，自动地抓取万维网信息的程序或者脚本。另外一些不常使用的名字还有蚂蚁、自动索引、模拟程序或者蠕虫。
2、随着网络的迅速发展，万维网成为大量信息的载体，如何有效地提取并利用这些信息成为一个巨大的挑战。搜索引擎（search engine），例如传统的通用搜索引擎altavista，yahoo!和google等，作为一个辅助人们检索信息的工具成为用户访问万维网的入口和指南。