什么是网络爬虫呢?网络爬虫又叫网络蜘蛛(Web Spider)，这是一个很形象的名字，把互联网比喻成一个蜘蛛网，那么Spider就是在网上爬来爬去的蜘蛛。严格上讲网络爬虫是一种按照一定的规则，自动地抓取万维网信息的程序或者脚本。
众所周知，传统意义上网络爬虫是搜索引擎上游的一个重要功能模块，是负责搜索引擎内容索引核心功能的第一关。
然而，随着大数据时代的来临，信息爆炸了，互联网的数据呈现倍增的趋势，如何高效地获取互联网中感兴趣的内容并为所用是目前数据挖掘领域增值的一个重要方向。网络爬虫正是出于这个目的，迎来了新一波的振兴浪潮，成为近几年迅速发展的热门技术。
目前网络爬虫大概分为四个发展阶段：
第一个阶段是早期爬虫，那时互联网基本都是完全开放的，人类流量是主流。
第二个阶段是分布式爬虫，互联网数据量越来越大，爬虫出现了调度问题。
第三阶段是暗网爬虫，这时的互联网出现了新的业务，这些业务的数据之间的链接很少，例如淘宝的评价。
第四阶段是智能爬虫，主要是社交网络数据的抓取，解决账号，网络封闭，反爬手段、封杀手法千差万别等问题。
目前，网络爬虫目前主要的应用领域如：搜索引擎，数据分析，信息聚合，金融投资分析等等。
巧妇难为无米之炊，在这些应用领域中，如果没有网络爬虫为他们抓取数据，再好的算法和模型也得不到结果。而且没有数据进行机器学习建模，也形成不了能解决实际问题的模型。因此在目前炙手可热的人工智能领域，网络爬虫越来越起到数据生产者的关键作用，没有网络爬虫，数据挖掘、人工智能就成了无源之水和无本之木。
具体而言，现在爬虫的热门应用领域的案例是比价网站的应用。目前各大电商平台为了吸引用户，都开展各种优惠折扣活动。同样的一个商品可能在不同网购平台上价格不一样，这就催生了比价网站或App，例如返利网，折多多等。这些比价网站一个网络爬虫来实时监控各大电商的价格浮动。就是采集商品的价格，型号，配置等，再做处理，分析，反馈。这样可以在秒级的时间内获得一件商品在某电商网站上是否有优惠的信息。
关于网络爬虫的问题可以看下这个页面的视频教程，Python爬虫+语音库，看完后会对网络爬虫有个清晰的了解。