现在都是讲究大数据采集，为了能够收集更多的数据进行各种分析，爬虫技术也变得越来越受到重视。但是现在的网站为了保护自己的数据不被采集，都会进行所谓的反爬虫设计，通过ip地址检测的方法鉴别爬虫，为了绕开反爬机制，ip代理变得越来越重要。
IP代理，就像一个面具，目的是隐藏真实IP。但做代理的IP并不是虚假的,不存在的;相反，能做代理IP必然是真实存在且在线的IP地址。既然是一个真实在线的IP地址，必然会出现一些网络问题：网络延迟，掉线等等。当出现这个情况的时候，就需要更换一个新的IP代理来使用。
既然需要更换，那么就存在一个数量问题-一个两个还好解决，如果更换很频繁，数量很巨大时怎么办?
这就需要用到代理IP池，我们把大量可于代理的IP，集中到一起进行管理和调配，就形成了IP池，它有如下的行为特征：
1、IP池里的ip是有生命周期的，它们将被定期检查，其中失效的就会被池子清除掉。
2、IP池里的ip是不断补充的，会有新的代理ip不断被加入池子中。
3、IP池的代理ip是可以被随机取出的。
一个优质的代理IP池，会不断的更新出全新的IP，不断的验证IP，保留有效的IP，清楚无效的IP，始终保持着活性，就像一池活水，而不是一潭死水。所以代理IP是对爬虫起着非常重要的作用。