为什么执行爬虫程序还要使用代理服务器？

在爬虫的时候，被爬网站是有反爬虫机制的，如果使用一个IP反复访问一个网页，就容易被出现IP限制，无法再对网站进行访问，这时就需要用到代理IP。

爬虫在抓取一个网站数据的时候，就相当于反复向一个人打招呼，有非常大的几率会被拉黑。使用代理IP更换不同IP，对方网站每次都以为是新用户，自然就没有拉黑的风险。

如果业务量不大，工作效率并没有太大要求，可以不使用代理IP。如果工作任务量大，抓取速度快，目标服务器会容易发现，所以就需要用代理IP来换IP后再抓取。通过以上的介绍，说明网络爬虫不是必须使用代理IP，但确是高效工作的好工具。目前ipidea已向众多互联网知名企业提供服务，对提高爬虫的抓取效率提供帮助，支持API批量使用，支持多线程高并发使用。

无论是使用java、Python爬取数据，都会出现IP被封的情况，所以就需要使用代理IP替我们操作。我一般会利用Java的HttpClient包，来加入动态代理功能，我使用的是芝麻HTTP代理，当然你也可以选择其他的代理提供商。

1、先声明一个代理类

2、声明一个HttpClient 对象，设置好超时时间

3、设置芝麻HTTP代理

4、测试当前的代理是否有用

5、得到服务器是否对我们进行屏蔽，如果返回的是SC_FORBIDDEN，代表被屏蔽的，那么我们就一个一个代理去试，也就是调用第四步的函数去判断当前的代理是否有用

---