爬虫代理服务器怎么用

打开火狐浏览器右上角的设置选项，选择“选项”

爬虫代理服务器怎么用？

选择左边选项栏中最下方的“高级”选项

爬虫代理服务器怎么用？

“高级”选项下拉菜单“网络”。

连接配置 Firefox 如何连接至国际互联网，右侧的“设置网络”

爬虫代理服务器怎么用？

在菜单中选择“手动选择配置代理”

爬虫代理服务器怎么用？

将您的http代理IP地址填写在IP地址栏内，端口代码写在相应的位置。

其他的代理SSL代理、FTP代理、socks主机都类似。

爬虫代理服务器怎么用？

END

注意事项

其他浏览器的处理方法差不多，选择代理IP一定要选择高质量的代理IP，否则就是在浪费时间。

诸如讯代理、蚂蚁代理、快代理这些网站所提供的代理IP的质量都还不错。每个代理提供商有自己的特色，可以多加尝试！

网络数据量越来越大，从网页中获取信息变得越来越困难，如何有效地抓取并利用信息，已成为网络爬虫一个巨大的挑战。下面IPIDEA为大家讲明爬虫代理IP的使用方法。

1. 利用爬虫脚本每天定时爬取代理网站上的ip，写入MongoDB或者其他的数据库中，这张表作为原始表。

2. 使用之前需要做一步测试，就是测试这个ip是否有效，方法就是利用curl访问一个网站查看返回值，需要创建一张新表，循环读取原始表有效则插入，验证之后将其从原始表中删除，验证的同时能够利用响应时间来计算这个ip的质量，和最大使用次数，有一个算法能够参考一种基于连接代理优化管理的多线程网络爬虫处理方法。

3. 把有效的ip写入ip代理池的配置文件，重新加载配置文件。

4.让爬虫程序去指定的dailiy的服务ip和端口，进行爬取。

---