使用同一个ip频繁爬取一个网站,久了之后会被该网站的服务器屏蔽。所以这个时候需要使用代理服务器。通过ip欺骗的方式去爬取网站
可以使用http://yum.iqianyue.com.com/proxy中找到很多服务器代理地址
2、应用
# *-*coding:utf-8*-*
from urllib import request
def use_porxy(porxy_addr,url):
porxy = request.ProxyHandler({'http':porxy_addr})
opener = request.build_opener(porxy, request.ProxyHandler)
request.install_opener(opener)
data = request.urlopen(url).read().decode('utf-8')
return data
data = use_porxy("114.115.182.59:128","http://www.baidu.com")
print(len(data))
1、怎样使用代理服务器,首选要明白自己的IP地址是由宽带运营商提供的固定IP地址。
2、这个IP地址就像门牌号地址一样,这样才能正常的就行网络互通数据传输和信息交换。
3、因为业务以及工作或者游戏需要不同的IP地址,所以我们需要无限的切换不同城市的ip地址。
4、首选我们需要一个领导者ip代理软件,直接百度一下领导者IP代理官网进入官方网站下载正版的软件即可。
5、打开软件后我们可以清晰的看到软件里面有全国各地现有的ip地址,根据自己的需求连接自己需要的IP,然后自己电脑或者手机的IP就改变了。
欢迎分享,转载请注明来源:夏雨云
评论列表(0条)