Python采集代理ip并判断是否可用和定时更新的方法-创新互联

网上有很多免费的ip地址,都是可以使用的,但是如果手动来获取太麻烦,这里通过Python自动抓取,可以批量获取。

成都创新互联公司是一家专注于网站设计制作、成都网站建设与策划设计,托里网站建设哪家好?成都创新互联公司做网站,专注于网站建设十年,网设计领域的专业建站公司;建站业务涵盖:托里等地区。托里做网站价格咨询:13518219792

代码如下:

# -*- coding: utf-8 -*-
import re
import urllib2
import json
import os
import time
import socket

class ProxyIp(object):
  def __init__(self):
    self.path = os.path.split(os.path.realpath(__file__))[0]
  # Get latest proxy ip and download to json
  def update_ip(self):
    print 'Update Ip'
    url = 'http://www.ip3366.net/free/'
    req = urllib2.Request(url)
    response = urllib2.urlopen(req)
    matches = re.findall(
      ur'(\d+.\d+.\d+.\d+)\s+(\d+)\s+.*?\s+(HTTPS?)',
      response.read(),
      re.I
    )
    ls = []
    for match in matches:
      if self.is_open(match[0], match[1]):
        ls.append({'ip':match[0], 'port':match[1], 'protocol': match[2]})
    with open('%s/ip.json' % self.path, 'w') as f:
      json.dump(ls, f)
    return ls
  # whether the ips is last or old.
  def is_last(self):
    m_time = int(os.path.getmtime('%s/ip.json' % self.path))
    now_time = int(time.time())
    return (now_time - m_time) > 60*60*4 # 4 hours
  @staticmethod
  def is_open(ip, port):
    s = socket.socket(socket.AF_INET, socket.SOCK_STREAM)
    try:
      s.connect(ip, int(port))
      return True
    except:
      print 'Faild IP: %s:%s' % (ip, port)
      return False
  def get_proxy_ips(self):
    if not self.is_last():
      return self.update_ip()
    else:
      with open('%s/ip.json' % self.path, 'r') as f:
        return json.load(f)

标题名称:Python采集代理ip并判断是否可用和定时更新的方法-创新互联
网页地址:http://bzwzjz.com/article/jgdch.html

其他资讯

Copyright © 2007-2020 广东宝晨空调科技有限公司 All Rights Reserved 粤ICP备2022107769号
友情链接: 盐亭网站设计 成都网站设计 手机网站制作 成都网站制作 攀枝花网站设计 成都网站建设 成都定制网站建设 成都网站建设 营销网站建设 成都响应式网站建设 成都网站制作 成都网站建设公司 手机网站制作 成都网站设计 定制网站建设多少钱 高端定制网站设计 网站建设改版 古蔺网站建设 高端品牌网站建设 成都网站设计制作公司 网站设计制作报价 成都网站制作