Python3Método de implementación de verificación concurrente de la dirección del pool de proxy

本文实例讲述了Python3实现并发检验代理池地址的方法。分享给大家供大家参考，具体如下：

#encoding=utf-8
#author: walker
#date: 2016-04-14
#summary: 用协程/线程池并发检验代理有效性
import os, sys, time
import requests
from concurrent import futures
cur_dir_fullpath = os.path.dirname(os.path.abspath(__file__))

      'Accept': '*/*',
      'User-Agent': 'Mozilla/4.0 (compatible; MSIE 8.0; Windows NT 6.1; WOW64; Trident/4.0; SLCC2; .NET CLR 2.0.50727; .NET CLR 3.5.30729; .NET CLR 3.0.30729; .NET4.0C; .NET4.0E)',
    }
# verificar la validez de un proxy individual
# si es válido, devuelve el proxy; de lo contrario, devuelve una cadena vacía
def Check(desturl, proxy, feature):
  proxies = {'http': 'http://' + proxy}
  r = None # declaración
  exMsg = None
  try:
    r = requests.get(url=desturl, headers=Headers, proxies=proxies, timeout=3)
  except:
    exMsg = '* ' + traceback.format_exc()
    #print(exMsg)
  finally:
    if 'r' in locals() and r:
      r.close()
  if exMsg:
    return ''
  if r.status_code != 200:
    return ''
  if r.text.find(feature) < 0:
    return ''
  return proxy
# entrada lista de proxies (set/lista)，devuelve la lista de proxies válidos
def GetValidProxyPool(rawProxyPool, desturl, feature):
  validProxyList = list()  # lista de proxies válidos
  pool = futures.ThreadPoolExecutor(8)
  futureList = list()
  for proxy in rawProxyPool:
    futureList.append(pool.submit(Check, desturl, proxy, feature))
  print('\n finalizado el envío, esperando respuestas\n')
  for future in futures.as_completed(futureList):
    proxy = future.result()
    print('proxy:') + proxy)
    if proxy: # proxy válido
      validProxyList.append(proxy)
  print('tamaño de validProxyList:') + str(len(validProxyList))
  return validProxyList
# Obtener el pool de proxies originales
def GetRawProxyPool():
  rawProxyPool = set()
  # Obtener el pool de proxies originales de alguna manera...
  return rawProxyPool
if __name__ == "__main__":
  rawProxyPool = GetRawProxyPool()
  desturl = 'http://...'    # Dirección de acceso a través de proxy necesaria
  feature = 'xxx'    # Código de características de la página objetivo
  validProxyPool = GetValidProxyPool(rawProxyPool, desturl, feature)

Los lectores interesados en más contenido relacionado con Python pueden consultar las secciones especiales de este sitio: 'Tutorial clásico de introducción y avanzado de Python', 'Resumen de técnicas de operación de URL de Python', 'Resumen de técnicas de operación de imágenes de Python', 'Tutorial de estructuras de datos y algoritmos de Python', 'Resumen de técnicas de programación de sockets de Python', 'Resumen de técnicas de uso de funciones de Python', 'Resumen de técnicas de manipulación de cadenas de Python' y 'Resumen de técnicas de operación de archivos y directorios de Python'.

Espero que el contenido de este artículo sea útil para el diseño de programas Python de todos.

Declaración: El contenido de este artículo se obtiene de la red, pertenece al propietario original, el contenido se contribuye y carga de manera autónoma por los usuarios de Internet, este sitio no posee los derechos de propiedad, no se ha procesado editorialmente por humanos y no asume responsabilidades legales relacionadas. Si encuentra contenido sospechoso de infracción de derechos de autor, por favor envíe un correo electrónico a: notice#oldtoolbag.com (al enviar un correo electrónico, por favor reemplace # con @) para denunciar, y proporcionar evidencia relevante. Una vez confirmado, este sitio eliminará inmediatamente el contenido sospechoso de infracción.