Python3並行検証代理プールのアドレスを実現する方法

Pythonの3プロキシプールの並行検証を実現する方法。以下に説明します：

#encoding=utf-8-8
#author: walker
#date: 2016-04-14
#summary: サーゲントを使用/スレッドプールによるプロキシの有効性の並行検証
import os, sys, time
import requests
from concurrent import futures
cur_dir_fullpath = os.path.dirname(os.path.abspath(__file__))

      'Accept': '*/*',
      'User-Agent': 'Mozilla/4.0 (compatible; MSIE 8.0; Windows NT 6.1; WOW64; Trident/4.0; SLCC2; .NET CLR 2.0.50727; .NET CLR 3.5.30729; .NET CLR 3.0.30729; .NET4.0C; .NET4.0E)',
    }
#単一のプロキシの有効性を検証します
#有効であれば、そのproxyを返します；それ以外の場合、空文字列を返します
def Check(desturl, proxy, feature):
  proxies = {'http': 'http://' + proxy}
  r = None #宣言
  exMsg = None
  try:
    r = requests.get(url=desturl, headers=Headers, proxies=proxies, timeout=3)
  except:
    exMsg = '* ' + traceback.format_exc()
    #print(exMsg)
  finally:
    if 'r' in locals() and r:
      r.close()
  if exMsg:
    return ''
  if r.status_code != 200:
    return ''
  if r.text.find(feature) < 0:
    return ''
  return proxy
#入力プロキシリスト(set/リスト），有効なプロキシリストを返します
def GetValidProxyPool(rawProxyPool, desturl, feature):
  validProxyList = list()  #有効なプロキシリスト
  pool = futures.ThreadPoolExecutor(8)
  futureList = list()
  for proxy in rawProxyPool:
    futureList.append(pool.submit(Check, desturl, proxy, feature))
  print('\n submit done, waiting for responses\n')
  for future in futures.as_completed(futureList):
    proxy = future.result()
    print('proxy:') + proxy)
    if proxy: #有効なプロキシ
      validProxyList.append(proxy)
  print('validProxyList size:') + str(len(validProxyList)))
  return validProxyList
# 原始代理プールを取得する
def GetRawProxyPool():
  rawProxyPool = set()
  # 原始代理プールを取得する方法...
  return rawProxyPool
if __name__ == "__main__":
  rawProxyPool = GetRawProxyPool()
  desturl = 'http://...'    # 代理を通じてアクセスする必要があるターゲットアドレス
  feature = 'xxx'    # 目標ウェブページの特徴コード
  validProxyPool = GetValidProxyPool(rawProxyPool, desturl, feature)

Pythonに関するさらに詳しい内容に興味を持つ読者は、以下の特集をチェックしてください：《Python入門と上級者向けの经典ガイド》、《Python URL操作の技術集》、《Python画像操作の技術集》、《Pythonデータ構造とアルゴリズムガイド》、《Python Socketプログラミングの技術集》、《Python関数の使用技術集》、《Python文字列操作の技術集》および《Pythonファイルとディレクトリ操作の技術集》

この記事に記載されている内容が皆様のPythonプログラムデザインに役立つことを願っています。

声明：この記事の内容はインターネットから収集され、著作権者に帰属します。インターネットユーザーによって自発的に提供された内容であり、このサイトは所有権を持ちません。人工的な編集は行われていません。また、関連する法的責任を負いません。著作権に抵触する内容が見つかった場合は、以下のメールアドレスまでご連絡ください：notice#oldtoolbag.com（メール送信時、#を@に変更してください。報告を行い、関連する証拠を提供してください。一旦確認がとれましたら、このサイトは即座に侵害される可能性のあるコンテンツを削除します。）