Python3파일 체크 및 cchardet 라이브러리를 기반으로 한 병렬 검사 대리자 주소 구현 방법

이 글은 Python3중재자 풀 주소를 병행으로 검사하는 방법을 구현했습니다. 여러분과 공유하고자 합니다. 구체적으로 다음과 같습니다:

#encoding=utf-8
#author: walker
#date: 2016-04-14
#summary: 고리 사용/쓰레드 풀 병행으로 중재자 유효성 검사
import os, sys, time
import requests
from concurrent import futures
cur_dir_fullpath = os.path.dirname(os.path.abspath(__file__))

      'Accept': '*/*',
      'User-Agent': 'Mozilla/4.0 (compatible; MSIE 8.0; Windows NT 6.1; WOW64; Trident/4.0; SLCC2; .NET CLR 2.0.50727; .NET CLR 3.5.30729; .NET CLR 3.0.30729; .NET4.0C; .NET4.0E)',
    }
# 단일 프록시의 유효성 검사
# 유효이면 해당 proxy를 반환；아니면 빈 문자열을 반환
def Check(desturl, proxy, feature):
  proxies = {'http': 'http://' + proxy}
  r = None # 선언
  exMsg = None
  try:
    r = requests.get(url=desturl, headers=Headers, proxies=proxies, timeout=3)
  except:
    exMsg = '* ' + traceback.format_exc()
    #print(exMsg)
  finally:
    if 'r' in locals() and r:
      r.close()
  if exMsg:
    return ''
  if r.status_code != 200:
    return ''
  if r.text.find(feature) < 0:
    return ''
  return proxy
# 입력 프록시 목록(set/리스트)，유효 프록시 목록을 반환
def GetValidProxyPool(rawProxyPool, desturl, feature):
  유효프로ksi리스트 = list()  # 유효 프록시 목록
  pool = futures.ThreadPoolExecutor(8)
  futureList = list()
  for proxy in 원시프로ksi리스트:
    futureList.append(pool.submit(Check, desturl, proxy, feature))
  print('\n 제출 완료, 응답을 기다리는 중\n')
  for future in futures.as_completed(futureList):
    proxy = future.result()
    print('프록시:') + proxy)
    if proxy: # 유효 프록시
      유효프로ksi리스트.append(proxy)
  print('유효프로ksi리스트 크기:') + str(len(유효프로ksi리스트)))
  return validProxyList
# 원래 중개 서버 풀을 가져옵니다
def GetRawProxyPool():
  rawProxyPool = set()
  # 어떤 방식으로든 원래 중개 서버 풀을 가져옵니다......
  return rawProxyPool
if __name__ == "__main__":
  rawProxyPool = GetRawProxyPool()
  desturl = 'http://...'    # 중개 서버를 통해 접근해야 하는 목표 주소
  feature = 'xxx'    # 목표 웹 페이지의 특징 코드
  validProxyPool = GetValidProxyPool(rawProxyPool, desturl, feature)

파이썬 관련 내용에 더 관심이 있는 독자는 다음 주제를 확인할 수 있습니다：《파이썬 입문 및 고급 튜토리얼》、《파이썬 URL 작업 기술 요약》、《파이썬 이미지 작업 기술 요약》、《파이썬 데이터 구조 및 알고리즘 튜토리얼》、《파이썬 소켓 프로그래밍 기술 요약》、《파이썬 함수 사용 기술 요약》、《파이썬 문자열 작업 요약》 및 《파이썬 파일 및 디렉토리 작업 기술 요약》

이 문서에서 설명한 내용이 여러분의 파이썬 프로그램 설계에 도움이 되길 바랍니다.

성명: 이 문서의 내용은 인터넷에서 가져왔으며, 저작권은 원저자에게 있으며, 인터넷 사용자가 자발적으로 기여하고 자체로 업로드한 것이며, 이 사이트는 소유권을 가지지 않으며, 인공編集 처리를 하지 않았으며, 관련 법적 책임도 부담하지 않습니다. 저작권 침해가 의심되는 내용이 있을 경우, 메일을 notice#w로 보내 주세요.3codebox.com（보고할 때는 #을 @으로 변경하십시오. 관련 증거를 제공하고, 확인되면 이 사이트는 즉시 저작권 침해 내용을 삭제합니다。）