博客

爬虫学习知识点及案例篇（汇总）：

爬虫入门第1课：代理池概述及开发环境

爬虫入门第2课：代理池的设计

爬虫入门第3课：实现代理池思路

本阶段带大家从代理池的设计开始，学习Python爬虫及项目实战，详情关注上方专栏 ↑↑↑

• 
目标

  : 定义代理IP的数据模型类

• 
步骤

  :

  • 定义
    
Proxy

    类, 继承object
  • 实现
    
__init__

    方法, 负责初始化, 包含如下字段:
    • ip: 代理的IP地址
    • port: 代理IP的端口号
    • protocol: 代理IP支持的协议类型,http是0, https是1, https和http都支持是2
    • nick_type: 代理IP的匿名程度, 高匿:0, 匿名: 1, 透明:2
    • speed: 代理IP的响应速度, 单位s
    • area: 代理IP所在地区
    • score: 代理IP的评分, 用于衡量代理的可用性; 默认分值可以通过配置文件进行配置. 在进行代理可用性检查的时候, 每遇到一次请求失败就减1份, 减到0的时候从池中删除. 如果检查代理可用, 就恢复默认分值
    • disable_domains: 不可用域名列表, 有些代理IP在某些域名下不可用, 但是在其他域名下可用
  • 在配置文件: settings.py 中 定义MAX_SCORE = 50, 表示代理IP的默认最高分数
  • 提供
    
__str__

    方法, 返回数据字符串

• 
代码

  :

# 代理模型类, 用于封装代理相关信息
class Proxy(object):
    def __init__(self, ip, port, protocol=-1, nick_type=-1,speed=-1, area=None, score=50, disable_domains=[]):
        self.ip = ip    # IP
        self.port = port # 端口号
        self.protocol = protocol   # 代理IP支持协议类型,http是0, https是1, https和http都支持是2
        self.nick_type = nick_type #  匿名程度:高匿:0,匿名: 1, 透明:0
        self.speed = speed # 速度, 单位s
        self.area = area   # 所在地区
        self.score = score # 代理IP的评分, 在进行代理可用性检查的时候, 每遇到一次请求失败就减1份, 减到0的时候从池中删除. 如果检查代理可用, 就恢复默认分值
        self.disable_domains = disable_domains

    def __str__(self):
        # 返回数据字符串
        return str(self.__dict__)

• 
总结

  • 定义类
  • 指定初始的字段
  • 在settings.py文件中配置代理IP的最大分数。