元类(metaclass)
python中万物皆对象，object是一切类的父类，包括type这个类。所以创建一个类有两种方法，一种是继承object类，另一种是type类的实例化。类也是对象，生成类的类即为元类。
道生一，一生二，二生三，三生万物。
- 道 即是 type
- 一 即是 metaclass(元类，或者叫类生成器)
- 二 即是 class(类，或者叫实例生成器)
- 三 即是 instance(实例)
- 万物 即是 实例的各种属性与方法，我们平常使用python时，调用的就是它们。
道和一，是我们今天讨论的命题，而二、三、和万物，则是我们常常使用的类、实例、属性和方法，用hello world来举例：
# 创建一个Hello类，拥有属性say_hello ----二的起源
class Hello(object): # 继承自object，通常object也可以不写
def say_hello(self, name='world'):
print('Hello, %s.' % name)
# 从Hello类创建一个实例hello ----二生三
hello = Hello()
#使用hello调用方法say_hello ----三生万物hello.say_hello()
hello.say_hello()
类从何而来呢？道直接生二
- class Hello其实是一个函数的“语义化简称”，只为了让代码更浅显易懂，它的另一个写法是：
def fn(self, name='world'): # 假如我们有一个函数叫fn
print('Hello, %s.' % name)
Hello = type('Hello', (object,), dict(say_hello=fn)) # 通过type创建Hello class ---- 神秘的“道”，可以点化一切，这次我们直接从“道”生出了“二”
# 从Hello类创建一个实例hello ----二生三，完全一样
hello = Hello()
# 使用hello调用方法say_hello ----三生万物，完全一样
hello.say_hello()
一个类的实例化是通过__new__方法实现的而不是__init__方法。上述通过type实例化创建一个类的方法，本质也是通过type.
new
()方法实现的。
Hello = type(类名，父类元组，属性和方法键值对)
- 第一个参数：我是谁。 在这里，我需要一个区分于其它一切的命名，以上的实例将我命名为“Hello”
- 第二个参数：我从哪里来在这里，我需要知道从哪里来，也就是我的“父类”，以上实例中我的父类是“object”——python中一种非常初级的类。
- 第三个参数：我要到哪里去在这里，我们将需要调用的方法和属性包含到一个字典里，再作为参数传入。以上实例中，我们有一个say_hello方法包装进了字典中。
class Hello(object){
# class 后声明“我是谁”
# 小括号内声明“我来自哪里”
# 中括号内声明“我要到哪里去”
def say_hello(){
}
}
type可以直接生成类（class），但也可以先生成元类（metaclass），再使用元类批量定制类（class）。
元类
一般来说，元类均被命名后缀为Metalass。
想象一下，我们需要一个可以自动打招呼的元类，它里面的类方法呢，有时需要say_Hello，有时需要say_Hi，有时又需要say_Sayolala，有时需要say_Nihao。
如果每个内置的say_xxx都需要在类里面声明一次，那将是多么可怕的苦役！ 不如使用元类来解决问题。
以下是创建一个专门“打招呼”用的元类代码：
class SayMetaClass(type):
def __new__(cls, name, bases, attrs):
attrs['say_'+name] = lambda self,value,saying=name: print(saying+','+value+'!')
return type.__new__(cls, name, bases, attrs)
- 元类是由“type”衍生而出，所以父类需要传入type。
- 元类的操作都在 new中完成，它的第一个参数是将创建的类，之后的参数即是三大永恒命题：我是谁，我从哪里来，我将到哪里去。 它返回的对象也是三大永恒命题。
attrs[‘say_’+name] = lambda self,value,saying=name: print(saying+‘,’+value+‘!’)
-
它跟据类的名字，创建了一个类方法。比如我们由元类创建的类叫“Hello”，那创建时就自动有了一个叫“say_Hello”的类方法，然后又将类的名字“Hello”作为默认参数saying，传到了方法里面。然后把hello方法调用时的传参作为value传进去，最终打印出来。
-
通过元类创建的类，第一个参数是父类，第二个参数是metaclass
# 道生一：传入type
class SayMetaClass(type):
# 传入三大永恒命题：类名称、父类、属性
def __new__(cls, name, bases, attrs):
# 创造“天赋”
attrs['say_'+name] = lambda self,value,saying=name: print(saying+','+value+'!')
# 传承三大永恒命题：类名称、父类、属性
return type.__new__(cls, name, bases, attrs)
# 一生二：创建类
class Hello(object, metaclass=SayMetaClass):
pass
# 二生三：创建实列
hello = Hello()
# 三生万物：调用实例方法
hello.say_Hello('world!') //Hello, world!
# 一生二：创建类
class Nihao(object, metaclass=SayMetaClass):
pass
# 二生三：创建实列
n = Nihao()
# 三生万物：调用实例方法
n.say_Nihao('中华!') // Nihao, 中华!
# 道生一
class ListMetaclass(type):
def __new__(cls, name, bases, attrs):
# 天赋：通过add方法将值绑定
attrs['add'] = lambda self, value: self.append(value)
return type.__new__(cls, name, bases, attrs)
# 一生二
class MyList(list, metaclass=ListMetaclass):
pass
# 二生三
L = MyList()
# 三生万物
L.add(1)
print(L)
>>> [1]
// 而普通的list没有add()方法
L2 = list()
L2.add(1)
>>>AttributeError: 'list' object has no attribute 'add'
通过元类创建ORM
`class Field(object):
def __init__(self, name, column_type):
self.name = name
self.column_type = column_type
def __str__(self):
return '<%s:%s>' % (self.__class__.__name__, self.name)
在Field类实例化时将得到两个参数，name和column_type，它们将被绑定为Field的私有属性，如果要将Field转化为字符串时，将返回“Field:XXX” ， XXX是传入的name名称。
class StringField(Field):
def __init__(self, name):
super(StringField, self).__init__(name, 'varchar(100)')
class IntegerField(Field):
def __init__(self, name):
super(IntegerField, self).__init__(name, 'bigint')
在StringField,IntegerField实例初始化时，时自动调用父类的初始化方式。
class ModelMetaclass(type):
def __new__(cls, name, bases, attrs):
if name=='Model':
return type.__new__(cls, name, bases, attrs)
print('Found model: %s' % name)
mappings = dict()
for k, v in attrs.items():
if isinstance(v, Field):
print('Found mapping: %s ==> %s' % (k, v))
mappings[k] = v
for k in mappings.keys():
attrs.pop(k)
attrs['__mappings__'] = mappings # 保存属性和列的映射关系
attrs['__table__'] = name # 假设表名和类名一致
return type.__new__(cls, name, bases, attrs)
1、 创建一个新的字典mapping将每一个类的属性，通过.items()遍历其键值对。
2、如果值是Field类，则打印键值，并将这一对键值绑定到mapping字典上。
3、将刚刚传入值为Field类的属性删除。
4、创建一个专门的mappings属性，保存字典mapping。
5、创建一个专门的table属性，保存传入的类的名称。
class Model(dict, metaclass=ModelMetaclass):
def __init__(self, **kwarg):
super(Model, self).__init__(**kwarg)
def __getattr__(self, key):
try:
return self[key]
except KeyError:
raise AttributeError("'Model' object has no attribute '%s'" % key)
def __setattr__(self, key, value):
self[key] = value
# 模拟建表操作
def save(self):
fields = []
args = []
for k, v in self.__mappings__.items():
fields.append(v.name)
args.append(getattr(self, k, None))
sql = 'insert into %s (%s) values (%s)' % (self.__table__, ','.join(fields), ','.join([str(i) for i in args]))
print('SQL: %s' % sql)
print('ARGS: %s' % str(args))
class User(Model):
# 定义类的属性到列的映射：
id = IntegerField('id')
name = StringField('username')
email = StringField('email')
password = StringField('password')
这时id= IntegerField(‘id’)就会自动解析为：Model.setattr(self, ‘id’, IntegerField(‘id’))
因为IntergerField(‘id’)是Field的子类的实例，自动触发元类的new，所以将IntergerField(‘id’)存入mappings并删除这个键值对。
u = User(id=12345, name='Batman', email='batman@nasa.org', password='iamback')
u.save()
1、 先调用Model.setattr，将键值载入私有对象
2、 然后调用元类的“天赋”，ModelMetaclass.new，将Model中的私有对象，只要是Field的实例，都自动存入u.mappings。
3、通过u.save()模拟数据库存入操作。这里我们仅仅做了一下遍历mappings操作，虚拟了sql并打印，在现实情况下是通过输入sql语句与数据库来运行。
- 输出结果
Found model: User
Found mapping: name ==> <StringField:username>
Found mapping: password ==> <StringField:password>
Found mapping: id ==> <IntegerField:id>
Found mapping: email ==> <StringField:email>
SQL: insert into User (username,password,id,email) values (Batman,iamback,12345,batman@nasa.org)
ARGS: ['Batman', 'iamback', 12345, 'batman@nasa.org']
网络代理的爬取
# 文件：get_page.py
import requests
base_headers = {
'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/54.0.2840.71 Safari/537.36',
'Accept-Encoding': 'gzip, deflate, sdch',
'Accept-Language': 'zh-CN,zh;q=0.8'
}
def get_page(url):
headers = dict(base_headers)
print('Getting', url)
try:
r = requests.get(url, headers=headers)
print('Getting result', url, r.status_code)
if r.status_code == 200:
return r.text
except ConnectionError:
print('Crawling Failed', url)
return None
from getpage import get_page
from pyquery import PyQuery as pq
# 道生一：创建抽取代理的metaclass
class ProxyMetaclass(type):
"""
元类，在FreeProxyGetter类中加入
__CrawlFunc__和__CrawlFuncCount__
两个参数，分别表示爬虫函数，和爬虫函数的数量。
"""
def __new__(cls, name, bases, attrs):
count = 0
attrs['__CrawlFunc__'] = []
attrs['__CrawlName__'] = []
for k, v in attrs.items():
if 'crawl_' in k:
attrs['__CrawlName__'].append(k)
attrs['__CrawlFunc__'].append(v)
count += 1
for k in attrs['__CrawlName__']:
attrs.pop(k)
attrs['__CrawlFuncCount__'] = count
return type.__new__(cls, name, bases, attrs)
# 一生二：创建代理获取类
class ProxyGetter(object, metaclass=ProxyMetaclass):
def get_raw_proxies(self, site):
proxies = []
print('Site', site)
for func in self.__CrawlFunc__:
if func.__name__==site:
this_page_proxies = func(self)
for proxy in this_page_proxies:
print('Getting', proxy, 'from', site)
proxies.append(proxy)
return proxies
def crawl_daili66(self, page_count=4):
start_url = 'http://www.66ip.cn/{}.html'
urls = [start_url.format(page) for page in range(1, page_count + 1)]
for url in urls:
print('Crawling', url)
html = get_page(url)
if html:
doc = pq(html)
trs = doc('.containerbox table tr:gt(0)').items()
for tr in trs:
ip = tr.find('td:nth-child(1)').text()
port = tr.find('td:nth-child(2)').text()
yield ':'.join([ip, port])
def crawl_proxy360(self):
start_url = 'http://www.proxy360.cn/Region/China'
print('Crawling', start_url)
html = get_page(start_url)
if html:
doc = pq(html)
lines = doc('div[name="list_proxy_ip"]').items()
for line in lines:
ip = line.find('.tbBottomLine:nth-child(1)').text()
port = line.find('.tbBottomLine:nth-child(2)').text()
yield ':'.join([ip, port])
def crawl_goubanjia(self):
start_url = 'http://www.goubanjia.com/free/gngn/index.shtml'
html = get_page(start_url)
if html:
doc = pq(html)
tds = doc('td.ip').items()
for td in tds:
td.find('p').remove()
yield td.text().replace(' ', '')
if __name__ == '__main__':
# 二生三：实例化ProxyGetter
crawler = ProxyGetter()
print(crawler.__CrawlName__)
# 三生万物
for site_label in range(crawler.__CrawlFuncCount__):
site = crawler.__CrawlName__[site_label]
myProxies = crawler.get_raw_proxies(site)
- 道生一：元类的new中，做了四件事：
将“crawl_”开头的类方法的名称推入ProxyGetter.CrawlName
将“crawl_”开头的类方法的本身推入ProxyGetter.CrawlFunc
计算符合“crawl_”开头的类方法个数
删除所有符合“crawl_”开头的类方法
- 一生二：类里面定义了使用pyquery抓取页面元素的方法
分别从三个免费代理网站抓取了页面上显示的全部代理。如果对yield用法不熟悉，可以查看：居然老师的python教程
- 二生三：创建实例对象crawler
略
- 三生万物：遍历每一个CrawlFunc
在ProxyGetter.CrawlName上面，获取可以抓取的的网址名。
触发类方法ProxyGetter.get_raw_proxies(site)
遍历ProxyGetter.CrawlFunc,如果方法名和网址名称相同的，则执行这一个方法
把每个网址获取到的代理整合成输出。
作者：楚阳
链接：https://zhuanlan.zhihu.com/p/60461261
来源：知乎
著作权归作者所有。商业转载请联系作者获得授权，非商业转载请注明出处。
元类(metaclass)作用
- 可以控制类的创建过程，它主要做三件事：
- 拦截类的创建
- 修改类的定义
- 返回修改后的类
- python中对象有个魔法属性__class__,可以查看对象是由哪个类创建出来的
>>> class Demo(object):
... pass
>>> demo = Demo()
>>> demo.__class__
<class '__main__.Demo'>
>>> Demo.__class__
<class 'type'>
>>> class Meta(type):
... pass
...
>>> class Base(object):
... __metaclass__ = Meta # python2
...
>>> class Base(metaclass=Meta): # python3
... pass
元类拓展
- 将所有的类的属性变成⼤写形式
>>> def upper_attr(future_class_name, future_class_parents, future_class_attr):
... """遍历属性字典，把不是__开头的属性名字变为⼤写"""
... newAttr = {}
... for name,value in future_class_attr.items():
... if not name.startswith("__"):
... newAttr[name.upper()] = value
... return type(future_class_name, future_class_parents, newAttr)
>>> class Foo(object, metaclass=upper_attr):
... bar= 'bip'
...
>>> foo = Foo()
>>> foo.bar
Traceback (most recent call last):
File "<stdin>", line 1, in <module>
AttributeError: 'Foo' object has no attribute 'bar'
>>> foo.BAR
'bip'
- 元类冲突
假如有两个不同的元类，要生成一个继承这两个类的子类。这时会报错， 元类冲突。我们需要手动构造新的子类元类，让新的子类元类继承自A和B的元类
>>> class MetaA(type):
... pass
...
>>> class MetaB(type):
... pass
>>> class MetaC(MetaA, MetaB):
... pass
...
>>> class C(object, metaclass=MetaC):
... pass
...
- 元类应用
- 单例模式
一种设计模式，应用该模式的类只会生成一个实例。保证了在程序的不同位置都可以且仅可以取到同一个对象实例：如果实例不存在，会创建一个实例；如果已存在就会返回这个实例。
class Singleton(type):
instance = None
def __call__(cls, *args, **kw):
"""通过重写__call__拦截实例的创建,(实例通过调用括号运算符创建的)"""
if not cls.instance:
cls.instance = super().__call__(*args, **kw)
return cls.instance
2.面向切面编程(AOP)：python装饰器、不推荐元类AOP
在运行时，动态地将代码切入到类的指定方法、指定位置上的编程称为面向切面的编程(AOP)。
如果不同的类要实现相同的功能，可以将其中相同的代码提取到一个切片中，等到需要时再切入到对象中去。这些相同的代码片段称为切面，而切入到哪些类、哪些方法则叫切入点。
def trace(func):
def callfunc(self, *args, **kwargs):
with open（'debug_log.txt', 'a'）as f:
f.write('Calling %s: %s ,%s\n'%(func.__name__, args, kwargs))
result = func(self, *args, **kwargs)
f.write('%s returned %s\n'%(func.__name__, result))
return result
return callfunc
class LogMeta(type):
def __new__(cls, name, bases, attr_dct):
for k, v in attr_dct.items():
if isinstance(v, types.FunctionType):
# 如果v是函数类型, 使用trace处理，添加日志
attr_dict[k] = trace(v)
return type.__new__(cls, name, bases, attr_dct)
class Foo(object， metaclass=LogMeta):
num = 0
def spam(self):
Foo.num += 1
return Foo.num
- 支持抽象基类
抽象基类就是包含一个或者多个抽象方法的类。python内置的abc(abstract base class)来实现抽象基类
from abc import ABCMeta, abstractmethod
class Base(metaclass=ABCMeta):
@abstractmethod
def foo(self):
pass
- 了解元类的使用可以加深理解一些框架如：ORM
作者：UCloud云计算
链接：https://zhuanlan.zhihu.com/p/114242597
来源：知乎
著作权归作者所有。商业转载请联系作者获得授权，非商业转载请注明出处。