文章目录
前言
语音识别技术,也被称为自动语音识别Automatic Speech Recogntion(ASR),是通过计算机自动将人类的语音内容转换为相应文字的技术。通俗来讲,语音识别就是机器的“耳朵”,在人与机器进行语音交流的时候,让机器听得懂人类在说什么的前提。
maix_asr是一个基于声学模型的语音识别模块,用户设置拼音组成的词汇加载到模块中,就可以开始录音识别用户输入的词汇,并返回可能匹配的词汇列表。
使用方法
class(类)
from speech_recognizer import asr
class maix_asr(asr):
def config(self, sets):
pass
t = maix_asr(address, i2s, dmac, shift=0)
参数说明:
address
烧写声学模型的 Flash 地址。
i2s
录音设备,默认使用 I2S.DEVICE_0 。
dmac
录音所使用的 DMA 通道,默认使用 通道 3。
shift
声道选择,Maix 系列的硬件录音设备通常为单声道输入,设置 0 为左声道,所以 1 为右声道。
该 maix_asr 模块由继承内部 asr 模块而来的拓展配置接口辅助类,实现如下:
from speech_recognizer import asr
class maix_asr(asr):
#asr_vocab为声学模型中包含的字的拼音。
asr_vocab = ["lv", "shi", "yang", "chun", "yan", "jing", "da", "kuai", "wen", "zhang", "de", "di", "se", "si", "yue", "lin", "luan", "geng", "xian", "huo", "xiu", "mei", "yi", "ang", "ran", "ta", "jin", "ping", "yao", "bu", "li", "liang", "zai", "yong", "dao", "shang", "xia", "fan", "teng", "dong", "she", "xing", "zhuang", "ru", "hai", "tun", "zhi", "tou", "you", "ling", "pao", "hao", "le", "zha", "zen", "me", "zheng", "cai", "ya", "shu", "tuo", "qu", "fu", "guang", "bang", "zi", "chong", "shui", "cuan", "ke", "shei", "wan", "hou", "zhao", "jian", "zuo", "cu", "hei", "yu", "ce", "ming", "dui", "cheng", "men", "wo", "bei", "dai", "zhe", "hu", "jiao", "pang", "ji", "lao", "nong", "kang", "yuan", "chao", "hui", "xiang", "bing", "qi", "chang", "nian", "jia", "tu", "bi", "pin", "xi", "zou", "chu", "cun", "wang", "na", "ge", "an", "ning", "tian", "xiao", "zhong", "shen", "nan", "er", "ri", "zhu", "xin", "wai", "luo", "gang", "qing", "xun", "te", "cong", "gan", "lai", "he", "dan", "wei", "die", "kai", "ci", "gu", "neng", "ba", "bao", "xue", "shuai", "dou", "cao", "mao", "bo", "zhou", "lie", "qie", "ju", "chuan", "guo", "lan", "ni", "tang", "ban", "su", "quan", "huan", "ying", "a", "min", "meng", "wu", "tai", "hua", "xie", "pai", "huang", "gua", "jiang", "pian", "ma", "jie", "wa", "san", "ka", "zong", "nv", "gao", "ye", "biao", "bie", "zui", "ren", "jun", "duo", "ze", "tan", "mu", "gui", "qiu", "bai", "sang", "jiu", "yin", "huai", "rang", "zan", "shuo", "sha", "ben", "yun", "la", "cuo", "hang", "ha", "tuan", "gong", "shan", "ai", "kou", "zhen", "qiong", "ding", "dang", "que", "weng", "qian", "feng", "jue", "zhuan", "ceng", "zu", "bian", "nei", "sheng", "chan", "zao", "fang", "qin", "e", "lian", "fa", "lu", "sun", "xu", "deng", "guan", "shou", "mo", "zhan", "po", "pi", "gun", "shuang", "qiang", "kao", "hong", "kan", "dian", "kong", "pei", "tong", "ting", "zang", "kuang", "reng", "ti", "pan", "heng", "chi", "lun", "kun", "han", "lei", "zuan", "man", "sen", "duan", "leng", "sui", "gai", "ga", "fou", "kuo", "ou", "suo", "sou", "nu", "du", "mian", "chou", "hen", "kua", "shao", "rou", "xuan", "can", "sai", "dun", "niao", "chui", "chen", "hun", "peng", "fen", "cang", "gen", "shua", "chuo", "shun", "cha", "gou", "mai", "liu", "diao", "tao", "niu", "mi", "chai", "long", "guai", "xiong", "mou", "rong", "ku", "song", "che", "sao", "piao", "pu", "tui", "lang", "chuang", "keng", "liao", "miao", "zhui", "nai", "lou", "bin", "juan", "zhua", "run", "zeng", "ao", "re", "pa", "qun", "lia", "cou", "tie", "zhai", "kuan", "kui", "cui", "mie", "fei", "tiao", "nuo", "gei", "ca", "zhun", "nie", "mang", "zhuo", "pen", "zun", "niang", "suan", "nao", "ruan", "qiao", "fo", "rui", "rao", "ruo", "zei", "en", "za", "diu", "nve", "sa", "nin", "shai", "nen", "ken", "chuai", "shuan", "beng", "ne", "lve", "qia", "jiong", "pie", "seng", "nuan", "nang", "miu", "pou", "cen", "dia", "o", "zhuai", "yo", "dei", "n", "ei", "nou", "bia", "eng", "den", "_"]
def get_asr_list(string='xiao-ai-fas-tong-xue'):
return [__class__.asr_vocab.index(t) for t in string.split('-') if t in __class__.asr_vocab]
def get_asr_string(listobj=[117, 214, 257, 144]):
return '-'.join([__class__.asr_vocab[t] for t in listobj if t < len(__class__.asr_vocab)])
def unit_test():
print(__class__.get_asr_list('xiao-ai'))
print(__class__.get_asr_string(__class__.get_asr_list('xiao-ai-fas-tong-xue')))
def config(self, sets):
self.set([(sets[key], __class__.get_asr_list(key)) for key in sets])
def recognize(self):
res = self.result()
# print(tmp)
if res != None:
sets = {}
for tmp in res:
sets[__class__.get_asr_string(tmp[1])] = tmp[0]
#print(tmp[0], get_asr_string(tmp[1]))
return sets
return None
function(方法)
可以配置语音识别的所需要的词汇列表,最大不超过 6 个音符,超了会忽略,参数为 ‘xiao-ai-ya’ : 0.3 对应的 中文拼音字符串 和 匹配的最低概率(门限),且注意它不区分音调,所以 你-好-鸭 和 尼-浩-雅 没有区别,所以设计的时候要注意词汇的语调是否会形成新词。
例如:
t.config({
'xiao-ai' : 0.3,
'kai-deng' : 0.2,
'ni-hao' : 0.3,
'lv-shi' : 0.3,
})
识别 config 函数中所配置的词汇。
tmp = t.recognize()
# print(tmp)
if tmp != None:
print(tmp)
语音识别
下载固件:点击
这里
下载。
下载声学模型:点击
这里
下载。
烧录完成固件后,将声学模型下载到maix_asr_2900k_0x500000, 烧录到 0x500000 地址即可。然后运行代码:
import time
from Maix import GPIO, I2S
from fpioa_manager import fm
import os, Maix, lcd, image
img = image.Image(size=(320, 240))
io_led_red = 13
fm.register(io_led_red, fm.fpioa.GPIO0)
led_r=GPIO(GPIO.GPIO0, GPIO.OUT)
led_r.value(1)
#采样频率
sample_rate = 16000
record_time = 4 #s
#配置一个 I2S.DEVICE_0 设备
fm.register(20,fm.fpioa.I2S0_IN_D0, force=True)
fm.register(18,fm.fpioa.I2S0_SCLK, force=True) # bit
fm.register(19,fm.fpioa.I2S0_WS, force=True) # bit
#设置 CHANNEL_0 通道到录音输入
rx = I2S(I2S.DEVICE_0)
rx.channel_config(rx.CHANNEL_0, rx.RECEIVER, align_mode=I2S.STANDARD_MODE)
rx.set_sample_rate(sample_rate)
print(rx)
from speech_recognizer import asr
#创建 maix_asr 的辅助类
class maix_asr(asr):
asr_vocab = ["lv", "shi", "yang", "chun", "yan", "jing", "da", "kuai", "wen", "zhang", "de", "di", "se", "si", "yue", "lin", "luan", "geng", "xian", "huo", "xiu", "mei", "yi", "ang", "ran", "ta", "jin", "ping", "yao", "bu", "li", "liang", "zai", "yong", "dao", "shang", "xia", "fan", "teng", "dong", "she", "xing", "zhuang", "ru", "hai", "tun", "zhi", "tou", "you", "ling", "pao", "hao", "le", "zha", "zen", "me", "zheng", "cai", "ya", "shu", "tuo", "qu", "fu", "guang", "bang", "zi", "chong", "shui", "cuan", "ke", "shei", "wan", "hou", "zhao", "jian", "zuo", "cu", "hei", "yu", "ce", "ming", "dui", "cheng", "men", "wo", "bei", "dai", "zhe", "hu", "jiao", "pang", "ji", "lao", "nong", "kang", "yuan", "chao", "hui", "xiang", "bing", "qi", "chang", "nian", "jia", "tu", "bi", "pin", "xi", "zou", "chu", "cun", "wang", "na", "ge", "an", "ning", "tian", "xiao", "zhong", "shen", "nan", "er", "ri", "zhu", "xin", "wai", "luo", "gang", "qing", "xun", "te", "cong", "gan", "lai", "he", "dan", "wei", "die", "kai", "ci", "gu", "neng", "ba", "bao", "xue", "shuai", "dou", "cao", "mao", "bo", "zhou", "lie", "qie", "ju", "chuan", "guo", "lan", "ni", "tang", "ban", "su", "quan", "huan", "ying", "a", "min", "meng", "wu", "tai", "hua", "xie", "pai", "huang", "gua", "jiang", "pian", "ma", "jie", "wa", "san", "ka", "zong", "nv", "gao", "ye", "biao", "bie", "zui", "ren", "jun", "duo", "ze", "tan", "mu", "gui", "qiu", "bai", "sang", "jiu", "yin", "huai", "rang", "zan", "shuo", "sha", "ben", "yun", "la", "cuo", "hang", "ha", "tuan", "gong", "shan", "ai", "kou", "zhen", "qiong", "ding", "dang", "que", "weng", "qian", "feng", "jue", "zhuan", "ceng", "zu", "bian", "nei", "sheng", "chan", "zao", "fang", "qin", "e", "lian", "fa", "lu", "sun", "xu", "deng", "guan", "shou", "mo", "zhan", "po", "pi", "gun", "shuang", "qiang", "kao", "hong", "kan", "dian", "kong", "pei", "tong", "ting", "zang", "kuang", "reng", "ti", "pan", "heng", "chi", "lun", "kun", "han", "lei", "zuan", "man", "sen", "duan", "leng", "sui", "gai", "ga", "fou", "kuo", "ou", "suo", "sou", "nu", "du", "mian", "chou", "hen", "kua", "shao", "rou", "xuan", "can", "sai", "dun", "niao", "chui", "chen", "hun", "peng", "fen", "cang", "gen", "shua", "chuo", "shun", "cha", "gou", "mai", "liu", "diao", "tao", "niu", "mi", "chai", "long", "guai", "xiong", "mou", "rong", "ku", "song", "che", "sao", "piao", "pu", "tui", "lang", "chuang", "keng", "liao", "miao", "zhui", "nai", "lou", "bin", "juan", "zhua", "run", "zeng", "ao", "re", "pa", "qun", "lia", "cou", "tie", "zhai", "kuan", "kui", "cui", "mie", "fei", "tiao", "nuo", "gei", "ca", "zhun", "nie", "mang", "zhuo", "pen", "zun", "niang", "suan", "nao", "ruan", "qiao", "fo", "rui", "rao", "ruo", "zei", "en", "za", "diu", "nve", "sa", "nin", "shai", "nen", "ken", "chuai", "shuan", "beng", "ne", "lve", "qia", "jiong", "pie", "seng", "nuan", "nang", "miu", "pou", "cen", "dia", "o", "zhuai", "yo", "dei", "n", "ei", "nou", "bia", "eng", "den", "_"]
def get_asr_list(string='xiao-ai-fas-tong-xue'):
return [__class__.asr_vocab.index(t) for t in string.split('-') if t in __class__.asr_vocab]
def get_asr_string(listobj=[117, 214, 257, 144]):
return '-'.join([__class__.asr_vocab[t] for t in listobj if t < len(__class__.asr_vocab)])
def unit_test():
print(__class__.get_asr_list('xiao-ai'))
print(__class__.get_asr_string(__class__.get_asr_list('xiao-ai-fas-tong-xue')))
def config(self, sets):
self.set([(sets[key], __class__.get_asr_list(key)) for key in sets])
def recognize(self):
res = self.result()
if res != None:
sets = {}
for tmp in res:
sets[__class__.get_asr_string(tmp[1])] = tmp[0]
return sets
return None
from machine import Timer
def on_timer(timer):
timer.callback_arg().state()
try:
# default: maix dock / maix duino set shift=0
t = maix_asr(0x500000, I2S.DEVICE_0, 3, shift=1) # maix bit set shift=1
tim = Timer(Timer.TIMER0, Timer.CHANNEL0, mode=Timer.MODE_PERIODIC, period=64, callback=on_timer, arg=t)
tim.start()
t.config({
'xiao-ai' : 0.3,
'kai-deng' : 0.2,
'guan-deng' : 0.2,
'ni-hao' : 0.3,
'lv-shi' : 0.3,
})
print(t.get())
img.draw_rectangle((0, 0, 320, 240), fill=True, color=(255, 255, 255))
img.draw_string(10,80, "Please speak", color=(255, 0, 0), scale=2, mono_space=0)
lcd.display(img)
while True:
tmp = t.recognize()
if tmp != None:
print(tmp)
string = str(tmp)
a= string.split("'")
print(a[1])
img.draw_rectangle((0, 0, 320, 240), fill=True, color=(255, 255, 255))
img.draw_string(10,80, "%s"%(a[1]), color=(255, 0, 0), scale=3, mono_space=0)
lcd.display(img)
if a[1]=='kai-deng':
led_r.value(0)
if a[1]=='guan-deng':
led_r.value(1)
except Exception as e:
print(e)
finally:
tim.stop()
t.__del__()
del t
识别时可以离板子上的麦克风进一些,并且说的时候尽可能的标准,不然可能识别不出来,比如难受想哭说成蓝瘦香菇是识别不出来的。代码效果是可以在终端和lcd上打印出识别结果,当识别到开灯时led灯亮,识别到关灯时led灯灭。