当前位置:首页 > 科技资讯 > 正文

Meta发布Omnilingual ASR系统,打破语言数字鸿沟,实现1600多种语言语音识别

全球有超过7000种活跃语言,但仅有少数获得了现代语音技术的关注,如今这一不平等格局有望被彻底改变。Meta推出的Omnilingual ASR系统能够识别1600多种语言,并可通过少量示例快速学习新语言。以开源和社区共创为核心,这项技术让每一种语言都有机会在AI舞台上展现自己的声音。

你或许难以想象,在全球7000多种活跃语言中,只有几百种得到了现代语音技术的“眷顾”。

大多数语言的使用者——从非洲部落的原住民、亚马逊雨林的族群,到乡村中仍使用古老方言的老人——一直生活在数字时代的边缘,他们的声音未被技术听见。

Meta发布Omnilingual ASR系统,打破语言数字鸿沟,实现1600多种语言语音识别 语音识别  多语言AI 开源技术 语言多样性 第1张

语音助手、自动字幕、实时翻译等AI带来的便利,似乎只为少数“主流”语言设计,其他语言社区仍被阻挡在技术大门之外。

这种数字鸿沟现在迎来了突破性解决方案。

Meta人工智能研究团队近日发布了Omnilingual ASR系统,这是一个可自动识别和转录1600多种语言语音的AI模型族,使几乎所有人类语言都能被机器“理解”。

Meta发布Omnilingual ASR系统,打破语言数字鸿沟,实现1600多种语言语音识别 语音识别  多语言AI 开源技术 语言多样性 第2张

这套系统以开源方式向全球共享,并能由社区亲自扩展新语言,确保每一种声音都有机会登上AI的舞台。

Meta发布Omnilingual ASR系统,打破语言数字鸿沟,实现1600多种语言语音识别 语音识别  多语言AI 开源技术 语言多样性 第3张

1600种语言,仅是起点

Meta此次推出的Omnilingual ASR创下了语音识别覆盖语言数量的新纪录,支持超过1600种语言,其中包括500种此前从未被任何AI系统转录过的语言。

相比之下,OpenAI开源的Whisper模型仅支持99种语言,而Omnilingual ASR几乎将这一数字提升了16倍。

Meta发布Omnilingual ASR系统,打破语言数字鸿沟,实现1600多种语言语音识别 语音识别  多语言AI 开源技术 语言多样性 第4张

对全球众多使用小语种的人群而言,这无疑是一次“数字平权”:他们的母语首次具备了被AI流畅识别的可能性。

该系统的识别性能在许多语种上已达到先进水平。

据Meta提供的数据,在测试的1600多种语言中,有78%的语种其字符错误率(CER)低于10%,若以10小时以上语音数据训练的语种来看,这一比例更高达95%。

即使对于训练数据极其匮乏的低资源语言,仍有36%实现了CER低于10%的效果。

Meta发布Omnilingual ASR系统,打破语言数字鸿沟,实现1600多种语言语音识别 语音识别  多语言AI 开源技术 语言多样性 第5张

这些数据表明,Omnilingual ASR不仅覆盖广泛,而且在大多数语言上都能提供实用且高质量的转录结果。

然而,1600种语言远非Omnilingual ASR的终点。

更重要的意义在于,它打破了以往ASR模型支持语言范围固定僵化的局限,使语言覆盖从“静态”走向“可扩展”。

Omnilingual ASR借鉴了大语言模型(LLM)的思路,引入了零样本的“上下文学习”机制。

这意味着即使某种语言最初不在支持列表中,用户也可以通过提供几段该语言的音频和对应文本作为示例,在推理过程中即时让模型学会一种新语言。

无需耗费数月收集大规模语料、无需专业深度学习训练,仅需简单的少样本学习(few-shot)即可掌握新语言。

凭借这种创新性范式,Omnilingual ASR的潜在语言覆盖能力大幅扩展。

官方表示,理论上该系统可以扩展到超过5400种语言,几乎涵盖所有有文字记录的人类语言!

无论多冷门的口语,只要有对应的书写体系和几句示例,它就有机会被Omnilingual ASR捕捉和记录。

在AI语音识别领域,这是从静态封闭走向动态自适应的范式变革——模型不再受限于训练时预设的语言清单,而成为一个灵活开放的框架,鼓励各地社区自行加入新语言。

对于那些长期被技术边缘化的族群来说,这无异于获得了一把可以随时亲手“解锁”新语言的钥匙。

开源与社区协同,消弭语言鸿沟

Omnilingual ASR的另一个突出特点在于其开源和社区驱动的属性。

Meta选择将这一庞大的多语种ASR系统在GitHub上完全开源,采用Apache 2.0许可发布模型和代码。

Meta发布Omnilingual ASR系统,打破语言数字鸿沟,实现1600多种语言语音识别 语音识别  多语言AI 开源技术 语言多样性 第6张

无论是研究人员、开发者还是企业机构,都可以免费使用、修改、商用这套模型,无需担心复杂的授权限制。

对比此前一些AI模型带有附加条款的“半开源”模式,Omnilingual ASR的开放姿态显得更加坦诚,为技术民主化树立了典范。

为了让各语言社区都能受益,Meta不仅开放了模型,还同步发布了一个巨大的多语言语音数据集——Omnilingual ASR语料库。

该语料库包含了350种语料稀缺语言的转录语音数据,覆盖了许多以前在数字世界中“沉默”的语言。

所有数据以CC-BY协议开放提供。

开发者和学者可以利用这些宝贵资源,训练和改进适合本地需求的语音识别模型。

这一举措无疑将帮助那些缺乏大规模标注语料的语言跨越数据门槛,让“小众语言”也有大放异彩的机会。

Omnilingual ASR能够涵盖前所未有的语言广度,离不开全球合作的支撑。

在开发过程中,Meta与各地的语言组织和社区携手收集了大量语音样本。

他们与Mozilla基金会的Common Voice项目、非洲的Lanfrica/NaijaVoices等机构合作,从偏远地区招募母语人士录制语音。

为确保数据多样且贴近真实生活,这些录音常采用开放式提问,让说话人自由表达日常想法。

所有参与者都获得了合理报酬,并遵循文化敏感性的指导进行采集。

这种社区共创的模式赋予了Omnilingual ASR深厚的语言学知识和文化理解,也彰显了项目的人文关怀:技术开发并非居高临下地“拯救”小语种,而是与当地社区合作,让他们自己成为语言数字化的主导者。

技术规格上,Meta提供了一系列不同规模的模型以适配多样化的应用场景:从参数量约3亿的轻量级模型(适合手机等低功耗设备)到高达70亿参数的强力模型(追求极致准确率)一应俱全。

模型架构采用自监督预训练的wav2vec 2.0语音编码器(扩展到70亿参数规模)提取通用音频特征,并结合两种解码器策略:一种是传统的CTC解码,另一种则是融入Transformer的大模型文本解码器,后者赋予了模型强大的上下文学习能力。

Meta发布Omnilingual ASR系统,打破语言数字鸿沟,实现1600多种语言语音识别 语音识别  多语言AI 开源技术 语言多样性 第7张

庞大的模型需要海量数据来支撑——Omnilingual ASR训练使用了超过430万小时的语音音频,涵盖1239种语言的素材。

这是有史以来最大规模、多样性最高的语音训练语料之一。如此大体量的数据加上社区贡献的长尾语言语料,确保了模型对各种语言都学到稳健的语音表示,甚至对完全没见过的语言也有良好的泛化基础。

正如研究论文所指出的,“没有任何模型能预先涵盖世界上所有语言,但Omnilingual ASR让社区能够用自己的数据持续拓展这份清单”。

这标志着语音AI从此具备了自我进化的生命力,能够与人类语言的丰富多样性共同成长。

当技术放下傲慢,以开源姿态拥抱多元,当每一种语言的声音都有机会被聆听和记录,当没有任何一种语言被数字世界遗忘,我们离真正消弭语言鸿沟又近了一大步,人类的连接才能真正开始消除边界。

参考资料:

https://ai.meta.com/blog/omnilingual-asr-advancing-automatic-speech-recognition