【CNMO新闻】要开发一个能够理解自然语言的人工智能系统不仅耗时长而且造价非常昂贵。开发人员必须要收集数不胜数的语音样本并对其进行手动注释,这个过程是非常漫长的。这就是亚马逊Alexa部门的研究人员追求迁移学习的原因,因为它可以模仿大脑中神经元的数学函数层,以便在具有稀疏数据的新域中进行训练。
亚马逊alexa
嵌入基于一种被称为嵌入式语言模型的方案,可用于像Alexa这样的实时系统。在测试中,Alexa研究人员将ELMo及其优化版本与未使用嵌入方案的网络进行了比较。通过ELMo和ELMoL,他们对Alexa的2.5亿条未注释请求进行了嵌入层培训,具体而言,网络的任务是意图分类,以及标记插槽。网络在经过培训后,就可以针对有限的数据进行再次培训了,真样就能更加方便德执行新任务了。使用ELMo嵌入的网络表现为最佳,ELMoL网络紧随其后。近期Alexa使用了一项技术,提高了其理解多步骤命令的能力。