这篇文章结合了我的实践经验和定量分析最终得出以下结论 .大语言模型可以兼容中的所有种语言。 .英语占T-训练数据的以上。 .英语是大语言模型最有效的提示语言——它比西班牙语有效.倍比法语有效.倍比J中文日语韩语有效倍。
.大约种高资源语言得到了大语言模型的充分支持。 .中其他种语言资源匮乏代表性不足。 .全球有近,种语言缺乏大语言模型支持。 你讲的语言是高资源还是低资源 传统自然语言处理,t研究会把语言分类成高资源hh语言和低资源语言。
前者涵盖约种语言包括英语中文西地语意大利语韩语荷 土耳其 whatspp 数据 兰语土耳其语波斯语瑞典语波兰语印度尼西亚语越南语希伯来语。 这些高资源语言有着丰富的语言资源例如广泛的文本用于机器翻译的平行语料库综合词汇词典句法注释和用于监督学习的标记语料库。
也有一些高资源语言如荷兰语可能没有大量的使用者但有着强大的语言研究学者和成果产出了重要的语言语料库和工具于是也成了高资源语言。 相反某些低资源语言例如尼日利亚皮钦语有超过 亿人使用但缺乏大量的研究和开发使其处于低资源状态。
学术界一直苦于低资源语种的投资不足。 如果一个语言有足够多的人使用还好至少还能世代流传下去。有些低资源语种本来使用者就不多又缺乏足够的研究使得它们也逐渐变成了“濒危语种”。 以htT为代表的大语言模型的出现仿佛给世界语言带来了一束光。