品玩2月4日讯,据 Techradar 报道,AWS 的研究人员表示,当前网络中有大量的在线内容来自机器翻译。而这些低质量的机器翻译内容或将会大致大语言训练过程中的困难。
研究发现,大量网络内容经常被翻译成多种语言,其中大部分是机器翻译。这些内容不仅普遍存在于资源较少的语言的翻译中,而且在这些语言的所有网络内容中占了很大一部分。
这可能会产生更多幻觉的不流畅的大语言模型,而选择偏差表明,即使在考虑 MT 错误之前,数据的质量也可能较低。
亚马逊研究者表示,大语言模型训练需要警惕数据陷阱
2024年2月4日品玩2月4日讯,据 Techradar 报道,AWS 的研究人员表示,当前网络中有大量的在线内容来自机器翻译。而这些低质量的机器翻译内容或将会大致大语言训练过程中的困难。
研究发现,大量网络内容经常被翻译成多种语言,其中大部分是机器翻译。这些内容不仅普遍存在于资源较少的语言的翻译中,而且在这些语言的所有网络内容中占了很大一部分。
这可能会产生更多幻觉的不流畅的大语言模型,而选择偏差表明,即使在考虑 MT 错误之前,数据的质量也可能较低。
下载品玩App,比99.9%的人更先知道关于「大模型」的新故事
下载品玩App
比99.9%的人更先知道关于「大模型」的新故事
0 条评论
请「登录」后评论