为什么世界开始抛弃美国AI模型？

正文

请到「今天看啥」查看全文

如今，社交媒体的内容审查已经大量采用自动化技术，并尝试利用先进的人工智能模型来识别有问题的帖子。

然而，在印度、南非、巴西等地，这些系统根本识别不出那些暴力内容。显然，人工智能在适应不同文化和语言环境等方面还有很长的路要走。

欧洲非营利法律中心专门研究人工智能治理的人权律师 Marlena Wisniak 指出，当前社交平台若过度依赖大语言模型进行内容审核，可能引发更严重的系统性风险，情况将变得更糟。

她向我透露：“大语言模型本身的审核就漏洞百出，而这些审核不佳的大语言模型又被用来审核其他内容，这简直就是一个恶性循环，错误不断重复、不断放大。”

造成这种情况的部分原因在于主流人工智能系统的“语言偏食症”：它们主要是依靠英语国家的数据进行训练的，而且 大多还是美式英语 ，所以一旦碰上当地语言和语境，比如印度的方言俚语，就会显得“水土不服”，表现欠佳。

哪怕是那些标榜能同时处理多种语言的多语言模型，在应对非西方语言时同样也会力不从心。

例如，有人对 ChatGPT 在医疗保健相关问题上的回复做了评估，发现由于中文和印地语在北美数据集中占比不高，它在这两种语言上的回复质量远不如英语和西班牙语。

对于许多 RightsCon 的与会者来说，这恰恰证明了他们一直呼吁的观点：不管是在社交媒体领域，还是在更广泛的其他领域，都需要更多 以社区为导向的人工智能开发模式 。

请到「今天看啥」查看全文