罗布乐思AI聊天审核效果好，却无法取代真人

锚点111

大型游戏创作平台《罗布乐思》运用机器学习AI进行语音聊天审核已达一年之久。鉴于该游戏拥有大量儿童用户，公司对审核工作极为重视。在近日举行的2024年游戏开发者大会（GDC）期间，罗布乐思公司高级技术总监Kiran Bhat以及语音安全负责人Hannes Heikinheimo透露，尽管AI审核成效良好，但有时真正的人类在这项工作上能做得更出色。

Bhat在演讲中表示：“实时监控语音颇具难度，因为要监控语音，不仅得知晓对方所言，还需捕捉其说话的语气与强度，以此判断某段话语是否真有恶意。”

“上下文同样是判断某段话是否具有冒犯性的一部分。所以这是个相当棘手的问题。”

他接着解释称，公司通过将违规内容归为4个主要类别来应对这些问题，还指出85%的违规内容都在这些分类之中，且“绝大多数”可通过50个关键词捕获。他说道：“要是已涵盖这些类别的前50个关键词，那就相当不错了。”

语音安全负责人Heikinheimo宣称AI监管成果斐然：运行一年后，该系统已覆盖31个国家和地区，每段“活跃聊天时间”的违规举报数量减少了一半。使用AI的一个优势是它们没有情感且不会疲惫，所以在“非常明显的违规情形下，机器比人类更高效、更稳定”。然而，道高一尺魔高一丈，在真正理解意图和进行判断方面，他觉得“人类依旧强于机器”。

Heikinheimo说道：“在那些可能非常接近判定边缘的情况中，人类表现得更出色。或者在极为罕见的情况下，我们没有足够多的数据供机器学习系统训练。所以在这些情形下，人类表现更优。”