锚点111
大型游戏创作平台《罗布乐思》运用机器学习AI进行语音聊天审核已达一年之久。鉴于该游戏拥有大量儿童用户，公司对审核工作极为重视。在近日举办的2024年游戏开发者大会（GDC）期间，罗布乐思公司高级技术总监Kiran Bhat以及语音安全负责人Hannes Heikinheimo透露，尽管AI审核成效良好，但有时真正的人类在这项工作上能做得更出色。
Bhat在演讲中表示：“实时监控语音颇具难度，因为要监控语音，不仅需知晓对方所言，还得捕捉其说话的语气与强度，以此判断某段话语是否真有恶意。”
“上下文也是判断某段话是否具有冒犯性的要素之一。所以这是个相当棘手的问题。”
他进一步阐释，公司通过将违规内容归为4个主要类别来应对这些难题，并指出85%的违规内容都在这些分类之中，且“绝大多数”可通过50个关键词捕获。他称：“若已涵盖这些类别的前50个关键词，那就已经做得相当不错了。”
语音安全负责人Heikinheimo宣称AI监管成果斐然：运行一年后，该系统已覆盖31个国家和地区，且每段“活跃聊天时间”的违规举报数量减半。使用AI的一个优势在于它们没有情感且不会疲惫，所以在“明显违规的情形下，机器比人类更高效、更稳定”。然而，道高一尺魔高一丈，要真正理解意图并进行判断，他认为“人类仍强于机器”。
Heikinheimo说道：“在那些可能接近判定边缘的情况，或者在极为罕见、我们没有足够数据供机器学习系统训练的情况下，人类的表现依旧更优。”
THE END
