罗布乐思AI聊天审核效果不错 罗布乐思是啥游戏
大型游戏创作平台《罗布乐思》已经运用机器进修 AI 进行语音聊天审核长达一年，由于该游戏有着大量的儿童用户，企业特别重视审核。在近日举办的 GDC 2024 年游戏开发者大会期间，罗布乐思企业顶级技术总监 Kiran Bhat 和语音安全负责人 Hannes Heikinheimo 透露虽然 AI 审核取得了良好的效果，但有时候真正的人类还是能把这项职业做的更好。
Bhat 在演讲中说道：“实时监控语音听起来很难，由于要监控语音，你不仅要了解对方在说啥子，还要捕捉对方说话的语气和强度，以判断某段话是否真的具有恶意。”
“上下文也是判断某段话是否具有冒犯性的一部分。因此这一个特别困难的难题。”
他继续解释道，企业通过将违规内容涵盖到 4 个主要类别当中来应对这些难题，并表示 85% 的违规内容都属于这些分类，而且“绝大多数”都可以通过 50 个决定因素词来捕获。他表示：“如果你已经涵盖这些类别的前 50 个决定因素词，那么已经做的很不错了。“
语音安全负责人 Heikinheimo 声称 AI 监管取得了令人印象深刻的成果：在运行一年后，该体系已覆盖 31 个民族地区，而且每段“活跃聊天时刻”的违规举报数量减少了一半。运用 AI 的壹个优势是他们没有情感且不会疲惫，因此在“特别明显的违规情况下，机器比人类更有效、更稳定”。然而，道高一尺魔高一丈，想要真正领会意图和进行判断，他认为“人类仍然强过机器”。
Heikinheimo 说道：“在那些也许特别接近判定边缘的物品上，人类仍然表现更好。或者在特别罕见的情况下，大家没有那么多数据供机器进修体系训练。因此在这些情况下，人类仍然表现更好。”
本站公开此文仅为传递信息，不代表本站认同此见解或证实其描述