Roblox推出实时AI聊天改写功能以过滤违禁语言

Roblox于2026年3月5日宣布推出实时AI聊天改写功能，该功能能自动将违禁词汇替换为更尊重的语言。此新功能超越了Roblox当前仅用“#”符号替换违禁词和短语的文本过滤系统。Roblox表示，用户遇到一连串“####”时，对话会被打断且难以理解，而现在过滤后的文本将被改写成更尊重且接近用户原始意图的语言。例如，消息“Hurry TF up!”之前会显示为“####”，现在将被改写为“Hurry up!”，聊天中的所有人都会收到消息已被改写以保持对话文明的通知。Roblox用户与发现产品副总裁Rajiv Bhatia在新闻稿中称，聊天是用户在Roblox上连接、协调和玩耍的核心，实时改写有助于保持游戏和对话的正常进行，同时引导语言走向适当，这种方法减少了聊天中的摩擦，同时维持了帮助社区保持文明的标准。Roblox指出，尽管改写减少了聊天中的一些干扰，但其安全系统对更严重的行为仍然有效。该新功能支持Roblox自动翻译工具目前支持的所有语言。此外，公司还升级了文本过滤系统，以检测更多违禁语言的变体，早期结果显示该系统在检测黑客语（leetspeak）和更复杂的绕过过滤器尝试方面表现更好，这使得公司在分享或 soliciting 个人信息时的假阴性率降低了20倍。此次公告是在Roblox推出聊天访问强制面部验证之后不久发布的，此前德克萨斯州、肯塔基州和路易斯安那州等州的总检察长因儿童安全问题对Roblox提起诉讼，诉讼是针对有报道称Roblox将年轻用户暴露于 grooming 和 explicit 内容等危险风险。