Discord承认AI审核漏洞误封用户，无害图片遭错误标记

Discord承认其AI审核系统存在漏洞，在过去两个月内错误封禁了超过8000名用户，原因是无害图片（包括电子表格、棋盘、游戏纹理以及白色和灰色透明背景）被错误标记为有害内容。该公司确认此问题自5月起影响用户账户，在团队发现并修复问题前的周末，又有200名用户被封禁。目前所有受影响账户正在恢复过程中。Discord在X平台的详细帖子中解释，其自动安全系统通过将上传内容与已知有害材料数据库进行匹配来标记内容，尽管该技术旨在识别非法内容，但公司承认有时会产生误报，按设计本应由人工审核员审查标记内容后再采取行动，但此次漏洞导致系统直接封禁了受影响账户。公司表示正在改进安全措施以防止此类事件再次发生。社交媒体上，用户称因上传含方格图案的图片而被永久封禁，部分用户推测Discord的AI审核工具对方格状图案变得更为敏感，因其曾被用于掩盖或伪装NSFW及儿童剥削内容以规避自动检测。受影响用户在社交媒体表达不满，认为仅基于自动检测的永久账户封禁可能带来严重后果，尤其对依赖Discord进行工作、游戏社区交流或远程社交的用户。此次事件凸显了AI辅助审核的挑战，许多平台日益依赖自动化系统大规模识别非法或滥用材料。Discord并非唯一因自动化系统面临审核问题的平台，去年Instagram和Facebook Groups用户曾报告广泛的不明原因账户封禁，许多人认为是AI审核系统所致，尽管Meta未公开确认，但其监督委员会正推动提高透明度；Tumblr去年也面临用户投诉称账户被大规模封禁且无明确解释。