Meta推出新AI内容审核系统并减少对第三方供应商依赖

Meta于2026年3月19日宣布开始推出更先进的AI内容审核系统，并计划减少对第三方供应商的依赖。内容审核任务包括识别和移除涉及恐怖主义、儿童剥削、毒品、欺诈和 scams 等内容。该公司表示，一旦这些AI系统持续优于当前的内容审核方法，将在其各应用中部署，同时减少对第三方供应商的依赖。Meta在博客中解释，尽管仍会有人工审核内容，但这些系统将承担更适合技术处理的工作，例如重复性的 graphic 内容审核，或对抗性行为者不断改变策略的领域（如非法毒品销售或 scams）。Meta认为这些AI系统能更准确地检测更多违规行为、更好地预防 scams、更快响应现实事件并减少过度执法。早期测试显示，AI系统检测违规成人性 solicitation 内容的能力是审核团队的两倍，同时错误率降低超60%；还能识别和阻止更多涉及名人和高知名度人士的冒充账户，并通过检测新地点登录、密码更改或个人资料编辑等信号帮助阻止账户被盗。此外，该系统每天可识别和缓解约5000起 scam 尝试，即 scammers 试图诱骗用户泄露登录详情的行为。Meta指出，专家将设计、训练、监督和评估AI系统，衡量性能并做出最复杂、影响最大的决策，例如人工将继续在账户禁用上诉或向执法部门报告等最高风险和最关键决策中发挥关键作用。此举措出台的背景是，过去一年左右，随着唐纳德·特朗普总统再次就职，Meta一直在放宽其内容审核规则，例如去年终止了第三方事实核查计划，转而采用类似X的社区笔记模式，并取消了对“主流话语话题”的限制，鼓励用户对政治内容采取“个性化”方法。同时，Meta和其他大型科技公司目前面临多起诉讼，这些诉讼旨在要求社交媒体巨头对伤害儿童和年轻用户负责。此外，Meta当天还宣布推出Meta AI支持助手，为用户提供24/7支持，该助手正全球推广至iOS和Android版的Facebook和Instagram应用，以及桌面版Facebook和Instagram的帮助中心。