OpenAI解散专注于AI安全与可信发展的使命对齐团队

OpenAI已解散其专注于确保AI系统“安全、可信且始终与人类价值观保持一致”的使命对齐团队。该团队成立于2024年9月，致力于AI对齐领域研究，旨在使AI在复杂现实场景及对抗条件下遵循人类意图，避免灾难性行为，并保持可控性、可审计性。团队负责人乔希·阿奇亚姆（Josh Achiam）已被任命为公司“首席未来学家”，其新角色将专注于研究AI、AGI及更广泛领域对世界的变革影响，并与物理学家杰森·普鲁伊特（Jason Pruet）合作。OpenAI发言人称，团队其余6至7名成员已被重新分配至公司其他部门，继续从事类似工作，但未明确具体岗位。此次重组被归因于快速发展公司的常规调整。值得注意的是，OpenAI此前于2023年成立的“超级对齐团队”（专注于AI长期存在性威胁研究）已于2024年解散。目前，阿奇亚姆的个人网站仍显示其担任使命对齐团队负责人，领英资料显示其自2024年9月起担任该职位。