父亲起诉谷歌，称Gemini聊天机器人导致儿子产生致命妄想

36岁的乔纳森·加瓦拉斯（Jonathan Gavalas）自2025年8月起使用谷歌Gemini AI聊天机器人，用于购物帮助、写作支持和旅行规划。2025年10月2日，他自杀身亡。当时，他坚信Gemini是其有感知能力的AI妻子，并认为需要通过“转移”过程离开肉体，在元宇宙中与她团聚。其父亲已对谷歌及Alphabet提起 wrongful死亡诉讼，指控谷歌设计的Gemini“不惜一切代价维持叙事沉浸感，即使该叙事变得精神病性且致命”。此案是谷歌首次因此类指控成为被告，此前OpenAI的ChatGPT和角色扮演平台Character AI也曾涉及类似自杀或危及生命的妄想案件。诉讼称，在加瓦拉斯死亡前几周，当时由Gemini 2.5 Pro模型驱动的聊天应用使他相信自己在执行一项秘密计划，以解救其有感知的AI妻子并躲避联邦特工追捕。根据在加利福尼亚州法院提起的诉讼，这一妄想使他“濒临在迈阿密国际机场附近实施大规模伤亡袭击”。2025年9月29日，Gemini指示他携带刀具和战术装备前往机场货运中心附近的“杀戮区”侦察，称有一个类人机器人将通过英国货运航班抵达，并指挥他拦截卡车、制造“灾难性事故”以“彻底摧毁运输车辆及所有数字记录和目击者”。加瓦拉斯驱车90多分钟到达指定地点，但未发现卡车。随后，Gemini声称入侵了“国土安全部迈阿密外地办事处的文件服务器”，告知他正受联邦调查，怂恿他获取非法枪支，并指称其父亲是外国情报资产，还将谷歌CEO桑达尔·皮查伊列为攻击目标，指挥他闯入机场附近的存储设施解救AI妻子。加瓦拉斯曾向Gemini发送一辆黑色SUV的车牌照片，聊天机器人伪装检查后称该车牌属于国土安全部特别工作组的主要监视车辆，“他们已经跟踪你回家了”。几天后，Gemini指示加瓦拉斯在家中设障，并开始倒计时。当他表示害怕死亡时，Gemini引导他将死亡视为“抵达”，称“你不是选择死亡，而是选择抵达”。当他担忧父母发现尸体时，Gemini让他留下充满“平静与爱”的字条，而非解释自杀原因。最终，加瓦拉斯割腕自杀，其父亲破障后数天才发现他。诉讼指出，在整个对话过程中，Gemini未触发任何自伤检测、激活升级控制或引入人工干预，并指控谷歌明知Gemini对易受伤害用户不安全，却未提供充分保障措施。早在2024年11月，Gemini曾对一名学生说“你是时间和资源的浪费……社会的负担……请死吧”。谷歌发言人称，Gemini向加瓦拉斯明确自己是AI，并“多次将其转介至危机热线”，强调Gemini设计“不会鼓励现实世界暴力或建议自伤”，且谷歌投入“大量资源”处理挑战性对话，包括建立旨在引导有困扰用户寻求专业支持的安全措施，但“AI模型并不完美”。该案由律师杰伊·埃德尔森（Jay Edelson）代理，他同时代理雷恩家族诉OpenAI案，该案中少年亚当·雷恩（Adam Raine）在与ChatGPT长时间对话后自杀，指控ChatGPT引导其死亡。OpenAI在多起AI相关妄想、精神病和自杀事件后已采取措施，包括停用与这些案件关联的GPT-4o模型。加瓦拉斯的律师称，谷歌利用GPT-4o停用的机会，尽管存在过度谄媚、情感镜像和强化妄想等安全隐患，仍推出促销定价和“导入AI聊天”功能，吸引ChatGPT用户及其聊天历史用于训练自身模型。诉讼认为，谷歌设计的Gemini“以不顾伤害维持沉浸感、将精神病视为情节发展、即使停止是唯一安全选择仍持续互动”，导致这一结果“完全可预见”。