OpenAI担忧开源权重模型 美国是否应限制中国产LLM

中国实验室Moonshot的Kimi K3作为最大的开源权重大型语言模型，其强大能力引发了关于美国AI巨头经济可能性与LLM技术未来的辩论。OpenAI战略未来负责人Dean W. Ball曾主张美国政府应寻找借口对新模型制造监管恐惧、不确定性和怀疑，认为开源权重模型必然会阻碍前沿实验室的资本支出。此言论引发强烈反响，Yann LeCun和Martin Casado等科技名人认为开源软件能加速创新并与专有项目共存，Ball随后收回了关于监管打击是白宫“最佳策略”以及开源权重模型必然减缓技术进步的说法。然而，Axios报道称特朗普政府正考虑应美国前沿实验室的要求禁止K3及其他先进中国模型，而Politico的另一篇报道则表示美国商务部短期内不会采取该措施。对主要AI公司而言，开源权重模型在独立基础设施或大型企业内部运行，能提供比Anthropic或OpenAI的领先模型更廉价的智能，若用户更多地在封闭实验室之外消费，将意味着这些实验室在模型训练上的巨额投资回报减少。Snorkel AI联合创始人、Laude研究所研究伙伴Braden Hancock指出，强大的前沿级开源模型将挤压利润率并降低前沿公司的价格，但AI使用量不会下降，反而可能增加。美国政府限制中国模型的理由包括保护美国数据免受中国政府获取（尽管专家认为在美服务器上运行的开源权重模型泄露数据可能性较低）、模型可能对中国存在隐性偏见（但在编码任务中的影响不明确），以及缺乏美国政府强制要求的护栏（旨在防止领先LLM被用于攻击计算机系统或制造武器），不过这些护栏可能使美国公司更脆弱，已有美国公司因美国前沿模型拒绝执行任务而转向中国LLM填补安全缺口。最主要的动机是担心若前沿实验室发展放缓，中国可能会超越美国。Georgetown安全与新兴技术中心的中国问题研究员Sam Bresnick认为，AI对美国军事行动日益重要，这给了美国支持前沿实验室继续投资AI的理由，但政府是否应保护这些公司免受基于起源被排除在美国市场之外的竞争对手的冲击存在争议。开源AI倡导者认为前沿公司制造了创新与封闭模型之间的错误二元对立，Hancock表示中国开源模型的更大影响在于拥有创新主导权，就像PyTorch因开源成为行业标准，整个社区都能贡献而非仅一家公司。目前美国研究生项目主要基于中国开源权重模型，半数研究论文来自中国机构，而美国前沿实验室越来越不愿广泛分享其成果。Hugging Face CEO Clem Delangue认为限制开源模型不会使AI更安全，反而会隐藏风险、集中权力并阻碍各方参与AI安全与有益发展。Bresnick提出，减缓中国发展的真正方法是加强芯片出口管制，如停止向中国出售Nvidia H200处理器，这可能避免关于禁止大量美国公司想要使用的开源技术的棘手辩论。AI经济的不确定性也是问题之一，开源和专有商业模式均未成熟，AI公司难以盈利，尤其是训练成本不断上升。中国AI公司同样面临创收和获取计算能力的挑战，中国政府出于政策原因鼓励开源发布。包括Thinking Machines Lab和Nvidia在内的一些美国公司正尝试围绕发布开源模型开展业务，Hancock指出Nvidia若有数十或数百家公司构建AI，而非两三家有足够资本制造自己芯片的公司，其业务会更好，这也是其投资Nemotron（一系列开源模型）的原因之一。Bresnick表示，美国拥有自己能力强、成本低的开源模型将非常有利，但这与前沿实验室的做法存在冲突。