亚马逊Trainium芯片实验室独家探访：吸引Anthropic、OpenAI及苹果的背后

在亚马逊宣布对OpenAI进行500亿美元投资后，AWS邀请媒体对其Trainium芯片研发实验室进行了独家探访。该实验室位于奥斯汀“The Domain”区，是亚马逊2015年收购以色列芯片设计公司Annapurna Labs后组建的团队，拥有超过10年的芯片设计经验。实验室负责人Kristopher King和工程总监Mark Carroll介绍，Trainium芯片最初针对模型训练，现也用于推理，目前已部署140万颗，其中Anthropic的Claude运行在超100万颗Trainium2芯片上，而Amazon Bedrock服务的大部分推理流量由Trainium2处理。Trainium3于2023年12月发布，采用3纳米工艺由台积电生产，搭配自研Neuron交换机形成网状结构以降低延迟，其Trn3 UltraServers相比传统云服务器在同等性能下运行成本降低50%。该芯片支持PyTorch框架，开发者仅需“一行代码修改+重新编译”即可迁移应用，旨在降低对英伟达GPU的依赖。此外，亚马逊还设计了包含Nitro虚拟化技术、液冷系统和服务器 sled 的整套硬件方案，Project Rainier集群（2025年底启用，含50万颗芯片）主要供Anthropic使用。苹果曾在2024年公开称赞该团队的Graviton、Inferentia和Trainium芯片。目前团队正设计Trainium4，面临芯片“bring-up”阶段的挑战，如Trainium3原型机因散热部件尺寸问题需现场打磨调整，工程师需24/7工作以确保芯片量产。AWS还与Cerebras Systems合作集成推理芯片，提升AI性能。