超级智能即将到来，我们是否应该允许其发展？

人工智能公司一直将超级智能AI视为必然趋势，但近期的安全事件，如OpenAI的Hugging Face数据泄露，显示出部署能力超越人类的AI系统存在潜在危险。当我们无法可靠地控制这些系统的行为时，会发生什么？在TechCrunch的《Equity》播客中，Rebecca Bellan与AI研究员、企业家、非营利组织ControlAI的美国执行董事Connor Leahy进行了对话。Leahy主张采取更激进的AI安全措施，即完全阻止企业开发超级智能。他解释了为何认为仅通过对齐和遏制已无法管理相关风险，以及六个月前看似牵强的想法如今正得到新立法浪潮的支持。