AI安全初创公司AIR融资5000万美元 助力企业审查AI代理技能与插件

AI安全初创公司AIR完成两轮种子轮融资，共计5000万美元，正式走出隐身模式。该公司由以色列8200情报部队 veterans Yair Saban（CEO）和Niv Hoffman（CTO）创立，其平台能够发现企业内部运行的AI代理，持续审查这些代理使用的技能、工具和组件，并阻止它们与未通过安全标准的软件或外部源交互，同时还提供一个经过审查的AI代理附加组件和技能市场。据Saban透露，两轮融资在几周内完成，首轮1000万美元由红杉资本领投，第二轮4000万美元由Greenoaks领投，Swish、Netz、Zach Frankel（Cognition总裁）、Yinon Costica（Wiz联合创始人）等天使投资人也参与其中。AIR认为，企业大规模使用AI代理的方式开始类似于操作系统，但其使用的工具或可安装的软件尚未得到像对驱动程序或应用程序那样的监督。Saban举例称，21世纪初安装驱动程序无需签名，而现在每次安装驱动程序都会看到签名，AI代理的技能、插件或MCPs也应如此。他指出，随着AI代理开始更自主地跨数据库、企业系统工作并连接互联网，攻击者可能会毒害AI代理消费的内容而非直接攻击它。AIR的解决方案包括：可见性产品，用于发现企业环境中活跃的代理以及使用IT部门未批准的AI工具或个人账户的员工； enforcement层，用于拦截和分析AI代理的操作，如加载技能或从互联网获取内容；以及根据其维护的白名单检查AI代理想要使用的工具、附加组件或软件。Saban表示，AIR通过评估互联网上公开可用的技能和附加组件的变化及恶意行为来维护白名单，目前该平台过滤掉约27%的在线发现的附加组件和技能。AIR声称拥有超过20个客户，其中约四分之一是大型企业，在金融服务和制药等受严格监管的行业需求最为强劲。该领域竞争激烈，Noma Security、Zenity、Astrix Security和Operant AI等公司也提供类似的AI代理安全和治理工具，且该领域吸引了大量风险投资，如Zenity在8月完成1.25亿美元C轮融资，Noma去年完成1亿美元B轮融资。Saban认为AIR的护城河在于其持续审查AI代理周围不断增长的技能和附加组件生态系统的能力，他指出获得端点可见性相对容易，而持续审查技能和插件网站是一项艰巨任务。红杉资本合伙人Bogomil Balkansky表示，这不是扫描问题，而是持续重新验证问题，检查企业代理接触的每一个技能、插件、MCP服务器和子代理，并在其每次变化时实时重新检查，这首先是一个基础设施问题。AIR目前约有40名员工，新资金将主要用于招聘研究人员以及扩大在美国和欧洲的市场推广工作。