Anthropic 完成史上最大规模 IPO,其安全治理结构受到审视
With the biggest IPO of all time, Anthropic’s ‘good guy’ reputation is on the line
The Verge 报道 Anthropic 完成 IPO,募资 813 亿美元,超过 SpaceX 成为史上估值最高的上市,完全稀释市值约 1.5 万亿美元。
文章拆解了 Anthropic 上市后 LTBT 治理结构的实际权限与缺口,读者可以据此评估其安全承诺与资本压力之间的张力。
今天是 Anthropic 的全新起点:一场酝酿多年的 IPO 终于落地,募资 813 亿美元,超越 SpaceX 成为史上估值最高的 IPO,也为后续其他公开上市的 AI 实验室立下了重要先例。但这不只是一次财务上的里程碑。
Anthropic 创立时的理念,是把安全放在比其他实验室更优先的位置;其创始人此前都在 OpenAI 担任研究高管。然而随着 AI 竞赛加速,公司高管反复强调,Anthropic 只有拿下第一名,才能真正完成这一使命,而这需要大量资金和算力。不出所料,深思熟虑、安全且审慎的 AI 开发,与赢得这场竞赛所需的极致速度之间,难免产生冲突。再加上 IPO,事情只会更复杂,而 Anthropic 的领导层几乎可以单方面推进这一切。这得益于一种旨在让公司免受股东盈利压力影响的企业架构——但这一架构同时也移除了对其权力的常规制衡。
一位在 IPO 前离职的 Anthropic 前员工表示,他和公司里的其他人越来越觉得,当前的 AI 开发节奏“在正常的市场结构下难以为继”,尤其是在这样一个影响力巨大、却几乎不受监管的行业里,各方激励本就错位。
多年来,Anthropic 一直对外宣称自己与其他 AI 公司不同、更为谨慎。理论上,这一点也体现在它的上市方案里。它注册为公益公司(Public Benefit Corporation),这意味着 Anthropic 董事会有责任在使命与股东财富最大化之间取得平衡。正如我的同事 Robert Hart 此前讨论过的,它还设计了一套极不寻常的权力结构。
Anthropic 于2023 年设立的长期利益信托(LTBT)及其创始人掌握着控制性投票权,这意味着即便公司已经上市,股东也永远无法把他们投票赶下台。一种特殊的 T 类股票,让一小群受托人——即 LTBT 成员——拥有“挑选和罢免部分”Anthropic 董事的“权力”。他们不受典型股东压力的影响,理论上是对创始人的一种制衡,其使命是“在预期我们的决策后果将远远超出 Anthropic 本身的关键节点,平衡股东的财务利益与我们的公共利益目标”。
现实要复杂得多。举例来说,LTBT 在技术上负责选出 Anthropic 七人董事会中的四名成员,但这四人中有一人实际上需要得到 Anthropic 创始人的认可,因此该信托并未掌握直接的多数控制权。此外,关于提名或罢免董事还有附加规定:LTBT 必须提前 30 天通知公司的“提名与公司治理委员会”其决定,该委员会由三名成员组成:联合创始人 Daniela Amodei(担任委员会主席)、Netflix 联合创始人 Reed Hastings,以及 Anthropic 投资人 Yasmin Razavi。
虽然长期利益信托(LTBT)的成员在公司中“没有经济利益”,但理论上,Anthropic 也完全可以挖走一名受托人,用高薪把他招进公司。马里亚诺-弗洛伦蒂诺·奎利亚尔(前受托人)就在今年 8 月加入 Anthropic,出任首席全球事务官;OpenAI 过去也曾把前董事会成员菲吉·西莫招入公司担任高管。非营利 AI 行业监督机构 The Midas Project 的创始人泰勒·约翰斯顿说,可以设想这样一种情形:如果某位受托人“显得有点太激进之类的,他们大可以直接给这名受托人开出一个条件,用数百万美元的实际报酬换他退出信托,这就是他们对信托施加某种监督的方式之一”。
尽管 LTBT 被宣传为制衡 Anthropic 领导层的一种手段,但在一些外部观察者看来,细则并不可靠。“这个信托既然在 Anthropic 没有经济利益,理论上可以动用它任命四名董事中三名的权力,让公司不偏离使命,”科罗拉多大学法学院法学教授、公司治理专家安·利普顿说,“但人们有理由怀疑这有多大可能发生。”
此外,利普顿还质疑:即便信托拥有这样的权力,它是否具备足够的认知来判断何时该对公司的某项计划或产品踩刹车。公开列出的四名 LTBT 成员并非知名的 AI 专家:前美联储主席本·伯南克、外交政策分析师理查德·方丹、实验物理学家克里斯托弗·斯塔布斯,以及曾任 GiveWell 高管的尼尔·巴迪·沙阿——他是 LTBT 主席。“我不认为这些受托人,或者他们任命的董事,对 AI 和 AI 开发有足够的洞察力来做出这些选择,”利普顿说,“他们都是很有声望的人,但本·伯南克对 AI 又了解多少呢?”
多位专家把 Anthropic 的 LTBT 比作奥特曼被罢免前的 OpenAI 非营利董事会:“长期利益信托的权力——或者说它缺乏的权力……在某些方面类似于 OpenAI 非营利组织拥有的权力,”The Midas Project 的约翰斯顿说。当然,那个董事会罢免 OpenAI CEO 萨姆·奥特曼的决定,最终在几天后导致奥特曼回归担任 CEO,董事会多数成员辞职并被替换。
但它与 LTBT 之间有一个显著区别。在 OpenAI 重组之前,其非营利董事会有权在认为必要时介入并指导公司的日常决策;即便在重组之后,他们仍保留在安全与安保事务上的这一权力,比如推迟或阻止某个模型发布。Anthropic 的 Form S-1 显示,LTBT 的主要职责是任命(并可能罢免)某些董事会成员,并不具备上述任何一种权力。
相反,Anthropic 的架构更像硅谷偏爱的那种以创始人为中心的安排——就像马克·扎克伯格之于 Meta、埃隆·马斯克之于 SpaceX。
Anthropic 未回应置评请求。
“无论是信托还是受托人,对日常决策都没有任何决策权,”生命未来研究所负责 AI 与国家安全事务的哈姆扎·乔杜里说,“所以我不太指望 LTBT 在公司上市后能成为治理的关键机制。”
这位前 Anthropic 员工表示,Anthropic 的创始人基本上是唯一掌握真正决策权的人:“如果你能找到一个人,既认识创始人、了解长期利益信托,又清楚决策是怎么做出的,同时还认为这个信托拥有任何实质权力,那我倒会感到意外,”他说。这名员工还补充说,受托人既“缺乏对创始人进行有效监督的能力”,又是刻意挑选出来、不会惹事的人。
Anthropic 成为上市公司后,在获取资本方面将面临前所未有的更大压力,无论是靠提高营收还是靠融资。这意味着,正如多年来行业内的一贯趋势,那些昂贵的 AI 安全举措将越来越难以证明其合理性,加快产品发布和商业化的压力也必然加大。“这个信托和创始人加在一起,才是真正掌握治理权的一方,”Lipton 说。“所以你要么相信他们会妥善平衡社会利益,要么不信。无论哪种情况,他们即便有社会层面的意愿,真正的制约都将是 Anthropic 需要钱这一事实。”
Anthropic 一直坦承自己极度需要真金白银,尤其是用来购买更多算力、加快 AI 研发进度。“算力是公司面临的最深层的商业困境,”Amodei 上周五在与摩根大通 CEO Jamie Dimon 的直播对话中说。“买得太多,当然可能财务上过度扩张。买得太少,就无法支撑面向客户的推理,更重要的是……你没法做研发。”
Anthropic 的网站总结该公司的存在理由为一件事:“将安全置于前沿的 AI 研究与产品。”但同样清楚的是,要让这一安全承诺真正有意义,Anthropic 需要大量资源才能维持业务的存续。与其他实验室一样,它一直在追求递归式自我改进——这是一个颇具争议且可能危险的行业里程碑,指的是 AI 系统能够自主改进并创造出自身的高级版本。“你无法从第二名做到安全,”Anthropic 政策主管 Sarah Heck 在九月表示。
这套解释并没有让所有人满意,包括一些 Anthropic 员工。Anthropic 的保障研究负责人 2 月离职,声称“世界正处于危险之中”;其研究员 Jacob Coxon 在 9 月称 Anthropic 和 OpenAI 都在“直奔自我改进的超级智能,拿我们的生命赌博”,因此登上新闻头条;同月,一名 Anthropic 安全研究员离职,转投非营利第三方 AI 审计机构 METR,写道“AI 公司正一步步给社会带来前所未有的风险”,并且“虽然 Anthropic 还没有发生过像 HuggingFace 遭攻击(OpenAI 智能体所为)那么严重的事件,但我认为这在一定程度上只是运气”。
周三,人工智能安全中心发布了一份新声明,Hugging Face、哈佛大学等机构的知名业内人士联署。声明指称Anthropic“不是一家安全的人工智能公司”,并称其试图“以增进公共利益之名聚敛权力”。声明写道:“Anthropic警告说,递归自我改进的人工智能可能集中权力、脱离人类控制,自己却抢先把它造出来。公司用安全标签招揽投资者、员工和公众——与此同时,它悄悄弱化了自己的安全承诺,还游说推动有利于自己的监管。”
这位Anthropic前员工说,他起初对“Anthropic必须率先冲线才能换来安全结果”这套说法深信不疑,用他的话说就是“喝了迷魂汤”;但后来他逐渐醒悟,意识到这场争先竞赛并不“值得付出那样的代价”——也就是说,不该由一家公司“单方面”决定推进RSI。(Amodei曾公开表示:“如果放任不管,[RSI]可能超出我们理解和控制这些系统的能力,因此即便要做,也必须极其谨慎。”)
“私营公司在打造一种新型智能,照这个势头,它在地球上的力量和影响力将超过人类,而它们受到的监管在许多方面还不如现在卖塔可的餐车,这相当荒谬。”这位前员工说。
Anthropic的网站写道:“归根结底,使命是我们所有人聚在这里的原因。它给我们共同的目标,让我们能迅速一致行动,而不是被相互竞争的目标拉向不同方向。它带来信任与协作,是我们决策的最终裁判。”问题在于,当Anthropic比以往任何时候都更需要为约1.5万亿美元的完全稀释市值给出理由时,它对自身使命的解读是否会变、又会怎么变。
关注本报道的话题和作者,即可在个性化首页信息流中看到更多类似内容,并接收邮件更新。
- Hayden Field
来源:The Verge:AI · theverge.com
事件后续 · 7+
查看事件全部- 同事件Anthropic CEO Dario Amodei 与联合创始人 Daniela Amodei 参与 Nasdaq 开市敲钟Rohan Paul · 10 分钟前
- 同事件Anthropic IPO 检验 AI 循环融资模式,Amazon 和 Google 持股市值约 3079 亿美元TechCrunch:AI · 33 分钟前
- 同事件Anthropic IPO 定价每股 $83.00,11 月 19 日以代码 ANT 登陆纳斯达克Anthropic:Newsroom · 17 小时前
- 同事件Anthropic IPO 估值最高或达 1.4 万亿美元,华尔街提前造势散户争抢IT之家·人工智能 · 1 天前
- 同事件Anthropic 拟将 IPO 定价上调至 $80 以上,估值或达 $1.6TRohan Paul · 2 天前
- 同事件Anthropic 获准在纳斯达克上市,代码 ANT,发行价每股 70~78 美元IT之家·人工智能 · 2 天前
- 同事件Anthropic 官宣首次公开募股(IPO)Anthropic · 7 天前