反向出埃及记，为什么OpenAI留不住真大佬？
适道
作者：适道AI组
编辑：白石
Sam Altman曾对《纽约客》侃侃而谈：“马斯克非常渴望拯救世界，但前提他必须是拯救世界的那个英雄。”
对于他本人呢？我想到一个有趣的类比：Altman毫不在意世界是否毁灭，但前提他必须在诺亚方舟上，而且必须是船长。
不出意外地，OpenAI又双叒出现了人事地震。
“ChatGPT架构师”、联创John Schulman官宣转投Anthropic；去年新加入的产品副总裁Peter Deng官宣离职；大跌眼镜的是，Altman的坚定战友，OpenAI总裁兼联创Greg Brockman也疑似离场。
如果此前“人员出走潮”是Altman扫除异己；那么Greg Brockman“长期休假”（Altman未回应），或许是这位“新王”众叛亲离的开始。
至此，OpenAI最初11位创始人或仅存两席：Sam Altman，以及杨立昆得意门生，语言与代码生成部门负责人Wojciech Zaremba。著名OpenAI爆料人Jimmy Apples发X：高层已成空壳，你们快上新吧。
与此同时，OpenAI创始人之一，Altman昔日“导师”——马斯克再次将Altman、Brockman告上法庭，理由是创立之初的“欺骗和敲诈勒索”。
适道来细数“OpenAI大将叛变”历程，探讨Sam Altman为何留不住真大佬？
古有PayPal黑帮，今有OpenAI叛将。
据统计，此前OpenAI已有近75名重要员工离职，创立了约30家AI公司。
前研究副总裁Dario Amodei&前安全与政策副总裁Daniela Amodei兄妹创办Anthropic，估值180亿美元；
前首席科学家Ilya Sutskever创办SSI，估值100亿美元；
前工程副总裁David Luan创办Adept AI（被亚马逊收编），估值超10亿美元；
前技术负责人Jonas Schneider创办机器人创企Daedalus，估值4000万美元；
前研究科学家Aravind Srinivas创办Perplexity.AI，估值估值30亿美元；
前技术人员Tim Shi创办AI客服平台Cresta Al，估值16亿美元；
其中，Anthropic成长为OpenAI的头号对手、前司员工“庇护所”；Perplexity.AI成长为OpenAI最佳套壳者、Google搜索挑战者........
对于普通研究员而言，离开是谋求更好的发展；但对于核心成员，尤其是创始团队而言，离开基本就是因为三观不同。
典型代表为马斯克、Amodei兄妹，以及Ilya Sutskever。他们与Altman过招后反而巩固了Altman在OpenAI的地位。
第一步，推翻马斯克“暴政”
2015年，谷歌收购DeepMind。马斯克与PayPal联合创始人、Founders Fund创始人Luke Nosek联手提出了一个竞购方案，但最终未成功。这成为了马斯克挥之不去的遗憾。
在此背景下，忧心忡忡的马斯克参加了一场载入硅谷史册的晚宴。席间聚集了约十位杰出人物，其中三位尤为耀眼——Altman、Ilya Sutskever，以及Greg Brockman。
他们和马斯克探讨了AI可能引发的灾难性后果，和成立一个匹敌谷歌项目所需的各项条件。
四人团队认为自己具备成功所有要素：Hinton得意门生Ilya Sutskever是AI科学家；Stripe CTO Brockman是运营高手；YC CEO Sam Altman能协调所有要素；特斯拉创始人马斯克有钱。
晚宴上，马斯克承诺会投资10亿美元，并提议将项目命名为OpenAI——将以非营利性的方式运作，专注于研发对人类有益的安全AI，而不是追求利润。
2017年，谷歌发表著名Transformer论文，揭示了关键在于处理大量数据，这需要巨大算力支持（Ilya Sutskever在OpenAI创立之初已有此判断）。
于是，OpenAI开始缺钱了（马斯克共为OpenAI捐赠了4400万美元，并承担了租金）。
Brockman和其他OpenAI成员建议将该组织转变为营利性机构，以便从微软等投资者那里筹钱。
一开始，马斯克坚决反对。但当他意识到成立营利性实体很必要性时，就希望自己获得多数股权、初步董事会控制权，并担任CEO。马斯克甚至提出将OpenAI并入特斯拉。原因是，特斯拉是唯一有希望与谷歌比肩的公司。
眼看没人答应，马斯克又开始游说OpenAI研究人员跳槽特斯拉。
终于，“作妖不断”的马斯克被董事会投票出局。
走之前，他还诅咒OpenAI战胜DeepMind/Google的概率为0%。
不过，与Altman密切的人透露，马斯克纯粹是嫉妒Altman抢了自己在AI领域的风头，他更加关注如何击败OpenAI，而非AI安全。与马斯克亲近的人则坚称，他对AI安全的担忧是真实且深刻的，比如开发xAI替代OpenAI。
但无论如何，赶走“独裁者”马斯克绝对是Altman登基的第一步。
第二步 金蝉脱壳 追求利润最大化
2019年，OpenAI从微软手中拿到了10亿美元，以继续开发“好”AI。
当你拿到10亿美元时，你就必须回报“金主”，这其实已经让一些元老心怀疑虑。
但Altman相当灵活——不留恋非营利组织的名声，留恋非营利组织的壳子。
他创造性地构建了一种全新的架构。一方面，OpenAI能像普通公司运作，比如筹资、发放员工股权；另一方面，OpenAI投资者的回报有上限。
本质上，OpenAI成为了一个由非营利组织董事会控制的营利公司。
这听起来就不稳定，团队内部分裂开始逐步出现。
2021年，Dario Amode创立Anthropic时说：
“OpenAI内部有一群人，当我们创造GPT-2和GPT-3后，对两件事有非常强烈的信念。一是认为这些模型中投入的计算资源越多，它们会变得越好，几乎没有尽头。我认为现在这个观点得到了更广泛的认可，但我们是最早的信仰者。
第二点是认为，需要除了扩大模型规模之外的东西，那就是对齐或安全性。因为只通过增加计算资源并不能告诉模型它们的价值观。所以我们秉持着这个想法，成立了自己的公司。”
虽然Anthropic看起来更加“安全”，并在准确性方面下足了功夫。例如，Anthropic使用了大量复杂的事实问题来针对模型已知的弱点，将答案分为正确答案、错误答案（幻觉）、承认“不知道”。相应地，Claude3可以表示自己不知道答案，而不是提供不正确的信息。除了更准确的回复，Claude 3甚至还能“引用”，指向参考材料中的精确句子来验证他们的答案。
但正如OpenAI回报微软，Anthropic也要回报亚马逊，以合乎道德的方式经营一家大型AI公司几乎是不可能的。
最近，Anthropic就被曝24小时抓取百万次网站数据等等。
“质疑、理解、成为”或许才是大模型初创公司的必经之路。
第三步 清洗叛徒 “黄袍加身”
陈桥兵变，宋太祖赵匡胤在半夜熟睡中，被兵变将士们偷偷地将黄袍披在身上。第二天，他痛苦地接受了大家的“逼迫”。主打一个民心所向。
而在去年11月OpenAI宫斗中，也上演了一出“硅谷版”黄袍加身。彼时，数百名OpenAI员工签署联名信，要求所有“叛变”董事会成员辞职、恢复Altman职位，否则签署联名信的员工将采取行动，“可能会加入Altman和Brockman在微软新成立的子公司”。
这威望和影响力，简直是所有CEO的梦想。
等等，故事还有另一个版本。
其实这场风波，除了“比心队列”，还有一个关键因素——金钱。
就在逼宫事件前不久，OpenAI刚刚为员工组织了一场股票出售活动，让大家有机会套现部分股权。结果，钱还没拿到手呢，老板先被干下去了。
一些投资者表示，如果Altman不回归，他们会暂停执行要约收购。眼看拿这笔钱提前退休，居然被“大恶人”Ilya Sutskever搅黄了！换谁能不生气。
因此，签署请愿书确实是民心所向。而且，当你身边95%同事都签名支持时，你很可能也会签上字。
至于Ilya Sutskever逼宫失败与被迫出走，除了不那么懂人性之外，还和Altman极强的弄权能力有关，具体如下。
“新王”剪影：专权、欺骗、牟利、放任
时间回到2016年。彼时，OpenAI办公地点是Brockman的私人公寓——沙发、厨柜，甚至床铺，都是员工的工作台。这个不起眼的地方，居然让20位世界顶尖的AI大神齐聚一堂。
当时Altman和马斯克不常驻，是Brockman和Ilya Sutskever携手撑起了团队。
Ilya Sutskever是AI领域的领军人物，Brockman则被视为OpenAI业务运营的顶梁柱，
员工们记得，他们曾与Ilya Sutskever一同漫步于旧金山大街，深入讨论宏观议题，自问是否在正确的研究道路上踟蹰。Ilya Sutskever对AI有着超前洞察力，他能用简单的类比来阐释复杂的技术概念，比如将神经网络比作一种特殊的计算机程序或电路。
甚至在OpenAI成立之初，Ilya Sutskever就意识到AI的巨大飞跃不是来自某个特定的调整或新发明，而是源自海量数据的积累，就像为引擎不断注入燃料。
也正是这个原因。2017年，谷歌Transformer论文一经发表，Ilya Sutskever就能及时带领OpenAI探索并采用Transformer架构，成为行业内最早采纳这项先进技术的先锋之一。
Brockman的勤奋众所周知。一位前员工回忆，每天早晨到达办公室时，总能看到Brockman对着电脑，晚上离开时，他也在键盘上敲打。几年后，Brockman的婚礼在OpenAI办公室举行，婚礼由Ilya Sutskever主持，这一场景成为了公司文化的一部分。
在Brockman和Ilya Sutskever加入OpenAI时，他们已经实现财富自由了。披星戴月只不过是被一个共同的梦想驱动——利用AI为人类未来做贡献。
后续如我们所知，二人分道扬镳。不过，相隔几个月“被逼走”的二人未来也可能殊途同归。
第一宗罪：专权
很多人可能将11月宫斗视为Altman的无妄之灾，实际并非如此。
故事还是要从Anthropic说起。
起因是，Altman与董事会成员Helen Toner本来就不对付。
去年10月，Toner在乔治城大学的智库发表了一篇论文，倾向于认为Anthropic在安全性更胜一筹，并轻微批评ChatGPT“偷工减料”发布。
尽管论文结论挺温和，但Altman气炸了，并开始私下与董事会成员逐一接触，想把Toner投出去。
而且Altman颠倒黑白，声称Toner的一位支持者也想逐出她。
最终结果大家都知道了，被投出去的人是Altman。
第二宗罪：欺骗
董事会之所以想让Altman走人，主要是不信任他。
比如去年7月，OpenAI成立超对齐团队，由Ilya Sutskever和Leike领导。团队旨在为公司内部和非OpenAI模型的安全性提供研究。
但逃不过“先野蛮生长，再安全有序”的规律。OpenAI对AGI安全治理的优先级，显然放在了推出“闪亮产品”之后。初期承诺给超级对齐团队的20%算力，也遭不断蚕食，伤及“建立一个更负责任的AGI”员工的信心。
有趣的是，本次转投Anthropic的John Schulman离职也和AI对齐相关：“希望加深对AI对齐的关注，并开启我职业生涯的新篇章，让我可以重返实际的技术工作。”
今年7月末，OpenAI还把安全部门高级主管Aleksander Madry调离了安全岗位，并给他重新分配了“AI推理”的工作。
但OpenAI告诉媒体，Madry到新职位上后，仍致力于安全工作。Altman居然还强调，OpenAI坚持了“给整个安全团队至少20%算力”的承诺。
请注意，此时“超级对齐团队”被他偷偷换成了“整个安全团队”。
第三宗罪：牟利
如果欺骗升级呢？小道消息，去年董事会对Altman的驱逐和他隐瞒投资有关。
今年6月，WSJ指出——Altman投资了400多家公司，所持股份价值至少有28亿美元。这个隐秘且庞大的投资帝国因OpenAI成功而直接受益。
表面上，Altman作为OpenAI CEO，年薪仅6.5万美元，且不持有任何股份，原因是不想让金钱腐蚀AI的安全发展。
实际上，在Altman的投资帝国中，越来越多的公司直接和OpenAI做起了生意，要么是OpenAI客户，要么是主要业务合作伙伴。
例如，OpenAI正与核能创业公司Helion达成协议，希望通过后者购买大量电力，为数据中心供电。幕后老板正是Altman。
又例如，OpenAI想付费使用Reddit内容来训练ChatGPT。而Altman和他所控制的实体持有7.6%的Reddit股份。甚至早在2014年，Altman还短暂地担任过Reddit CEO。合作传出后，此前疯狂掉血的Reddit股价大涨10%，结果就是Altman所持股份一举增长6900万美元，达到7.54亿美元。
第四宗罪：放任
Altman之所以对AI安全放任，有一部分原因是他非常乐观？
如果你知道真正答案，可能会五味杂陈。
2015年，Altman就明确地表达过自己的担心，认为高级AI会成为人类生存的最大威胁。甚至在早期谈话中，他还用一种轻佻语气提到，AI有可能终结世界。
甚至面对《纽约客》记者，Altman透露，自己早就储备了枪支、黄金、弹药、抗生素，以及以色列国防军的防毒面具。他还提到自己在美国加州Big Sur有一片地，确保能在世界末日避难。
而当媒体再次提出时，Altman口风又变了：这不就是每个小男孩梦想的秘密基地吗？
而他的妹妹安妮表示，这很符合她对自己哥哥的了解——一个极度注重安全、准备在最坏情况下囤积资源的人。可以推测，Altman确实拥有足够的储备，只是懂得闭嘴了。
据称，Altman的野心也在不断扩张。例如，他正在进行普遍基本收入的研究，以防AI导致大规模失业；他推出Worldcoin加密货币，该项目通过扫描眼球来分配收入。
了解Altman的人透露，他的目标远不止于此，他甚至想成为“世界之王”，接管整个世界。反正，Altman确实曾考虑竞选加州州长。而Altman曾经的导师Paul Graham说：我认为他的目标是掌控整个未来！
