OR 新媒|oror.vip跨平台阅读首选
2023-12-07 20:51
商业与经济

OpenAI 山姆·奥特曼当选《时代》杂志年度CEO

《时代》杂志周三公布了2023年度首席执行官,OpenAI联合创始人、首席执行官山姆·奥特曼(Sam Altman)获此殊荣。登上《时代》的封面,标志着奥特曼在动荡、充满挑战和胜利的一年里获得了巨大的赞誉。
OpenAI CEO阿尔特曼寻求数万亿美元以重塑芯片和AI产业

■对OpenAI首席执行官奥特曼而言,今年的感恩节与以往截然不同。通常情况下,他会乘飞机前往圣路易斯的家中看望家人。但这一次,这个节日是在对一家公司控制权的生死之争后到来的,而一些人认为这家公司掌握着人类的命运。奥特曼为此疲惫不堪。他前往自己位于纳帕谷(Napa Valley)的农场远足,然后返回旧金山,与一名曾经解雇他、又在疯狂的5天后恢复他职务的董事会成员共处了几个小时。接下来的几个小时,他把电脑放在一边,让音响大声的播放着音乐,亲手做了一顿素食意大利面,和未婚夫奥利弗·穆赫林(Oliver Mulherin)一起喝酒。11月30日,奥特曼告诉《时代》杂志:“这起疯狂的事件绝对让人难以忍受,所以我还没有完全恢复过来。”

《时代》杂志在OpenAI发布史上被采用速度最快的科技产品ChatGPT整整一年后采访了奥特曼。这款聊天机器人及其后续产品GPT-4对OpenAI和世界的影响正在转变。“对许多人来说,”奥特曼说,“2023年是他们开始认真对待人工智能的一年。”作为一个致力于为人类利益构建人工智能的非营利研究实验室,OpenAI的估值飙升至800亿美元。奥特曼也成为全球最有权力和最受尊敬的首席执行官之一,是技术革命的形象代言人和主要预言者。

但是OpenAI曾岌岌可危。11月17日,OpenAI的非营利董事会解雇了奥特曼,没有任何警告,甚至没有任何解释。接下来的超现实操作让公司的接班人戏剧看起来很严肃。员工们集体暴走。OpenAI的强大投资者也是如此;有人甚至毫无根据地猜测,罢免奥特曼的董事之一是中国间谍。这家公司富有远见的首席科学家投票罢免了曾与他共同创办OpenAI的奥特曼,结果却反悔了。两位临时首席执行官来了又走。与此同时,该公司的员工和董事会展开博弈。三位参与对峙的人士表示,OpenAI的全体员工一度威胁说,如果董事会不辞职,并在几个小时内重新任命奥特曼,他们就集体辞职。然后,奥特曼更是准备要带着数百名同事奔赴微软。看起来,这家催化人工智能繁荣的公司可能会在一夜之间彻底瓦解。

最终,奥特曼获胜归来,董事会也进行了彻底改革。“我们真的感觉比以往任何时候都更强大、更团结、更专注,”奥特曼在重返首席执行官职位的第二天接受《时代》杂志采访时说。“但我希望有一些其他的方式变成这样。”这不是普通的董事会斗争,OpenAI也不是普通的初创公司。这一事件给该公司及其首席执行官留下了挥之不去的疑问。

38岁的奥特曼是一位拥有完美气质的超级巨星创始人,已经在硅谷工作了十年。“你不能解雇史蒂夫·乔布斯(Steve Jobs),”前谷歌首席执行官埃里克·施密特(Eric Schmidt)曾经这样说过。但当时的苹果董事会做到了。(碰巧的是,曾被苹果解雇的乔布斯,最终也重返公司。)随着有关奥特曼被罢免原因的传闻不断涌现,OpenAI的董事会被迫公开表示,OpenAI产品的安全性、技术的商业化以及研究的速度都没有争议。奥特曼“在与董事会的沟通中的行为和缺乏透明度”削弱了董事会监督公司的能力,但未对此透露实例。

《时代》杂志采访了奥特曼圈子里的20多人--包括现任和前任OpenAI员工、多名高管以及多年来与他密切合作的其他人--揭示了一幅反差极大的肖像。认可他的人形容奥特曼和蔼可亲,才华横溢,有非同寻常的动力,擅长把投资者和研究人员团结在他为整个社会的利益开发通用人工智能(AGI)这一愿景的周围。但四位曾与奥特曼共事多年的人也表示,他可能很狡猾,有时会误导人,具有欺骗性。两名熟悉OpenAI董事会程序的人士表示,奥尔特曼擅长操纵他人,他曾多次收到反馈,称自己有时不诚实,目的是让人们觉得他同意他们的意见,而实际上他并不同意。这些人将这种模式视为巩固权力的更广泛尝试的一部分。“在很多方面,山姆是一个非常好的人;他不是邪恶的天才。如果他是一个可怕的人,讲述这个故事会更容易,”其中一人说。“他关心使命,关心其他人,关心人类。但如果你观察他的行为,会发现他有一个明显的模式,那就是以一种极端的方式去追求权力。”

OpenAI发言人表示,该公司无法对围绕奥特曼被解雇的事件发表评论。“在董事会的独立审查完成之前,我们无法透露具体细节。我们期待着审查的结果,并继续支持山姆,”该发言人在声明中对《时代》杂志说。“我们优先考虑的仍然是开发和发布有用和安全的人工智能,并支持新董事会努力改善我们的治理结构。”

奥特曼在过去一年的大部分时间里都在向公众保证,OpenAI认真对待带领其强大技术走向世界的责任。他给出的一个证据是OpenAI不同寻常的混合结构:这是一家由非营利董事会管理的营利性公司,其使命优先于财务利益。“这里没有人值得信任,”奥特曼在今年6月出席彭博技术大会(Bloomberg Technology Conference)曾这么说过。“董事会可以解雇我。我认为这很重要。”但是当这种情况发生时,所有的一切只是为了让奥特曼想办法回归,这似乎反映出OpenAI的这种责任犹如海市蜃楼。一家一夜之间就走到自我毁灭边缘的公司,怎么能被信任来安全地引进一项许多人认为会毁灭人类的技术呢?

目前还不清楚奥特曼在重新担任首席执行官期间,手中的权利是会增加还是减小。自ChatGPT推出以来,该公司已成为全球人工智能领域的龙头企业,并预计将在明年发布更强大的新模型。但随着越来越多的竞争对手把巨额资金投入到前沿人工智能研究中,无法保证OpenAI未来能够稳固其行业翘楚的地位。科技行业素以炒作周期而闻名,即借助疯狂的炒作,让风险资本从虚拟现实或加密货币等时尚产物中获利。人工智能发展的极快速度可能会放缓,关于通用人工智能的崇高承诺也可能永远不会实现。

不过OpenAI出现僵局的一个重要原因是,参与其中的每个人都认为一个新的世界不仅即将到来,而且会很快到来。两名了解董事会审议情况的人士强调了监管一家认为自己正在开发史上最重要技术的公司的重要性。奥特曼认为,通用人工智能--一个在大多数方面超越人类的系统--可能会在未来四五年内实现。它可以推动全球经济,拓展科学知识的前沿,并大幅提高数十亿人的生活水平--创造一个与过去截然不同的未来。在这种观点下,扩大我们获得认知劳动(注:通过个体的心智复杂操作,对信息进行处理,才能完成工作任务,达成工作目标)的途径--用奥特曼的话说就是“获得更高质量的智力和更好的想法”--有助于解决从气候变化到癌症的一切问题。

但这也会带来严重的风险。对许多人而言,过去一年人工智能能力的快速提升令人深感担忧。计算机科学家还没有解决业内称为“对齐问题”(Alignment Problem)的问题,也就是确保通用人工智能符合人类价值观的任务。很少有人同意由谁来决定这些价值。奥特曼和其他人警告说,先进的人工智能可能会造成等同于大流行和核战争规模的“生存”风险。这就是OpenAI董事会认定其首席执行官不可信的背景。人工智能政策研究所(AIPI)的执行董事、奥特曼支持的一家初创公司的创始人丹尼尔·科尔森(Daniel Colson)说:“人们现在真的开始玩真了,因为人们预计试图改变事情轨迹的窗口正在关闭。”

11月初一个明媚的清晨,奥特曼看起来很紧张。在旧金山市中心一个洞穴般的活动场所,他将很快在OpenAI的首届开发者大会上向大约900名与会者展示。他身着灰色毛衣和颜色鲜艳的阿迪达斯乐高联名运动鞋,对帮助他排练的演讲教练表示感谢。“这不是我擅长的事情,”他说,“我坐在电脑屏幕前要舒服许多。”

在高中时期,奥特曼周五的晚上都会坐在自己的邦迪蓝iMac(苹果推出的第一款iMac)前。他在圣路易斯郊区的一个中产阶级犹太家庭长大,是一名房地产经纪人和一名皮肤科医生所生的四个孩子中的老大。奥特曼既是书呆子,又非常自信。在一些学生对国际出柜日当天一位演讲者的观点持不同意见之后,十几岁时出柜的奥特曼曾在自己就读的高中发表了一番演讲。2003年,当人们对网络泡沫破灭的记忆逐渐淡忘时,奥特曼进入斯坦福大学攻读计算机科学。在大学里,他迷上了扑克,认为这是对心理学和风险的灌输。那时,他知道自己想成为一名企业家。两年后,他辍学并在Loopt上工作。这是一家基于地理位置的社交网络,由他与当时的男友尼克·西沃(Nick Sivo)共同创立。

Loopt成为第一批加入现在引以为豪的创业加速器Y Combinator(YC)的八家公司之一。该公司于2012年以4300万美元的价格售出,为奥特曼净赚500万美元。虽然回报相对不大,但奥特曼学到了一些东西。他曾在接受媒体采访时表示:“完成事情的方法就是真正坚持不懈。”认识他的人说,奥特曼有一种解决大大小小问题的永恒责任感。“一旦他意识到出现问题,他真的想解决它,”他的未婚夫穆赫林说。穆赫林是一名澳大利亚软件工程师,后来成为投资者。或者如奥特曼所说:“事情只会因为人们的出现和工作而变得更好。没有其他人来拯救世界。你只能自己拯救。”

YC的联合创始人保罗·格雷厄姆(Paul Graham)发现奥特曼是战略天赋、抱负和坚韧的罕见结合体。“你可以把他空降到一个满是食人族的岛上。五年后回来,会发现他已经称了王,”格雷厄姆在谈到奥特曼时说,当时他只有23岁。2014年2月,格雷厄姆任命当时28岁的门生接替他担任YC总裁。当奥特曼掌权时,YC已经孵化出了Airbnb、Stripe和Dropbox等独角兽。但是新老板有更大的愿景。他希望把YC的版图从软件扩展到“硬科技”--此类初创企业开发的技术也许永远不会成为现实,但成功的创新可以带来数万亿美元的财富并改变世界。

成为YC总裁后不久,奥特曼参观了位于华盛顿州雷蒙德市的核聚变初创公司Helion的总部。该公司首席执行官大卫·科特利(David Kirtley)回忆说,奥特曼带着一叠物理教科书出现,并询问他Helion原型反应堆背后的设计选择。科特利回忆说,奥特曼当时痴迷于核聚变的可扩展性。假设你能解决这个科学问题,你如何以足够快的速度建造足够多的反应堆来满足美国的能源需求?这个世界呢?Helion成为奥特曼掌权后加入YC的首批硬科技公司之一。奥特曼当时自掏腰包对Helion投资950万美元,后来又陆续追加投资了3.75亿美元--这也是他最大的一笔个人投资。“我认为这是资本主义的责任,”奥特曼说,“在重要的事情上要敢于投资。”

奥特曼对核聚变的追求暗示了他惊人的野心。他向Retro Biosciences投入了1.8亿美元,这是一家长寿初创公司,希望能让人类寿命延长10年。他构想并帮助创建了世界币(Worldcoin),一种附有加密货币的生物识别系统,并已筹集到数亿美元。通过OpenAI,奥特曼已花费1000万美元在美国各地开展持续时间最长的全民基本收入研究,该研究已向3000名参与者分发了4000多万美元,并将于2024年发布第一批研究结果。奥特曼对全民基本收入的兴趣表明他预计人工智能将带来的经济混乱--尽管他说这不是“解决所有问题的充分解决方案。”

这位企业家对唐纳德·特朗普(Donald Trump)领导下的美国的方向感到非常震惊,以至于他在2017年曾考虑竞选加利福尼亚州州长。如今,奥特曼淡化了这一努力,称之为“一个非常轻量级的考虑”但奥特曼当时的高级助手马特·克里斯洛夫(Matt Krisiloff)表示,他们花了6个月时间在全州范围内成立焦点小组,以帮助完善政治平台。“这不仅仅是一个轻率的想法,”克里斯洛夫说。奥特曼发表了一份包含十项内容的施政纲领,目标包括降低住房成本、全民医保、税收改革和雄心勃勃的清洁能源目标。他最终放弃了职业转换。“我很清楚,我更适合从事人工智能方面的工作,”奥特曼说,“对我而言,如果我们能够成功,这将是一件更有趣、更有影响力的事情。”

但是他仍然对政治非常感兴趣。奥特曼的信仰受到19世纪晚期政治经济学家亨利·乔治(Henry George)的理论的影响,后者相信市场激励的力量能够带来越来越多的繁荣,并鄙视那些投机土地等稀缺资产、而不是将资本投资于人类进步的人。奥特曼表示,在最近与世界各国领导人的会晤中,他多次主张征收土地增值税,这是一项典型的乔治主义政策。

在OpenAI总部的一次散步中,当被问及他是否对未来有一个愿景,以帮助理解他的各种投资和兴趣时,奥特曼简单地说:“丰富。就是这样。”对融合和超智能的追求是奥特曼所设想的更加公平和繁荣的未来的基石:“如果我们获得充足的智能和充足的能量,”他说,“这将比我能想到的任何其他东西都更能帮助人们。”

近十年前,奥特曼开始认真思考通用人工智能。当时,“这被认为是职业自杀,”他说。但奥特曼与埃隆·马斯克(Elon Musk)进行了一番长谈,马斯克也认为比人类更聪明的机器不仅不可避免,而且如果是由追逐利润的公司制造的话,还会很危险。两人都担心,在2014年挤掉马斯克收购顶级人工智能研究实验室DeepMind的谷歌仍将是该领域的主导者。他们设想了一个非营利的人工智能实验室,可以作为一种道德制衡,确保这项技术不仅惠及股东,也能够惠及整个人类。

2015年夏天,奥特曼找到了Google Brain的明星机器学习研究员伊尔亚·苏茨克维(Ilya Sutskever)。两人当时在谷歌总部附近的汉堡店“the Counter”共进晚餐。当他们分手后,奥特曼钻进车里心想,我得和这个家伙一起工作。随后的一段时间,他和马斯克用晚上和周末的时间来招募人才。奥特曼开车前往伯克利和研究生约翰·舒尔曼(John Schulman)一同散步;与Stripe的首席技术官格雷格·布罗克曼(Greg Brockman)共进晚餐;会见了人工智能研究科学家沃伊切赫·扎伦巴(Wojciech Zaremba);并与马斯克和其他人在加州门洛帕克的瑰丽酒店举行了一次集体晚宴。在这次聚会中,创办新实验室的想法开始成形。“就像是电影制作从剪辑开始一样,”奥特曼说,“我们尝试着把这些轻微不适应环境的乌合之众聚集在一起,准备做一些疯狂的事情。”

OpenAI于2015年12月正式成立。它有六位联合创始人--奥特曼、马斯克、苏茨克维、布罗克曼、舒尔曼和扎伦巴--以及里德·霍夫曼(Reid Hoffman)、彼得·泰尔(Peter Thiel)和杰西卡·利文斯顿(Jessica Livingston)等知名投资者承诺的10亿美元捐款。在OpenAI的早期,奥特曼仍然是YC的总裁,只是在一定距离之外参与其中。OpenAI没有首席执行官;布罗克曼和苏茨克维是其事实上的领导人。在旧金山教会区一家改造过的箱包厂的办公室里,苏茨克维的研究团队做很多的尝试,然后看哪一个可行。“这是该领域一些最优秀的人的一次非常出色的聚会,”克里斯洛夫说。"与此同时,这并不意味着每个人都知道自己在做什么。”

2018年,OpenAI宣布了其宪章:一套编纂了其为人类利益开发通用人工智能的价值观。这份文件的核心存有矛盾,即对安全的信念和对速度的必要性。“推动OpenAI的基本信念是,这项技术将不可避免地存在,因此我们必须赢得开发它的竞赛,并设定条款以积极的方式控制它进入社会,”一名前员工表示。“安全任务要求你赢。如果你赢不了,你表现得再好也没用。”奥特曼反驳了OpenAI需要超越竞争对手实验室来完成其使命的观点。但他也表示:“我认为我们比其他人更关心一个好的通用人工智能的结果。”

苏茨克维是OpenAI能够获胜的关键人物。作为OpenAI的首席科学家,他对神经网络有着近乎宗教般的信仰。这是一种人工智能算法,可以摄取大量数据,并能够独立检测潜在模式。他相信这些网络,虽然在当时还很原始,但可以通向通用人工智能。“概念、模式、理念、事件,它们以一种复杂的方式通过数据被模糊化了,”苏茨克维今年8月在接受采访时曾说。“因此,为了预测接下来会发生什么,神经网络需要以某种方式意识到这些概念以及它们如何留下痕迹。在这个过程中,这些概念就变成了现实。”

为了坚持苏茨克维的方法和宪章的使命,OpenAI需要巨大的算力。为此,它也需要资金。到2019年,OpenAI只收到最初承诺的10亿美元中的1.3亿美元。在试图担任首席执行官失败后,马斯克离开了该组织,曾经承诺的捐款也随之而去。当时仍执掌YC帅印的奥特曼正试图支撑OpenAI的财务。他起初怀疑任何私人投资者能否以项目所需的数量和速度向项目注入资金。他认为,有着资助阿波罗计划和曼哈顿计划历史的美国政府将是最佳选择。经过一系列的讨论--“你尝试了每一扇门,”奥特曼说--他惊讶地发现,“这种情况发生的可能性完全为零。”他开始相信“市场将不得不一直这样做下去。”

由于担心投资者获得对通用人工智能发展的控制权可能会产生不正当的激励,奥特曼和领导团队讨论了不同的架构,并最终选择了一种不同寻常的架构。OpenAI将建立一个“利润上限”子公司,可以从投资者那里筹集资金,但将由一个非营利董事会管理。OpenAI的最早投资者签署了文件,表明他们可以获得高达投资100倍的回报,任何超过这一数额的资金都将流向这家非营利组织。该公司的创始精神--一家不受商业考虑束缚的研究实验室--仅仅维持了不到四年时间。

奥特曼花了越来越多的时间思考OpenAI的财务问题,并在它的办公室里闲逛,布罗克曼和苏茨克维一直在游说他担任全职工作。“OpenAI从未有过首席执行官,”他说。“我有30%的时间在做,但不是很好。”他担心实验室正处于转折点,如果没有适当的领导,“它可能会瓦解。”2019年3月,就在宣布公司重组的同一周,奥特曼离开YC,正式出任OpenAI首席执行官。

奥特曼坚持认为,OpenAI的这种新架构是讨论中“最不坏的构想”。在某些方面,这个解决方案是一个优雅的方案:它允许公司从投资者那里筹集急需的资金,同时表明其认真开发人工智能的决心。奥特曼个人也体现出这两个目标--既是一位非常有才华的资金筹集者,同时也是一位对潜在变革性技术深思熟虑的管理者。

没过多久,奥特曼就从微软筹集了10亿美元--如今微软对OpenAI的投资承诺已追加至130亿美元。三名前员工表示,公司的重组以及与微软的合作极大地改变了OpenAI的面貌。员工开始获得股票作为他们薪酬方案的标准组成部分。一些非营利时代的老员工认为,此举为员工创造了激励,使公司价值最大化。据一位熟悉薪酬计划的人士称,按照行业标准,OpenAI员工获得的股权金额非常丰厚。一些员工担心OpenAI正在变成一家更像传统科技公司的公司。“我们经常把价值数十亿美元的想法放在桌面上,”OpenAI人力资源副总裁黛安·尹(Diane Yoon)说。

微软的投资增强了OpenAI扩大系统规模的能力。谷歌的一项创新提供了另一个突破。被称为“Transformer”的这项创新,让神经网络在发现数据模式方面更加有效。OpenAI研究人员开始训练他们GPT系列的第一批模型。随着每一次迭代,模型都有了显著的改进。在大约7000本书的文本上训练过的GPT-1,差不多能把句子串起来。在800万个网页上训练过的GPT-2几乎可以回答问题。GPT-3接受了来自互联网、书籍和维基百科的数千亿单词的训练,几乎可以写诗。

奥特曼回忆起2019年的一项突破,揭示了未来的巨大可能性。他说,一项关于“比例定律”的实验产生了一系列“完美、平滑的图表”,这些“比例定律”支撑了用于训练人工智能的算力与其产生的能力之间的关系--这种指数曲线比实验数据更接近于宇宙的基本定律。在一个凉爽的6月的夜晚,当聚集在OpenAI办公室外的研究人员在暮色中集体意识到:通用人工智能不仅是可能的,而且可能比他们任何人之前想象的都要早。“我们都想,这真的会发生,不是吗?”奥特曼说。“这感觉像是科学史上的一个时刻。我们现在知道了一件新的事情,我们即将告知人类。”

这种认识有助于改变OpenAI发布技术的方式。当时,该公司已违背了其开放的创始原则,因为它认识到开源日益强大的人工智能可能对犯罪分子有利,对商业有害。当它在2019年开发GPT-2时,最初拒绝公开发布该模型,担心它可能对公共话语产生破坏性影响。但在2020年,该公司决定慢慢将其工具分发给越来越多的人。该原则被称为“迭代部署”。它使OpenAI能够收集公众如何使用人工智能的数据,并建立更好的安全机制来应对。这能够使公众逐渐接触到相对粗糙的技术,让人们有时间适应奥特曼预见的巨大变化。

就其本身而言,迭代部署是有效的。它让OpenAI在经过安全训练的模型中获得了决定性的优势,并最终唤醒了世界对人工智能力量的认识。这也是事实,它对商业非常有利。这种方法与屡试不爽的YC创业成功战略有着惊人的相似之处:打造所谓的最小可行产品。拼凑一个很酷的演示,吸引一小群喜欢它的用户,并根据他们的反馈进行改进。把东西放到世界上。最终--如果你足够幸运并且做得正确--这将吸引大量用户,点燃媒体炒作周期的导火索,并募集到巨额资金。布罗克曼在接受采访时称,这是动力的一部分。“我们知道我们需要筹集额外的资金,”他说。“制造产品实际上是一种非常清晰的方式。”

不过也有人担心迭代部署会加速危险的人工智能军备竞赛,由此引发的商业顾虑会影响OpenAI的安全优先事项。几位接近该公司的人士认为,OpenAI正在偏离其最初的使命。“我们就此进行了多次董事会讨论,还有大量的内部讨论,”奥特曼说。但是决定已经做出了。2021年,七名持不同意见的员工辞职创办了一家名为Anthropic的竞争实验室,由OpenAI的顶级安全研究员达里奥·阿莫代伊(Dario Amodei)领导。

2022年8月,OpenAI完成了GPT-4的开发工作,高管们讨论将其与一个基本的、用户友好的聊天界面一同发布。奥特曼认为这将“一下子成为太多的重磅炸弹”。他提议用GPT-3.5推出聊天机器人--这是一个从春天开始向公众开放的模型--以便人们可以习惯它,然后在几个月后发布GPT-4。奥特曼说,公司的决策通常需要一个漫长的深思熟虑的阶段,在此期间,高层会达成共识。但随着推出后逐渐成为科技史上增长最快的新产品,情况就不同了。“在这种情况下,”他回忆道,“我发送了一条Slack消息,说,是的,让我们这样做。”在11月30日发布之前的一次头脑风暴会议上,奥特曼给这款产品取名为ChatGPT-3.5。

OpenAI的销售主管收到了一条Slack消息,通知她公司产品团队正悄悄推出一个“低调的Research Rreview”,不太可能会影响到销售团队。

OpenAI内部没有人预测接下来会发生什么。五天之后,ChatGPT就突破了100万用户。ChatGPT如今有有1亿用户--Facebook花了4年半时间才达到这个门槛。突然间,OpenAI成了硅谷最火的初创公司。2022年,OpenAI的营收仅为2800万美元;到了今年,该公司的单月营收就已达到1亿美元。在营收激增的同时,OpenAI开始大举招聘,员工数量增加了一倍以上。今年3月,OpenAI按照奥特曼的计划发布了GPT-4。新模型远远超越了ChatGPT-3.5的能力--与上一代产品不同,它可以描述图像的内容,用所有主要的编程语言编写大多数可靠的代码,并通过标准化测试。数十亿美元投入到竞争对手复制OpenAI成功的努力中。“我们无疑加快了竞赛的速度,”奥特曼说。

突然之间,奥特曼成为了明星。他似乎不同寻常地装备好了,可以驾驭人工智能世界的不同派别。“我认为如果这项技术出现问题,它可能会非常糟糕,我们希望对此直言不讳,”奥特曼在5月份的美国参议院听证会上告诉立法者。当月,奥特曼开始了世界巡演,包括访问以色列、印度、日本、尼日利亚、韩国和阿联酋。如此多的政府官员和政策制定者吵着要参加会议,以至于“我们最终召开的会议是任何一天预定会议的两倍,”全球事务负责人安娜·马坎朱 (Anna Makanju)说。人工智能在政策议程上飙升:包括白宫的行政命令,在英国举行的全球人工智能安全峰会,以及在联合国、七国集团和非洲联盟编纂人工智能标准的尝试。

当奥特曼在11月的OpenAI开发者大会上登台时,似乎没有什么能击败他。在欢呼声中,他宣布OpenAI正在走向自主人工智能“智能体”的未来,这些智能体有权代表用户在世界上采取行动。在两天后接受《时代》采访时,他说他认为人工智能消灭人类的可能性不仅很低,而且在过去一年里已经下降了。他认为,风险意识的增强,以及政府间明显的协调意愿,是OpenAI迭代部署战略带来的积极进展。当全世界都在争论人工智能毁灭文明的可能性时,奥特曼更加乐观。(他承认,这种可能性“非零”,但“如果我们能采取所有正确的行动,这种可能性很低。”)这些日子让他夜不能寐的是一件平淡无奇的事情:一只城市郊狼在他位于旧金山的价值2700万美元的房子周围安家落户。“这只郊狼搬进了我的房子,在外面抓门,”谈话间他拿起iPhone,轻轻敲了几下,翻转屏幕,显示出一张动物懒洋洋地躺在户外沙发上的照片。“很可爱,但是晚上很烦。”

在奥特曼信心爆棚的同时,OpenAI时任董事会内部的不安情绪也在增长。过去的几个月里,董事会成员从九人缩减到六人。这使得董事会划分为两派:由三名OpenAI员工组成的小组--奥特曼、苏茨克维和布罗克曼--和三名独立董事:问答网站Quora的首席执行官亚当·德安杰洛(Adam D’Angelo),科技企业家、兰德公司科学家塔莎·麦考利(Tasha McCauley),以及乔治敦大学安全和新兴技术中心的人工智能政策专家海伦·托纳(Helen Toner)。

知情人士透露,该小组曾就如何替换三名离职成员进行过争论。一段时间以来--渐渐地,以不同的速度--三位独立董事和苏茨克维开始担心奥特曼的行为。两名熟悉董事会讨论的人士说,为了得到自己想要的结果,奥特曼有一种挑拨离间的倾向。两人都表示,奥特曼试图确保信息通过他。“他有办法让画面变得有些支离破碎,”一个人说,让人很难知道其他人的立场。在某种程度上,这在商业中是正常的,但这位人士说,奥特曼越过了某些门槛,使董事会越来越难以监督公司并让他承担责任。

一个例子发生在10月下旬,当时托纳在乔治敦大学写的一篇学术论文发表了。奥特曼认为这是对OpenAI安全努力的批评,并试图将托纳逐出董事会。据两位知情人士透露,奥特曼告诉一名董事会成员,另一名成员认为应该立即撤掉托纳,但这只是奥特曼的谎言。

这些人说,这一事件并没有促使董事会做出解雇奥特曼的决定,但它代表了奥特曼试图破坏良好治理的方式。还有其他一些事件,让董事会的四人确信,如果他们不能信任奥特曼,他们就无法履行监督OpenAI任务的职责。一旦董事们做出决定,他们觉得有必要迅速采取行动,担心奥特曼会发现有些不对劲,并开始争取支持或试图破坏他们的可信度。另一位熟悉董事会讨论的人士说,“只要他得到一点点暗示,这件事可能会摆在桌面上,他就会全力以赴。”

11月16日周四晚上,苏茨克维约奥特曼第二天中午聊天。在约定的时间,奥特曼在Google Meet上加入了苏茨克维开设的会议,除了布罗克曼,整个董事会都出席了。苏茨克维通知奥特曼他被解雇了,这个消息很快就会公之于众。“这真的感觉像一个奇怪的梦,比我想象的要强烈得多,”奥特曼在接受采访时说。

董事会的声明很简洁:“奥特曼在与董事会的沟通中并不一贯坦诚,这阻碍了董事会履行职责的能力。董事会对他继续领导OpenAI的能力不再有信心。”

奥特曼随后开始联系投资人和导师,告诉他们他计划创办一家新公司,他的电脑随后死机了。(他说,因为受到了太多短信,导致iMessage崩溃。)董事会预料到来自投资者和媒体的压力。但据两名熟悉董事会想法的人士说,他们误判了公司内部的反抗程度,部分原因是他们有理由相信高管团队会做出不同的回应。这两名人士说,董事会驱逐奥特曼的举动是由OpenAI的高管层通知的,他们曾就奥特曼的行为及其对公司文化的影响向董事会表达过各种担忧。

知情人士说,出于法律和保密原因,董事会很难分享细节。但是,董事会列举的解雇奥尔特曼的动机是“缺乏坦诚”,缺乏实例导致了猖獗的猜测--这一决定是由个人恩怨、意识形态争端或纯粹的无能所驱动的。“董事会解雇了奥特曼,理由完全是吹毛求疵,甚至不属于可解雇的罪行,”SVAngel的创始人和导师罗恩·康韦(Ron Conway)说。他也是奥特曼被解雇后第一批接到电话的人之一。“董事会因情感原因解雇创始人是鲁莽和不负责任的行为。”

几个小时内,该公司的工作人员威胁说,如果董事会不辞职,不允许奥特曼重返公司,他们就辞职。在巨大的压力下,董事会在奥特曼被解雇后的第二天早上联系了他,讨论未来可能的发展方向。奥特曼将其定性为要求他回来。他说:“我经历了一系列的情绪波动。我一开始是反抗的。但很快,我就有了一种责任和义务感,并希望保留我如此在乎的东西。”接近董事会的消息人士对这种接触有不同的描述,称其是试图在公司崩溃前通过谈判来稳定公司。

谈判持续了将近48个小时。担任临时首席执行官的OpenAI首席技术官米拉·穆拉蒂(Mira Murati)和公司其他高管一起倡导奥特曼回归。因此,在11月19日周日晚上,董事会任命了一位新的临时首席执行官,也就是Twitch的前首席执行官埃米特·希尔(Emmett Shear)。微软首席执行官萨提亚·纳德拉(Satya Nadella)随后宣布奥特曼和布罗克曼将加入微软,成立一个新的高级人工智能部门;微软表示,欢迎任何OpenAI工作人员加入。在与布罗克曼的妻子含泪交谈后,苏茨克维转变了立场。他在11月20日凌晨发帖称:“我对参与董事会的行动深感后悔。”

到那天结束时,OpenAI的770名员工几乎都在一封公开信上签名,表示如果奥特曼不能复职,他们打算辞职。让奥特曼成为如此有才华的企业家的精明,也让他在僵局中成为一个可怕的对手,能够赢得公司上下大量员工的忠诚。

虽然使命对OpenAI员工来说是一个强大的吸引力,但财富亦是如此。几乎每个OpenAI的全职员工都从OpenAI的成功中获得了经济利益,包括前董事会成员布罗克曼和苏茨克维。(奥特曼年薪6.5万美元,除了通过他在YC的股份间接持有OpenAI的股份外,他个人并未持有OpenAI的股权。)在奥特曼被解雇后的一周,OpenAI将以860亿美元的估值,通过要约收购方式向外部投资人出售员工持股。那些原本有望在12月获得数百万收入的员工担心这种选择会消失。一位熟悉董事会讨论的人士表示:“如果人人都辞职,一家公司可能会倒闭,这在历史上是前所未有的。面对到手的鸭子可能将要飞了,OpenAI员工们团结一致并不奇怪。”

与员工不同的是,驱逐奥特曼的三名独立董事受雇于其他地方,与OpenAI没有财务利害关系,也不参与公司的日常运营。与典型的以盈利为目的的董事会不同,他们的工作是行使自己的判断,确保公司的行为符合人类的最大利益--这一使命充其量是模糊的,当如此多的资金处于危险之中时,很难坚持下去。而传统董事会要根据季度财务报告、股票价格和对股东价值的担忧做出决策。但无论董事会是否做出了正确的决定,他们不愿意或无法提供他们认为奥特曼有问题的行为的例子,这只能让他们在这场公关战中以压倒性的劣势失败。为检查首席执行官的权力而成立的董事会,看起来似乎正在行使自己的不可问责的权力。

最终,剩余的董事会成员在协议中作出一些让步,让奥特曼重返首席执行官的职位。一个新的独立董事会将监督他的行为和对前董事会作出解雇他这一决定的调查。奥特曼和布罗克曼不会重新获得他们的席位,而德安杰洛将继续留在董事会中,而不是所有的独立董事集体辞职。尽管如此,这仍然是OpenAI管理层的胜利。“公司和使命的最佳利益永远是第一位的。很明显,我和董事会成员之间存在真正的误解,”奥特曼在社交平台X上发帖称,“我欢迎董事会对最近所有事件进行独立审查。”

感恩节前两天晚上,OpenAI员工们聚集在总部,开香槟庆祝。布罗克曼发布了一张与几十名员工的自拍,配文是:“我们回来了。”

虽然奥特曼回归OpenAI,但该公司正在进行一次彻底的改革。苏茨克维在公司的未来并不明朗。新董事会--前推特董事会主席布雷特·泰勒(Bret Taylor)、前美国财政部长拉里·萨默斯(Larry Summers)和德安杰洛--将扩大到9名成员,并严格审视公司的治理。奥特曼说:“很明显,目前的情况并不好。

OpenAI曾试图建立一个提供独立监督的架构,但最终却功亏一篑。“很明显,我们在解决人工智能治理方面做得不够好,”致力于该问题的非营利组织Collective Intelligence Project的联合创始人迪维娅·西德达斯(Divya Siddarth)表示。“很少有人以完全不透明的方式做出极其重大的决定,这一点突显出来,这种方式感觉很好,直到事情败露。”

重新担任首席执行官的奥特曼说,他的首要任务是在灾难发生后稳定公司及其与外部合作伙伴的关系;在过去一年的大规模扩张之后,在某些研究领域加倍努力;并支持新董事会提出更好的治理方案。这看起来像什么还不清楚。“如果一个先知说,这是建立最适合人类的架构的方法,那就太好了,”奥特曼说。

无论他今后扮演什么角色,都将受到更多的关注。“我认为这些事件让他在大众眼中变成了一名政治演员,而他以前不是这样,”AIPI的执行董事科尔森说,他认为这一事件凸显了容忍风险的技术专家做出影响我们所有人的选择的危险。“不幸的是,这就是市场已经形成的动态。”

但是现在,奥特曼看起来仍然是一个潜在改变世界技术的领先架构师。“建设超级智能将是全社会的项目,”他说。“我们希望成为塑造者之一,但这不会是一家公司就能做到的事情。我们将为此全力以赴,除非我们真的搞砸了。”■ 
                                                                                          
相关内容
读者评论
MORE +

热门排行榜
OR
+
2023-12-07 20:51
商业与经济

OpenAI 山姆·奥特曼当选《时代》杂志年度CEO

《时代》杂志周三公布了2023年度首席执行官,OpenAI联合创始人、首席执行官山姆·奥特曼(Sam Altman)获此殊荣。登上《时代》的封面,标志着奥特曼在动荡、充满挑战和胜利的一年里获得了巨大的赞誉。
OpenAI CEO阿尔特曼寻求数万亿美元以重塑芯片和AI产业
OR品牌理念
+

■ 或者,  留一段影像,回一曲挂牵。丝丝入扣、暖暖心灵 ,需飘过的醇厚与共。
■ 或者,热烈空雨伴芬芳泥土;绿绿生命缠锐意骄阳。
回望,回望,一马平川红酒飘散断归途。
■ 或者,灰蒙蒙空气重回道指一万四千点。滚动时光,照进现实,流逝过往,回归未来。

■ 在台式电脑、笔记本电脑中,「OR」能给您创造优越的阅读体验。只要您在浏览器中输入我们的网址:
oror.vip
即可畅享我们为您提供的优质资讯。

■ 您也可通过手机而或平板电脑从浏览器输入我们的网址:
oror.vip

访问我们的网站,获得一样的精彩!


■对OpenAI首席执行官奥特曼而言,今年的感恩节与以往截然不同。通常情况下,他会乘飞机前往圣路易斯的家中看望家人。但这一次,这个节日是在对一家公司控制权的生死之争后到来的,而一些人认为这家公司掌握着人类的命运。奥特曼为此疲惫不堪。他前往自己位于纳帕谷(Napa Valley)的农场远足,然后返回旧金山,与一名曾经解雇他、又在疯狂的5天后恢复他职务的董事会成员共处了几个小时。接下来的几个小时,他把电脑放在一边,让音响大声的播放着音乐,亲手做了一顿素食意大利面,和未婚夫奥利弗·穆赫林(Oliver Mulherin)一起喝酒。11月30日,奥特曼告诉《时代》杂志:“这起疯狂的事件绝对让人难以忍受,所以我还没有完全恢复过来。”

《时代》杂志在OpenAI发布史上被采用速度最快的科技产品ChatGPT整整一年后采访了奥特曼。这款聊天机器人及其后续产品GPT-4对OpenAI和世界的影响正在转变。“对许多人来说,”奥特曼说,“2023年是他们开始认真对待人工智能的一年。”作为一个致力于为人类利益构建人工智能的非营利研究实验室,OpenAI的估值飙升至800亿美元。奥特曼也成为全球最有权力和最受尊敬的首席执行官之一,是技术革命的形象代言人和主要预言者。

但是OpenAI曾岌岌可危。11月17日,OpenAI的非营利董事会解雇了奥特曼,没有任何警告,甚至没有任何解释。接下来的超现实操作让公司的接班人戏剧看起来很严肃。员工们集体暴走。OpenAI的强大投资者也是如此;有人甚至毫无根据地猜测,罢免奥特曼的董事之一是中国间谍。这家公司富有远见的首席科学家投票罢免了曾与他共同创办OpenAI的奥特曼,结果却反悔了。两位临时首席执行官来了又走。与此同时,该公司的员工和董事会展开博弈。三位参与对峙的人士表示,OpenAI的全体员工一度威胁说,如果董事会不辞职,并在几个小时内重新任命奥特曼,他们就集体辞职。然后,奥特曼更是准备要带着数百名同事奔赴微软。看起来,这家催化人工智能繁荣的公司可能会在一夜之间彻底瓦解。

最终,奥特曼获胜归来,董事会也进行了彻底改革。“我们真的感觉比以往任何时候都更强大、更团结、更专注,”奥特曼在重返首席执行官职位的第二天接受《时代》杂志采访时说。“但我希望有一些其他的方式变成这样。”这不是普通的董事会斗争,OpenAI也不是普通的初创公司。这一事件给该公司及其首席执行官留下了挥之不去的疑问。

38岁的奥特曼是一位拥有完美气质的超级巨星创始人,已经在硅谷工作了十年。“你不能解雇史蒂夫·乔布斯(Steve Jobs),”前谷歌首席执行官埃里克·施密特(Eric Schmidt)曾经这样说过。但当时的苹果董事会做到了。(碰巧的是,曾被苹果解雇的乔布斯,最终也重返公司。)随着有关奥特曼被罢免原因的传闻不断涌现,OpenAI的董事会被迫公开表示,OpenAI产品的安全性、技术的商业化以及研究的速度都没有争议。奥特曼“在与董事会的沟通中的行为和缺乏透明度”削弱了董事会监督公司的能力,但未对此透露实例。

《时代》杂志采访了奥特曼圈子里的20多人--包括现任和前任OpenAI员工、多名高管以及多年来与他密切合作的其他人--揭示了一幅反差极大的肖像。认可他的人形容奥特曼和蔼可亲,才华横溢,有非同寻常的动力,擅长把投资者和研究人员团结在他为整个社会的利益开发通用人工智能(AGI)这一愿景的周围。但四位曾与奥特曼共事多年的人也表示,他可能很狡猾,有时会误导人,具有欺骗性。两名熟悉OpenAI董事会程序的人士表示,奥尔特曼擅长操纵他人,他曾多次收到反馈,称自己有时不诚实,目的是让人们觉得他同意他们的意见,而实际上他并不同意。这些人将这种模式视为巩固权力的更广泛尝试的一部分。“在很多方面,山姆是一个非常好的人;他不是邪恶的天才。如果他是一个可怕的人,讲述这个故事会更容易,”其中一人说。“他关心使命,关心其他人,关心人类。但如果你观察他的行为,会发现他有一个明显的模式,那就是以一种极端的方式去追求权力。”

OpenAI发言人表示,该公司无法对围绕奥特曼被解雇的事件发表评论。“在董事会的独立审查完成之前,我们无法透露具体细节。我们期待着审查的结果,并继续支持山姆,”该发言人在声明中对《时代》杂志说。“我们优先考虑的仍然是开发和发布有用和安全的人工智能,并支持新董事会努力改善我们的治理结构。”

奥特曼在过去一年的大部分时间里都在向公众保证,OpenAI认真对待带领其强大技术走向世界的责任。他给出的一个证据是OpenAI不同寻常的混合结构:这是一家由非营利董事会管理的营利性公司,其使命优先于财务利益。“这里没有人值得信任,”奥特曼在今年6月出席彭博技术大会(Bloomberg Technology Conference)曾这么说过。“董事会可以解雇我。我认为这很重要。”但是当这种情况发生时,所有的一切只是为了让奥特曼想办法回归,这似乎反映出OpenAI的这种责任犹如海市蜃楼。一家一夜之间就走到自我毁灭边缘的公司,怎么能被信任来安全地引进一项许多人认为会毁灭人类的技术呢?

目前还不清楚奥特曼在重新担任首席执行官期间,手中的权利是会增加还是减小。自ChatGPT推出以来,该公司已成为全球人工智能领域的龙头企业,并预计将在明年发布更强大的新模型。但随着越来越多的竞争对手把巨额资金投入到前沿人工智能研究中,无法保证OpenAI未来能够稳固其行业翘楚的地位。科技行业素以炒作周期而闻名,即借助疯狂的炒作,让风险资本从虚拟现实或加密货币等时尚产物中获利。人工智能发展的极快速度可能会放缓,关于通用人工智能的崇高承诺也可能永远不会实现。

不过OpenAI出现僵局的一个重要原因是,参与其中的每个人都认为一个新的世界不仅即将到来,而且会很快到来。两名了解董事会审议情况的人士强调了监管一家认为自己正在开发史上最重要技术的公司的重要性。奥特曼认为,通用人工智能--一个在大多数方面超越人类的系统--可能会在未来四五年内实现。它可以推动全球经济,拓展科学知识的前沿,并大幅提高数十亿人的生活水平--创造一个与过去截然不同的未来。在这种观点下,扩大我们获得认知劳动(注:通过个体的心智复杂操作,对信息进行处理,才能完成工作任务,达成工作目标)的途径--用奥特曼的话说就是“获得更高质量的智力和更好的想法”--有助于解决从气候变化到癌症的一切问题。

但这也会带来严重的风险。对许多人而言,过去一年人工智能能力的快速提升令人深感担忧。计算机科学家还没有解决业内称为“对齐问题”(Alignment Problem)的问题,也就是确保通用人工智能符合人类价值观的任务。很少有人同意由谁来决定这些价值。奥特曼和其他人警告说,先进的人工智能可能会造成等同于大流行和核战争规模的“生存”风险。这就是OpenAI董事会认定其首席执行官不可信的背景。人工智能政策研究所(AIPI)的执行董事、奥特曼支持的一家初创公司的创始人丹尼尔·科尔森(Daniel Colson)说:“人们现在真的开始玩真了,因为人们预计试图改变事情轨迹的窗口正在关闭。”

11月初一个明媚的清晨,奥特曼看起来很紧张。在旧金山市中心一个洞穴般的活动场所,他将很快在OpenAI的首届开发者大会上向大约900名与会者展示。他身着灰色毛衣和颜色鲜艳的阿迪达斯乐高联名运动鞋,对帮助他排练的演讲教练表示感谢。“这不是我擅长的事情,”他说,“我坐在电脑屏幕前要舒服许多。”

在高中时期,奥特曼周五的晚上都会坐在自己的邦迪蓝iMac(苹果推出的第一款iMac)前。他在圣路易斯郊区的一个中产阶级犹太家庭长大,是一名房地产经纪人和一名皮肤科医生所生的四个孩子中的老大。奥特曼既是书呆子,又非常自信。在一些学生对国际出柜日当天一位演讲者的观点持不同意见之后,十几岁时出柜的奥特曼曾在自己就读的高中发表了一番演讲。2003年,当人们对网络泡沫破灭的记忆逐渐淡忘时,奥特曼进入斯坦福大学攻读计算机科学。在大学里,他迷上了扑克,认为这是对心理学和风险的灌输。那时,他知道自己想成为一名企业家。两年后,他辍学并在Loopt上工作。这是一家基于地理位置的社交网络,由他与当时的男友尼克·西沃(Nick Sivo)共同创立。

Loopt成为第一批加入现在引以为豪的创业加速器Y Combinator(YC)的八家公司之一。该公司于2012年以4300万美元的价格售出,为奥特曼净赚500万美元。虽然回报相对不大,但奥特曼学到了一些东西。他曾在接受媒体采访时表示:“完成事情的方法就是真正坚持不懈。”认识他的人说,奥特曼有一种解决大大小小问题的永恒责任感。“一旦他意识到出现问题,他真的想解决它,”他的未婚夫穆赫林说。穆赫林是一名澳大利亚软件工程师,后来成为投资者。或者如奥特曼所说:“事情只会因为人们的出现和工作而变得更好。没有其他人来拯救世界。你只能自己拯救。”

YC的联合创始人保罗·格雷厄姆(Paul Graham)发现奥特曼是战略天赋、抱负和坚韧的罕见结合体。“你可以把他空降到一个满是食人族的岛上。五年后回来,会发现他已经称了王,”格雷厄姆在谈到奥特曼时说,当时他只有23岁。2014年2月,格雷厄姆任命当时28岁的门生接替他担任YC总裁。当奥特曼掌权时,YC已经孵化出了Airbnb、Stripe和Dropbox等独角兽。但是新老板有更大的愿景。他希望把YC的版图从软件扩展到“硬科技”--此类初创企业开发的技术也许永远不会成为现实,但成功的创新可以带来数万亿美元的财富并改变世界。

成为YC总裁后不久,奥特曼参观了位于华盛顿州雷蒙德市的核聚变初创公司Helion的总部。该公司首席执行官大卫·科特利(David Kirtley)回忆说,奥特曼带着一叠物理教科书出现,并询问他Helion原型反应堆背后的设计选择。科特利回忆说,奥特曼当时痴迷于核聚变的可扩展性。假设你能解决这个科学问题,你如何以足够快的速度建造足够多的反应堆来满足美国的能源需求?这个世界呢?Helion成为奥特曼掌权后加入YC的首批硬科技公司之一。奥特曼当时自掏腰包对Helion投资950万美元,后来又陆续追加投资了3.75亿美元--这也是他最大的一笔个人投资。“我认为这是资本主义的责任,”奥特曼说,“在重要的事情上要敢于投资。”

奥特曼对核聚变的追求暗示了他惊人的野心。他向Retro Biosciences投入了1.8亿美元,这是一家长寿初创公司,希望能让人类寿命延长10年。他构想并帮助创建了世界币(Worldcoin),一种附有加密货币的生物识别系统,并已筹集到数亿美元。通过OpenAI,奥特曼已花费1000万美元在美国各地开展持续时间最长的全民基本收入研究,该研究已向3000名参与者分发了4000多万美元,并将于2024年发布第一批研究结果。奥特曼对全民基本收入的兴趣表明他预计人工智能将带来的经济混乱--尽管他说这不是“解决所有问题的充分解决方案。”

这位企业家对唐纳德·特朗普(Donald Trump)领导下的美国的方向感到非常震惊,以至于他在2017年曾考虑竞选加利福尼亚州州长。如今,奥特曼淡化了这一努力,称之为“一个非常轻量级的考虑”但奥特曼当时的高级助手马特·克里斯洛夫(Matt Krisiloff)表示,他们花了6个月时间在全州范围内成立焦点小组,以帮助完善政治平台。“这不仅仅是一个轻率的想法,”克里斯洛夫说。奥特曼发表了一份包含十项内容的施政纲领,目标包括降低住房成本、全民医保、税收改革和雄心勃勃的清洁能源目标。他最终放弃了职业转换。“我很清楚,我更适合从事人工智能方面的工作,”奥特曼说,“对我而言,如果我们能够成功,这将是一件更有趣、更有影响力的事情。”

但是他仍然对政治非常感兴趣。奥特曼的信仰受到19世纪晚期政治经济学家亨利·乔治(Henry George)的理论的影响,后者相信市场激励的力量能够带来越来越多的繁荣,并鄙视那些投机土地等稀缺资产、而不是将资本投资于人类进步的人。奥特曼表示,在最近与世界各国领导人的会晤中,他多次主张征收土地增值税,这是一项典型的乔治主义政策。

在OpenAI总部的一次散步中,当被问及他是否对未来有一个愿景,以帮助理解他的各种投资和兴趣时,奥特曼简单地说:“丰富。就是这样。”对融合和超智能的追求是奥特曼所设想的更加公平和繁荣的未来的基石:“如果我们获得充足的智能和充足的能量,”他说,“这将比我能想到的任何其他东西都更能帮助人们。”

近十年前,奥特曼开始认真思考通用人工智能。当时,“这被认为是职业自杀,”他说。但奥特曼与埃隆·马斯克(Elon Musk)进行了一番长谈,马斯克也认为比人类更聪明的机器不仅不可避免,而且如果是由追逐利润的公司制造的话,还会很危险。两人都担心,在2014年挤掉马斯克收购顶级人工智能研究实验室DeepMind的谷歌仍将是该领域的主导者。他们设想了一个非营利的人工智能实验室,可以作为一种道德制衡,确保这项技术不仅惠及股东,也能够惠及整个人类。

2015年夏天,奥特曼找到了Google Brain的明星机器学习研究员伊尔亚·苏茨克维(Ilya Sutskever)。两人当时在谷歌总部附近的汉堡店“the Counter”共进晚餐。当他们分手后,奥特曼钻进车里心想,我得和这个家伙一起工作。随后的一段时间,他和马斯克用晚上和周末的时间来招募人才。奥特曼开车前往伯克利和研究生约翰·舒尔曼(John Schulman)一同散步;与Stripe的首席技术官格雷格·布罗克曼(Greg Brockman)共进晚餐;会见了人工智能研究科学家沃伊切赫·扎伦巴(Wojciech Zaremba);并与马斯克和其他人在加州门洛帕克的瑰丽酒店举行了一次集体晚宴。在这次聚会中,创办新实验室的想法开始成形。“就像是电影制作从剪辑开始一样,”奥特曼说,“我们尝试着把这些轻微不适应环境的乌合之众聚集在一起,准备做一些疯狂的事情。”

OpenAI于2015年12月正式成立。它有六位联合创始人--奥特曼、马斯克、苏茨克维、布罗克曼、舒尔曼和扎伦巴--以及里德·霍夫曼(Reid Hoffman)、彼得·泰尔(Peter Thiel)和杰西卡·利文斯顿(Jessica Livingston)等知名投资者承诺的10亿美元捐款。在OpenAI的早期,奥特曼仍然是YC的总裁,只是在一定距离之外参与其中。OpenAI没有首席执行官;布罗克曼和苏茨克维是其事实上的领导人。在旧金山教会区一家改造过的箱包厂的办公室里,苏茨克维的研究团队做很多的尝试,然后看哪一个可行。“这是该领域一些最优秀的人的一次非常出色的聚会,”克里斯洛夫说。"与此同时,这并不意味着每个人都知道自己在做什么。”

2018年,OpenAI宣布了其宪章:一套编纂了其为人类利益开发通用人工智能的价值观。这份文件的核心存有矛盾,即对安全的信念和对速度的必要性。“推动OpenAI的基本信念是,这项技术将不可避免地存在,因此我们必须赢得开发它的竞赛,并设定条款以积极的方式控制它进入社会,”一名前员工表示。“安全任务要求你赢。如果你赢不了,你表现得再好也没用。”奥特曼反驳了OpenAI需要超越竞争对手实验室来完成其使命的观点。但他也表示:“我认为我们比其他人更关心一个好的通用人工智能的结果。”

苏茨克维是OpenAI能够获胜的关键人物。作为OpenAI的首席科学家,他对神经网络有着近乎宗教般的信仰。这是一种人工智能算法,可以摄取大量数据,并能够独立检测潜在模式。他相信这些网络,虽然在当时还很原始,但可以通向通用人工智能。“概念、模式、理念、事件,它们以一种复杂的方式通过数据被模糊化了,”苏茨克维今年8月在接受采访时曾说。“因此,为了预测接下来会发生什么,神经网络需要以某种方式意识到这些概念以及它们如何留下痕迹。在这个过程中,这些概念就变成了现实。”

为了坚持苏茨克维的方法和宪章的使命,OpenAI需要巨大的算力。为此,它也需要资金。到2019年,OpenAI只收到最初承诺的10亿美元中的1.3亿美元。在试图担任首席执行官失败后,马斯克离开了该组织,曾经承诺的捐款也随之而去。当时仍执掌YC帅印的奥特曼正试图支撑OpenAI的财务。他起初怀疑任何私人投资者能否以项目所需的数量和速度向项目注入资金。他认为,有着资助阿波罗计划和曼哈顿计划历史的美国政府将是最佳选择。经过一系列的讨论--“你尝试了每一扇门,”奥特曼说--他惊讶地发现,“这种情况发生的可能性完全为零。”他开始相信“市场将不得不一直这样做下去。”

由于担心投资者获得对通用人工智能发展的控制权可能会产生不正当的激励,奥特曼和领导团队讨论了不同的架构,并最终选择了一种不同寻常的架构。OpenAI将建立一个“利润上限”子公司,可以从投资者那里筹集资金,但将由一个非营利董事会管理。OpenAI的最早投资者签署了文件,表明他们可以获得高达投资100倍的回报,任何超过这一数额的资金都将流向这家非营利组织。该公司的创始精神--一家不受商业考虑束缚的研究实验室--仅仅维持了不到四年时间。

奥特曼花了越来越多的时间思考OpenAI的财务问题,并在它的办公室里闲逛,布罗克曼和苏茨克维一直在游说他担任全职工作。“OpenAI从未有过首席执行官,”他说。“我有30%的时间在做,但不是很好。”他担心实验室正处于转折点,如果没有适当的领导,“它可能会瓦解。”2019年3月,就在宣布公司重组的同一周,奥特曼离开YC,正式出任OpenAI首席执行官。

奥特曼坚持认为,OpenAI的这种新架构是讨论中“最不坏的构想”。在某些方面,这个解决方案是一个优雅的方案:它允许公司从投资者那里筹集急需的资金,同时表明其认真开发人工智能的决心。奥特曼个人也体现出这两个目标--既是一位非常有才华的资金筹集者,同时也是一位对潜在变革性技术深思熟虑的管理者。

没过多久,奥特曼就从微软筹集了10亿美元--如今微软对OpenAI的投资承诺已追加至130亿美元。三名前员工表示,公司的重组以及与微软的合作极大地改变了OpenAI的面貌。员工开始获得股票作为他们薪酬方案的标准组成部分。一些非营利时代的老员工认为,此举为员工创造了激励,使公司价值最大化。据一位熟悉薪酬计划的人士称,按照行业标准,OpenAI员工获得的股权金额非常丰厚。一些员工担心OpenAI正在变成一家更像传统科技公司的公司。“我们经常把价值数十亿美元的想法放在桌面上,”OpenAI人力资源副总裁黛安·尹(Diane Yoon)说。

微软的投资增强了OpenAI扩大系统规模的能力。谷歌的一项创新提供了另一个突破。被称为“Transformer”的这项创新,让神经网络在发现数据模式方面更加有效。OpenAI研究人员开始训练他们GPT系列的第一批模型。随着每一次迭代,模型都有了显著的改进。在大约7000本书的文本上训练过的GPT-1,差不多能把句子串起来。在800万个网页上训练过的GPT-2几乎可以回答问题。GPT-3接受了来自互联网、书籍和维基百科的数千亿单词的训练,几乎可以写诗。

奥特曼回忆起2019年的一项突破,揭示了未来的巨大可能性。他说,一项关于“比例定律”的实验产生了一系列“完美、平滑的图表”,这些“比例定律”支撑了用于训练人工智能的算力与其产生的能力之间的关系--这种指数曲线比实验数据更接近于宇宙的基本定律。在一个凉爽的6月的夜晚,当聚集在OpenAI办公室外的研究人员在暮色中集体意识到:通用人工智能不仅是可能的,而且可能比他们任何人之前想象的都要早。“我们都想,这真的会发生,不是吗?”奥特曼说。“这感觉像是科学史上的一个时刻。我们现在知道了一件新的事情,我们即将告知人类。”

这种认识有助于改变OpenAI发布技术的方式。当时,该公司已违背了其开放的创始原则,因为它认识到开源日益强大的人工智能可能对犯罪分子有利,对商业有害。当它在2019年开发GPT-2时,最初拒绝公开发布该模型,担心它可能对公共话语产生破坏性影响。但在2020年,该公司决定慢慢将其工具分发给越来越多的人。该原则被称为“迭代部署”。它使OpenAI能够收集公众如何使用人工智能的数据,并建立更好的安全机制来应对。这能够使公众逐渐接触到相对粗糙的技术,让人们有时间适应奥特曼预见的巨大变化。

就其本身而言,迭代部署是有效的。它让OpenAI在经过安全训练的模型中获得了决定性的优势,并最终唤醒了世界对人工智能力量的认识。这也是事实,它对商业非常有利。这种方法与屡试不爽的YC创业成功战略有着惊人的相似之处:打造所谓的最小可行产品。拼凑一个很酷的演示,吸引一小群喜欢它的用户,并根据他们的反馈进行改进。把东西放到世界上。最终--如果你足够幸运并且做得正确--这将吸引大量用户,点燃媒体炒作周期的导火索,并募集到巨额资金。布罗克曼在接受采访时称,这是动力的一部分。“我们知道我们需要筹集额外的资金,”他说。“制造产品实际上是一种非常清晰的方式。”

不过也有人担心迭代部署会加速危险的人工智能军备竞赛,由此引发的商业顾虑会影响OpenAI的安全优先事项。几位接近该公司的人士认为,OpenAI正在偏离其最初的使命。“我们就此进行了多次董事会讨论,还有大量的内部讨论,”奥特曼说。但是决定已经做出了。2021年,七名持不同意见的员工辞职创办了一家名为Anthropic的竞争实验室,由OpenAI的顶级安全研究员达里奥·阿莫代伊(Dario Amodei)领导。

2022年8月,OpenAI完成了GPT-4的开发工作,高管们讨论将其与一个基本的、用户友好的聊天界面一同发布。奥特曼认为这将“一下子成为太多的重磅炸弹”。他提议用GPT-3.5推出聊天机器人--这是一个从春天开始向公众开放的模型--以便人们可以习惯它,然后在几个月后发布GPT-4。奥特曼说,公司的决策通常需要一个漫长的深思熟虑的阶段,在此期间,高层会达成共识。但随着推出后逐渐成为科技史上增长最快的新产品,情况就不同了。“在这种情况下,”他回忆道,“我发送了一条Slack消息,说,是的,让我们这样做。”在11月30日发布之前的一次头脑风暴会议上,奥特曼给这款产品取名为ChatGPT-3.5。

OpenAI的销售主管收到了一条Slack消息,通知她公司产品团队正悄悄推出一个“低调的Research Rreview”,不太可能会影响到销售团队。

OpenAI内部没有人预测接下来会发生什么。五天之后,ChatGPT就突破了100万用户。ChatGPT如今有有1亿用户--Facebook花了4年半时间才达到这个门槛。突然间,OpenAI成了硅谷最火的初创公司。2022年,OpenAI的营收仅为2800万美元;到了今年,该公司的单月营收就已达到1亿美元。在营收激增的同时,OpenAI开始大举招聘,员工数量增加了一倍以上。今年3月,OpenAI按照奥特曼的计划发布了GPT-4。新模型远远超越了ChatGPT-3.5的能力--与上一代产品不同,它可以描述图像的内容,用所有主要的编程语言编写大多数可靠的代码,并通过标准化测试。数十亿美元投入到竞争对手复制OpenAI成功的努力中。“我们无疑加快了竞赛的速度,”奥特曼说。

突然之间,奥特曼成为了明星。他似乎不同寻常地装备好了,可以驾驭人工智能世界的不同派别。“我认为如果这项技术出现问题,它可能会非常糟糕,我们希望对此直言不讳,”奥特曼在5月份的美国参议院听证会上告诉立法者。当月,奥特曼开始了世界巡演,包括访问以色列、印度、日本、尼日利亚、韩国和阿联酋。如此多的政府官员和政策制定者吵着要参加会议,以至于“我们最终召开的会议是任何一天预定会议的两倍,”全球事务负责人安娜·马坎朱 (Anna Makanju)说。人工智能在政策议程上飙升:包括白宫的行政命令,在英国举行的全球人工智能安全峰会,以及在联合国、七国集团和非洲联盟编纂人工智能标准的尝试。

当奥特曼在11月的OpenAI开发者大会上登台时,似乎没有什么能击败他。在欢呼声中,他宣布OpenAI正在走向自主人工智能“智能体”的未来,这些智能体有权代表用户在世界上采取行动。在两天后接受《时代》采访时,他说他认为人工智能消灭人类的可能性不仅很低,而且在过去一年里已经下降了。他认为,风险意识的增强,以及政府间明显的协调意愿,是OpenAI迭代部署战略带来的积极进展。当全世界都在争论人工智能毁灭文明的可能性时,奥特曼更加乐观。(他承认,这种可能性“非零”,但“如果我们能采取所有正确的行动,这种可能性很低。”)这些日子让他夜不能寐的是一件平淡无奇的事情:一只城市郊狼在他位于旧金山的价值2700万美元的房子周围安家落户。“这只郊狼搬进了我的房子,在外面抓门,”谈话间他拿起iPhone,轻轻敲了几下,翻转屏幕,显示出一张动物懒洋洋地躺在户外沙发上的照片。“很可爱,但是晚上很烦。”

在奥特曼信心爆棚的同时,OpenAI时任董事会内部的不安情绪也在增长。过去的几个月里,董事会成员从九人缩减到六人。这使得董事会划分为两派:由三名OpenAI员工组成的小组--奥特曼、苏茨克维和布罗克曼--和三名独立董事:问答网站Quora的首席执行官亚当·德安杰洛(Adam D’Angelo),科技企业家、兰德公司科学家塔莎·麦考利(Tasha McCauley),以及乔治敦大学安全和新兴技术中心的人工智能政策专家海伦·托纳(Helen Toner)。

知情人士透露,该小组曾就如何替换三名离职成员进行过争论。一段时间以来--渐渐地,以不同的速度--三位独立董事和苏茨克维开始担心奥特曼的行为。两名熟悉董事会讨论的人士说,为了得到自己想要的结果,奥特曼有一种挑拨离间的倾向。两人都表示,奥特曼试图确保信息通过他。“他有办法让画面变得有些支离破碎,”一个人说,让人很难知道其他人的立场。在某种程度上,这在商业中是正常的,但这位人士说,奥特曼越过了某些门槛,使董事会越来越难以监督公司并让他承担责任。

一个例子发生在10月下旬,当时托纳在乔治敦大学写的一篇学术论文发表了。奥特曼认为这是对OpenAI安全努力的批评,并试图将托纳逐出董事会。据两位知情人士透露,奥特曼告诉一名董事会成员,另一名成员认为应该立即撤掉托纳,但这只是奥特曼的谎言。

这些人说,这一事件并没有促使董事会做出解雇奥特曼的决定,但它代表了奥特曼试图破坏良好治理的方式。还有其他一些事件,让董事会的四人确信,如果他们不能信任奥特曼,他们就无法履行监督OpenAI任务的职责。一旦董事们做出决定,他们觉得有必要迅速采取行动,担心奥特曼会发现有些不对劲,并开始争取支持或试图破坏他们的可信度。另一位熟悉董事会讨论的人士说,“只要他得到一点点暗示,这件事可能会摆在桌面上,他就会全力以赴。”

11月16日周四晚上,苏茨克维约奥特曼第二天中午聊天。在约定的时间,奥特曼在Google Meet上加入了苏茨克维开设的会议,除了布罗克曼,整个董事会都出席了。苏茨克维通知奥特曼他被解雇了,这个消息很快就会公之于众。“这真的感觉像一个奇怪的梦,比我想象的要强烈得多,”奥特曼在接受采访时说。

董事会的声明很简洁:“奥特曼在与董事会的沟通中并不一贯坦诚,这阻碍了董事会履行职责的能力。董事会对他继续领导OpenAI的能力不再有信心。”

奥特曼随后开始联系投资人和导师,告诉他们他计划创办一家新公司,他的电脑随后死机了。(他说,因为受到了太多短信,导致iMessage崩溃。)董事会预料到来自投资者和媒体的压力。但据两名熟悉董事会想法的人士说,他们误判了公司内部的反抗程度,部分原因是他们有理由相信高管团队会做出不同的回应。这两名人士说,董事会驱逐奥特曼的举动是由OpenAI的高管层通知的,他们曾就奥特曼的行为及其对公司文化的影响向董事会表达过各种担忧。

知情人士说,出于法律和保密原因,董事会很难分享细节。但是,董事会列举的解雇奥尔特曼的动机是“缺乏坦诚”,缺乏实例导致了猖獗的猜测--这一决定是由个人恩怨、意识形态争端或纯粹的无能所驱动的。“董事会解雇了奥特曼,理由完全是吹毛求疵,甚至不属于可解雇的罪行,”SVAngel的创始人和导师罗恩·康韦(Ron Conway)说。他也是奥特曼被解雇后第一批接到电话的人之一。“董事会因情感原因解雇创始人是鲁莽和不负责任的行为。”

几个小时内,该公司的工作人员威胁说,如果董事会不辞职,不允许奥特曼重返公司,他们就辞职。在巨大的压力下,董事会在奥特曼被解雇后的第二天早上联系了他,讨论未来可能的发展方向。奥特曼将其定性为要求他回来。他说:“我经历了一系列的情绪波动。我一开始是反抗的。但很快,我就有了一种责任和义务感,并希望保留我如此在乎的东西。”接近董事会的消息人士对这种接触有不同的描述,称其是试图在公司崩溃前通过谈判来稳定公司。

谈判持续了将近48个小时。担任临时首席执行官的OpenAI首席技术官米拉·穆拉蒂(Mira Murati)和公司其他高管一起倡导奥特曼回归。因此,在11月19日周日晚上,董事会任命了一位新的临时首席执行官,也就是Twitch的前首席执行官埃米特·希尔(Emmett Shear)。微软首席执行官萨提亚·纳德拉(Satya Nadella)随后宣布奥特曼和布罗克曼将加入微软,成立一个新的高级人工智能部门;微软表示,欢迎任何OpenAI工作人员加入。在与布罗克曼的妻子含泪交谈后,苏茨克维转变了立场。他在11月20日凌晨发帖称:“我对参与董事会的行动深感后悔。”

到那天结束时,OpenAI的770名员工几乎都在一封公开信上签名,表示如果奥特曼不能复职,他们打算辞职。让奥特曼成为如此有才华的企业家的精明,也让他在僵局中成为一个可怕的对手,能够赢得公司上下大量员工的忠诚。

虽然使命对OpenAI员工来说是一个强大的吸引力,但财富亦是如此。几乎每个OpenAI的全职员工都从OpenAI的成功中获得了经济利益,包括前董事会成员布罗克曼和苏茨克维。(奥特曼年薪6.5万美元,除了通过他在YC的股份间接持有OpenAI的股份外,他个人并未持有OpenAI的股权。)在奥特曼被解雇后的一周,OpenAI将以860亿美元的估值,通过要约收购方式向外部投资人出售员工持股。那些原本有望在12月获得数百万收入的员工担心这种选择会消失。一位熟悉董事会讨论的人士表示:“如果人人都辞职,一家公司可能会倒闭,这在历史上是前所未有的。面对到手的鸭子可能将要飞了,OpenAI员工们团结一致并不奇怪。”

与员工不同的是,驱逐奥特曼的三名独立董事受雇于其他地方,与OpenAI没有财务利害关系,也不参与公司的日常运营。与典型的以盈利为目的的董事会不同,他们的工作是行使自己的判断,确保公司的行为符合人类的最大利益--这一使命充其量是模糊的,当如此多的资金处于危险之中时,很难坚持下去。而传统董事会要根据季度财务报告、股票价格和对股东价值的担忧做出决策。但无论董事会是否做出了正确的决定,他们不愿意或无法提供他们认为奥特曼有问题的行为的例子,这只能让他们在这场公关战中以压倒性的劣势失败。为检查首席执行官的权力而成立的董事会,看起来似乎正在行使自己的不可问责的权力。

最终,剩余的董事会成员在协议中作出一些让步,让奥特曼重返首席执行官的职位。一个新的独立董事会将监督他的行为和对前董事会作出解雇他这一决定的调查。奥特曼和布罗克曼不会重新获得他们的席位,而德安杰洛将继续留在董事会中,而不是所有的独立董事集体辞职。尽管如此,这仍然是OpenAI管理层的胜利。“公司和使命的最佳利益永远是第一位的。很明显,我和董事会成员之间存在真正的误解,”奥特曼在社交平台X上发帖称,“我欢迎董事会对最近所有事件进行独立审查。”

感恩节前两天晚上,OpenAI员工们聚集在总部,开香槟庆祝。布罗克曼发布了一张与几十名员工的自拍,配文是:“我们回来了。”

虽然奥特曼回归OpenAI,但该公司正在进行一次彻底的改革。苏茨克维在公司的未来并不明朗。新董事会--前推特董事会主席布雷特·泰勒(Bret Taylor)、前美国财政部长拉里·萨默斯(Larry Summers)和德安杰洛--将扩大到9名成员,并严格审视公司的治理。奥特曼说:“很明显,目前的情况并不好。

OpenAI曾试图建立一个提供独立监督的架构,但最终却功亏一篑。“很明显,我们在解决人工智能治理方面做得不够好,”致力于该问题的非营利组织Collective Intelligence Project的联合创始人迪维娅·西德达斯(Divya Siddarth)表示。“很少有人以完全不透明的方式做出极其重大的决定,这一点突显出来,这种方式感觉很好,直到事情败露。”

重新担任首席执行官的奥特曼说,他的首要任务是在灾难发生后稳定公司及其与外部合作伙伴的关系;在过去一年的大规模扩张之后,在某些研究领域加倍努力;并支持新董事会提出更好的治理方案。这看起来像什么还不清楚。“如果一个先知说,这是建立最适合人类的架构的方法,那就太好了,”奥特曼说。

无论他今后扮演什么角色,都将受到更多的关注。“我认为这些事件让他在大众眼中变成了一名政治演员,而他以前不是这样,”AIPI的执行董事科尔森说,他认为这一事件凸显了容忍风险的技术专家做出影响我们所有人的选择的危险。“不幸的是,这就是市场已经形成的动态。”

但是现在,奥特曼看起来仍然是一个潜在改变世界技术的领先架构师。“建设超级智能将是全社会的项目,”他说。“我们希望成为塑造者之一,但这不会是一家公司就能做到的事情。我们将为此全力以赴,除非我们真的搞砸了。”■ 
                                                                                          
相关内容
 
 读者评论:

分享:
每日头条
OR
+
最新资讯
OR
+
热门排行榜
OR
+