openAI奥特曼访谈:通用人工智能什么时候到?
问:如果面对一个完全不了解你的人,你如何用一分钟向他解释你是谁?
奥特曼:我是一个科技爱好者,对这个世界充满好奇,同时也是一个坚定的信徒——我相信人工智能正在触及我们所有人的生活,并且绝大部分会带来积极的改变。在工作之外,我是一个父亲,深爱我的孩子们。这就是我给自己的定义。
问:你小时候也是这样吗,总是顺着好奇心走?你小时候有没有过自卑的时候?
奥特曼:几乎每个孩子都有自卑的时候,我当然也不例外。我小时候是个典型的书呆子,体育一塌糊涂,而我成长那个年代,最酷的事情就是运动好。我一直有很多朋友,跟人也处得来,但从来不是学校里那种酷小孩。
问:这种边缘感对你造成过困扰吗?
奥特曼:有一点,但没有像打击某些人那样彻底击垮我。我也见过很多同龄人,他们童年最深的烙印就是“我不合群、我不酷,我恨透了这种感觉”。我也觉得有点不爽,但我有我的电脑,有一小群铁杆朋友,我的童年总体上非常开心、非常充实。
问:一个很有意思的现象是:在美国跟一个普通人聊起 AI,大家往往带着提防甚至悲观的情绪;但在印度,大家对 AI 的态度却极其积极、充满干劲。这种截然相反的情绪差是从哪来的?
奥特曼:这种差异确实非常不可思议。从用户数来看,印度已经是我们在全球最大的单一市场,比美国还大,而且增长极其迅猛。你在那里能感受到极强的“动手造东西的能量”。
我最近刚听说一个印度的学生,他需要为自己的学校做一笔募资,他以前完全没有相关经验,但他用我们的一套工具,从头到尾把整件事都做成了。
为什么会有这种情绪反差?很多人都观察到一个规律:那些经济正在飞速狂奔、处于高速发展阶段的国家,各行各业对产品和服务的需求极其旺盛,甚至处于严重的供给不足状态,这些国家比发达经济体更欢迎 AI。我想这是原因之一。
规模法则的残酷真相:数据就摆在所有人眼前,为什么当年只有 OpenAI 敢押注?
问:很多海外媒体近来把你塑造成一个带有争议的角色。你是最先点燃这场技术革命的人,在自己创办的 OpenAI 甚至一股未持,但突然之间,很多人开始把你当成了某种“反派”。为什么会变成这样?
奥特曼:在美国文化里,公众天然对握有巨大权力的人抱有戒心,尤其是对科技行业所掌握的无上力量抱有深深的怀疑。客观地说,这种监督意识在某种程度上是健康的,但我认为现在确实有点草木皆兵了。
至于不拿公司股权这件事,回过头看,这是个错误。我当初这么做,有我自认为很好的理由,但它彻底把外界搞糊涂了。在现实世界里,如果一个艺术家拼尽全力去雕琢作品,或者一个运动员拼命训练而不纯粹为了金钱,大家觉得非常自然、极其钦佩;可一旦换成商业语境,你做了一家公司却不拿一分钱股权,大家就会觉得这人太怪异了。而公众本能地排斥他们看不懂的东西,他们会无休止地揣测:“他不要钱,那他到底想要什么?”可对我来说,这只是因为我认为这是世界上最值得做、最重要的事情,能参与其中本身就是莫大的幸运。
问:你曾写过一句话:“你应该用短期的低社会地位,去换取长期的极高地位,但大多数人绝不愿这么做。只要你是对的,被绝大多数人误解反而是你的优势。”问题是在最终结果见分晓之前,你怎么判断自己是“被误解的天才”,还是“纯粹在犯蠢”?
奥特曼:最痛苦的地方就在于,在尘埃落定之前,你永远不可能完全确定。你所能做的,就是基于你掌握的证据建立起高度的胜率信念,并随着新信号的出现不断修正自己的概率。这种不确定性本身就是冒险的一部分。
2015 年我们刚做 OpenAI 的时候,做这件事的社会地位其实极低。大家都知道如果做成了会极具价值,但几乎没有人把我们当回事:通用人工智能?那可能是 100 年后甚至永远不可能实现的东西。外界觉得我们不过是一群没有学术正统背景的毛头小子,冷嘲热讽铺天盖地。但我们算过账,这是一笔期望值极高、完全值得去赌的非对称下注。
问:当时支撑你坚信这件事能成的底层信号到底是什么?
奥特曼:我一直觉得,人这一辈子可能只能抓住极少数几个真正底层的伟大洞察,然后把它们反复应用到不同的未知领域。对我而言,最重要的一个洞察就是——“规模具有令人震惊的神奇魔力”。
这并不是空想。无论是在早期的 YC、在巨型城市的扩张、在超级跨国公司的演进,还是在个人职业生涯的跃迁中,我都反复目睹过这个现象:只要一个系统在极小的尺度下能够跑通,一旦你把它推向极限规模,它所释放出的往往是超线性的指数级回报。
在深度学习领域也是如此。在我们摸清精确的“规模法则”之前好几年,早期的 AlexNet 就已经展现出了这一势头:只要把神经网络做大,它的能力就会迈上一个台阶。我有一个极强烈的直觉:必须把参数和算力狠狠推上去。
最让我百思不得其解的是:在 2015、2016 年,甚至直到 2018 到 2021 年这漫长的几年间,全行业的顶尖大脑们看着完全一样的数据,为什么大家没有像我们一样感到震撼?为什么大家没有立刻说:“这太疯狂了,我们必须赌上全部身家压上去!”在很长一段时间里,我们在公司内部甚至觉得自己像神经病,因为答案明明就摆在桌面上,为什么全世界就是视而不见?
问:那么当时到底是什么心智枷锁,阻碍了其他顶级学者看清这一点?
奥特曼:因为这个方法在当时看来“显得太简单了”,简单到让人难以置信。
学术界的精英们看着神经网络犯下的种种幼稚错误,嗤之以鼻地说:“这么笨拙脆弱的系统,怎么可能仅仅靠加大算力和数据就能自动解决所有问题?”当时那些聪明人都说必须走“符号表示”的路线,他们给出的反驳理由听起来无懈可击。
我记得当时有人跟我讲过我们这条路为什么注定走不通,他的逻辑听起来严丝合缝:“这些大模型做的事情,无非是根据训练集里的语料,去统计和预测下一个词出现的概率。这就决定了它永远不可能创造出‘新知识’,因为它永远跨不出训练集的边界。你给它看一百万道数学题,它或许能学会解答类似的题目,但它绝不可能推导出一个人类从未证明过的全新定理。”
在当时,这个说法听起来极具说服力。但今天我们都知道这种看法多么荒谬。他们遗漏了最核心的一点:这些巨型模型在海量预测下一个词的过程中,学到的最重要的东西不是某一道具体的数学题,而是具备普遍泛化能力的通用推理能力。而推理能力可以延伸到全新的领域。
押上公司命运的 GPT-4 算力豪赌:如何区分“顶级远见”与“彻头彻尾的妄想”?
问:带我回到那个具体的时间节点:周围所有人都劝你收手,但你带着一半的把握和一半的所谓“妄想”,做出了一个决定 OpenAI 生死的决策。那是哪一刻?
奥特曼:2022 年 8 月左右,我们刚刚完成了 GPT-4 的训练。
当时距离我们正式向全世界发布 GPT-4 大概还有七八个月的时间。我们把它锁在内网里每天测试,大家都清楚它强得异乎寻常。但即便如此,我们也花了一段时间才彻底想明白它意味着什么——它会打开哪些新的研究方向,GPT-4 之后模型会进步得多快,我们后来做出的思维链和推理模型,正是从这里起步的。
就在那个节点,我们做出了一个决定公司前途的决定:在全世界甚至还没见过 GPT-4、全行业根本不知道它能做到什么程度的前提下,我们决定赌上整家公司的身家性命,去全球扫货采购巨量的算力。
在外界看来,这完全是失去理智的疯狂举动。但我们有足够的内部确信度,因为我们亲手用过了这个模型,而且我们把规模效应的数学逻辑刻进了骨子里。如果当时退缩一步,选择稳妥方案,我们就会放慢算力投入的速度。如果 GPT-4 最终只是一个类似 GPT-3.8 级别的小修小补,我们绝对没有魄力去下这么大的赌注。
问:身处你今天这个位置,你怎么确保自己没有被一帮只会说“好的老板”的应声虫彻底包围?
奥特曼:很多身居高位的人之所以最后栽大跟头,就是因为身边全是不敢说真话的人。你必须极度渴求真实的反对意见。
我的做法是:第一,尽量让老朋友留在身边,让那些共事十年以上的人留在核心圈子里;第二,在公司内部建立起一套明确的文化——当高层决策犯蠢时,谁能站出来激烈反驳,谁就应该得到奖赏和尊重。
但这需要极其主动的维护。你在现实中被证明正确的次数越多、你掌握的资源和权力越大,想要听到一句大实话就会变得越发困难。
问:但如果你的老战友、导师和极度聪明的伙伴全都指着你的鼻子说“你彻底想偏了”,在那种时刻,你凭什么觉得自己还能坚持己见?
奥特曼:我违背整个团队共识强推决策的次数,其实少之又少。
我见过不少创业者有一种病态的偏执,他们把“全世界都说我是错的,我偏要干”当成某种英雄勋章。这种想法极其危险。我的原则是:不到万不得已,绝不要轻易对抗核心团队的集体智慧。
如果你花了无数心血在身边聚集了一群世界上最聪明的人,绝大部分时候你就应该听取他们的判断。如果你决定在全员反对的情况下依然孤注一掷,你必须清醒地意识到,这是一笔极其昂贵、大概率会死无葬身之地的高危下注。除非你拥有牢不可破的底层第一性原理支撑,否则绝不要轻易逞英雄。
非共识赌注与产品极简主义:ChatGPT 第一版留存率只有 5%,为什么还要强行发布?
问:既然反抗共识的代价如此高昂,普通创业者该如何找到属于自己的非共识机会?
奥特曼:2015 年我们刚成立 OpenAI 时,全球范围内明确把 AGI 当作目标的实验室屈指可数,甚至可能只有我们一家;而在同一年,可能有上万家创业团队在疯狂扎堆做照片分享软件。
在当时绝大多数人眼里,做照片分享是个好得多的主意。但问题在于,有一万个聪明人在同一条赛道里贴身肉搏,而且巨头 Instagram 的网络效应坚不可摧。
作为一个创始人,你最核心的护城河,是找到那些“看似很难成功,但一旦做成就具有不可思议价值”的非对称杠杆。很多人的思维定势来源于应试教育——从小到大,学校只教我们如何解答别人出好的题目,几乎从不教我们如何提出一个前所未有的好问题。学会提出好问题,是我找到非共识机会的最好办法。
你可以做个测试:找一个极度聪明、充满激情但思维极其严谨的朋友,试着把你看到的非共识逻辑讲给他听。如果你能拿出扎实的事实和推演,最终成功改变了他的认知,让他承认“这虽然冒险但确实值得一做”,这就说明你的想法是有根基的,而不是自我陶醉的妄想。
问:在 OpenAI 的历史上,有没有哪次决策几乎全员反对,但你靠着直觉强行推了下去?
奥特曼:最具代表性的例子,就是 ChatGPT 的上线。
当时,管理层的其他人大多不想把 ChatGPT 发布出去。倒不是大家反对做聊天机器人,而是多数人觉得这东西还太早、做得还不够好。
但我坚持必须立刻上线。这完全源于我当年在 YC 总结出来的产品本能:“如果你对自己的第一版产品没有感到一丝羞耻,那说明你发布得太晚了。”坐在实验室里空想是没有意义的,你需要真实世界的毒打和反馈。
更夸张的是,当时我们内部测试的早期原型,真实数据极其难看:留存率只有可怜的 5% 左右。这个数据本身有不少水分,比如我们手里已经有更好的模型、也有别的产品界面。但很多人看到这个数字都会说,留存率只有 5% 的产品根本不能上线,太糟糕了。通常情况下确实如此。
但你去跟那 5% 的用户聊,会发现其中一些人是真的爱它。虽然这个内部原型留存很低,但喜欢它的人用得非常多。
这也是 YC 教给我的核心法则:对于一个全新的探索性产品,有一小群狂热深爱你的死忠用户,其价值远胜于有一大群觉得你“还挺不错”的普通用户。只要抓住了这股真实的狂热,哪怕产品粗糙不堪,也必须立刻把它扔到市场上。
超级智能的权力悖论与高层出走:“赌注太大,以至于每个人都只信任自己”
问:你过去写过一句话:“绝大多数人其实拥有扭曲现实的能力,但他们甚至从未尝试过使用它。”你如何理解这种能力?
奥特曼:绝大多数人终其一生都在竭尽全力留在“群体共识”的安全区里。这源于人类几十万年进化出来的生物本能——在远古时代,特立独行或者被部落放逐往往意味着死亡。但和很多做技术的人一样,我天生就比别人少一点那种“必须顺从集体轨道”的内在压力。在别的场合,这可能是一种缺陷;但在开拓硬核科技时,这种不在乎别人眼光的钝感力却成了最关键的特质。
问:随着 OpenAI 规模越来越大,我们也看到了许多令人遗憾的裂痕:苏茨克韦尔自立门户,达里奥·阿莫迪创办了 Anthropic,米拉·穆拉蒂也离开了。大家都从同一张桌子上起步,为什么最终走向了分道扬镳?
奥特曼:当一项技术的潜在影响力和历史赌注大到近乎无限时,许多顶级天才的大脑里都会不可避免地产生一种极其强烈的心理机制:“正因为这件事关乎人类的未来、赌注实在太大了,所以到了关键时刻,我唯一能完全信任的只有我自己。”
在我看来,路线之争和信任问题是连在一起的。大概就是这样一种想法:“他的路线不对,所以我不能让权力集中到他手里。”
问:经历过董事会罢免风波、诉讼、政府调查以及全网的审视,你个人的心理状态被改变了吗?你会经常感到焦虑甚至失控吗?
奥特曼:想要参与制造超级智能,就绝不可能指望过一种风平浪静的生活,我早就接受了这个现实。
我现在面对极端压力的触发阈值已经被拔得极高,外界觉得天翻地覆的风暴,对我而言不过是日常的背景噪音。在绝大多数时候,我已经很难产生心跳加速的恐慌感了。
上一次我真正紧张到心跳加速,是我们准备公布纳维-斯托克斯方程(千禧年大奖难题之一)那个成果的时候。我当时觉得,这太疯狂了,这是动真格的:这是一些人类一直没能做成的最难的事,现在 AI 做到了。那一次我确实很紧张,大概是最近一次真正让我心跳加速的时刻。
我曾经有一段时间冥想得很多,每天几个小时。虽然现在没有那么多时间坐着,但那种训练形成了一种生理本能:只要遇到极度混乱糟糕的局面,我只要闭上眼睛几秒钟,就能立刻强行让大脑切回彻底平静的入定状态。
创业导师的极简方法论:为什么说 99% 的创业建议都是垃圾?
问:很多创业者在第一天就挖空心思去想“护城河”和“行业垄断”,你在 YC 时也会追问团队未来怎么形成垄断。这是创业早期最重要的事情吗?
奥特曼:绝对不是。这甚至连前三名都排不进去。
最核心的问题永远只有极其朴素的三点:你的产品到底是什么?为什么用户极其饥渴地需要它?你打算怎么获取更多真实用户?
所谓的护城河和长期壁垒,不过是确保业务规模做大之后、利润不至于被竞争对手抹平的后置手段,它是商业考量的一部分,但绝不能反客为主。
在 YC 的那些年里,我见过形形色色的成功创始人。如果要总结在三十分钟内能看出来的核心特质,我最看重这几样:
1. 极致清晰的表达能力:他能不能把极其复杂的逻辑用大白话讲得清清楚楚、毫不费力?
2. 顶级的感召力:聊完半小时,我是不是产生了一种“我想跟他一起干”的冲动?因为早期的招人、融资、拿客户,全凭这种原始的感染力。
3. 极快的认知迭代速度:他推翻旧假设、提出新想法的速度有多快?面对连续的绝境,他能不能始终微笑着把硬骨头啃下来?
问:一个人的野心能够通过后天训练出来吗?
奥特曼:很多人以为野心是天生的,但我当年在 YC 最惊喜的发现就是:野心可以后天习得。不是对每个人都管用,但确实能做到。
训练野心的方法非常简单有效:第一,把你扔进一个所有人都在做疯狂突破的同侪圈子里;第二,让你连续面对一连串难度呈阶梯式上升的残酷挑战。当你一次又一次翻越原本以为自己绝对不可能翻过的高山并取得胜果时,你内心的认知边界就会被永久性地撑大,你的野心和自信心就是这样以极其健康的复利速度被锻造出来的。
问:那么对于今天的年轻创业者,你听过最糟糕的建议是什么?
奥特曼:外界绝大多数创业建议都是垃圾。
如果一定要给创业者一条核心元建议,那就是:“少去听那些所谓的建议。”
听了 800 期商业播客,听各路大师传授创业技巧,绝不可能把你变成优秀的创业者。YC 从那么多独角兽身上提炼出的通用核心建议,无非就五到十条,而其中最无可撼动的天字第一号戒律只有一句话:“做人们真正想要的东西。”
除了这些近乎常识的真理之外,每个创业者面临的死局都是极端具体的,你需要的是脱掉西装跳进泥潭,自己在现实世界中把路趟出来。
复利人生与终局目标:用超级智能攻克物理与新科学
问:你过去写过一篇文章叫《成功的 13 条法则》,其中排在首位的就是“复利式积累”。在今天这个技术狂飙的时代,普通人该如何理解复利?
奥特曼:有个刻薄但一针见血的笑话:“许多人自称拥有 20 年的工作经验,其实他们只是把第 1 年的经验机械重复了 20 次。”
一个真正具备复利效应的人生,是每一阶段的认知与能力,都在上一阶段的极高基数上实现几何级裂变。但要做到这一点,你必须永远保持自讨苦吃的心态,强迫自己持续去做那些极度不舒适、不显然、随时可能颠覆自己既有认知的全新探索。
在现实世界里,绝大多数人在职业生涯早期就过早地躺平,主动从指数级曲线上滑落了。
即使是今天在 OpenAI,我也在强制自己每天推翻既有假设。很多人把所谓的“坚定信念”误解为盲目顽固,但我认为真正的坚定,是在你每一次试图推翻自己、从各个极其刁钻的维度拷打自己的逻辑之后,如果现有的认知依然立得住,你再毫无保留地全力以赴。
问:抛开具体的商业战役,在有生之年,你个人最渴望亲手创造出的终极成果到底是什么?
奥特曼:我最迫切想看到的,是由 AI 驱动的新科学发现。
过去几百年人类社会的一切生活水平提升、贫困消绝、财富积累,本质上全部建立在人类底层基础科学认知的突破之上。
如果有一台机器,能够帮助人类彻底看清物理世界最底层的规律,攻克深层次的理论数学难题,推导出全新的物理学模型,找到新的疗法,发现新的能源……这种对底层科学认知的加速,才是真正能重塑人类物种命运的终极杠杆。我们今天所做的一切,都是在为这台机器铺路。
问:最后一个问题:成为今天聚光灯下、背负着整个人类技术走向期待与争议的“萨姆·奥特曼”,你个人付出的真实代价是什么?
奥特曼:从主观感受上来说,这已经是我生命的全部现状了。
如果说有某种琐碎但真实的遗憾,那就是我永远失去了“作为一个匿名的普通人生活在世界上”的权利。我再也无法在一个阳光明媚的周六下午,独自坐在街角平平无奇的咖啡馆里,点一杯超大杯的咖啡,打开笔记本电脑,漫无目的地刷刷网页、看着窗外的行人发呆——如果我今天去这么做,旁边几桌必须坐着两个安保人员。我曾经极其享受那种纯粹的平淡与自由,但那些已经成了回不去的过往记忆。
但我完全没有任何顾影自怜的受害者心态。能够站在人类技术的最前沿,亲手参与打造如此波澜壮阔的未来,我感到自己拥有不可思议的幸运。这种幸运足以冲刷掉所有的疲惫、审查与漫天风暴。这就是我所选择的生活。
