OpenAI真正的想要什么？

type

Post

status

Published

date

Dec 6, 2023

slug

summary

这家年轻的公司发布 ChatGPT 后震惊了世界，但这只是开始。最终目标：改变一切、是的、一切。

当这位明星和他的随行人员跌进一辆等候的梅赛德斯货车时，他带着一种近乎披头士狂热的能量。他们刚刚逃离一场活动，前往另一场活动，然后又去参加另一场活动，那里有一群疯狂的暴徒等待着他们。当他们穿过伦敦的街道时——从霍尔本到布卢姆斯伯里的短暂路程——就好像他们正在冲浪文明的前后时刻之一。这辆车所体现的创造历史的力量吸引了全世界的目光。从排队等候的学生到总理，每个人都想分一杯羹。

豪华面包车里，38 岁的企业家、OpenAI联合创始人、发型整洁的山姆·奥尔特曼 (Sam Altman) 狼吞虎咽地吃着一份沙拉。公关人员；安全专家；和我。奥特曼 (Altman) 不高兴地穿着一套蓝色西装和一件无领带的粉色正装衬衫，旋风穿过伦敦，这是为期一个月的全球短途旅行的一部分，途经六大洲 25 个城市。当他狼吞虎咽地吃着蔬菜时——今天没有时间坐下来吃午餐——他回想起前一天晚上与法国总统埃马纽埃尔·马克龙(Emmanuel Macron)的会面。真是个好人啊！并且对人工智能非常感兴趣。

波兰总理也是如此。还有西班牙首相。

与奥特曼一起骑行，我几乎能听到《艰难的一天之夜》开头那响亮、暧昧的和弦——介绍未来。去年 11 月，当 OpenAI 发布了它的大热门ChatGPT时，它引发了自互联网闯入我们生活以来从未见过的技术爆炸。突然间，图灵测试成为历史，搜索引擎成为濒临灭绝的物种，任何大学论文都不再可信。没有工作是安全的。没有什么科学问题是一成不变的。

Altman 没有进行研究、训练神经网络或对 ChatGPT 及其更早熟的兄弟 GPT-4 的界面进行编码。但作为首席执行官，他是一位梦想家/实干家，就像年轻版的联合创始人埃隆·马斯克，没有包袱，一篇又一篇的新闻文章都用他的照片作为人类新挑战的视觉象征。至少那些还没有通过 OpenAI 的视觉人工智能产品Dall-E 生成的令人瞠目结舌的图像的人。他是当下的神谕者，人们首先想咨询的人物是人工智能如何迎来黄金时代，或者让人类变得无关紧要，甚至更糟。

五月那个阳光明媚的日子，奥特曼的货车载着他四次露面。第一个是秘密的、与圆桌会议（由政府、学术界和行业人士组成的团体）举行的非正式会议。它是在最后一刻组织起来的，地点是一家名为 Somers Town Coffee House 的酒吧的二楼。在酿酒大师查尔斯·威尔斯（Charles Wells，1842-1914 年）怒目而视的肖像下，奥特曼回答了几乎所有观众提出的同样的问题。人工智能会杀死我们吗？可以监管吗？那么中国呢？他详细地回答了每个问题，同时偷偷看了一眼手机。之后，他在豪华的伦敦人酒店在 600 名牛津协会成员面前进行了炉边聊天。从那里前往地下室会议室，他在那里回答了大约 100 名企业家和工程师提出的更多技术问题。现在他在伦敦大学学院下午的演讲中已经快迟到了。他和他的团队在装载区停下来，然后被引导穿过一系列蜿蜒的走廊，就像《好家伙》中的斯坦尼康镜头一样。我们边走边，主持人急忙告诉奥特曼他要问什么。当奥特曼出现在舞台上时，礼堂里挤满了兴高采烈的学者、极客和记者，爆发了。

奥特曼并不是一个天生的出名者。有一次，在《纽约客》对他进行了长篇报道之后，我就与他进行了交谈。“关于我的事情太多了，”他说。但在大学学院，正式节目结束后，他走进了涌上讲台的人群中。他的助手们试图在奥特曼和人群之间游走，但他对他们不屑一顾。他一个接一个地回答问题，每次都专注地盯着对话者的脸，就好像他第一次听到这个问题一样。每个人都想要一张自拍照。20分钟后，他终于允许他的团队把他拉出来。然后他将前往会见英国首相里希·苏纳克。

也许有一天，当机器人书写我们的历史时，他们会引用奥特曼的世界巡演作为这一年的里程碑，那时每个人都开始对奇点进行自己的个人清算。或者话又说回来，也许无论谁书写这一刻的历史，都会将其视为一个时代，一位安静而引人注目的首席执行官，拥有打破范式的技术，试图将一种非常奇特的世界观注入全球思维流中——从一个没有标记的四层总部从旧金山的 Mission 区到全世界。

对于 Altman 和他的公司来说，ChatGPT 和 GPT-4 只是实现简单而震撼的任务的垫脚石，这些技术人员可能已经在他们的肉体上烙上了烙印。这一使命是构建通用人工智能（迄今为止，这一概念更多地基于科幻小说而不是科学）并确保人类安全。OpenAI 的工作人员狂热地追求这一目标。（尽管如此，正如办公室咖啡馆中的许多对话所证实的那样，任务中的“构建通用人工智能”部分似乎比“确保安全”部分给研究人员带来了更多原始的兴奋。）避免随意使用“超级智能”这个词。他们认为人工智能的发展轨迹将超越生物学所能达到的最高水平。该公司的财务文件甚至规定了当人工智能消灭我们整个经济体系时的一种退出应急措施。

将 OpenAI 称为邪教是不公平的，但当我询问该公司的几位高层时，如果他们不相信 AGI 真正到来，并且它的到来将标志着人类历史上最伟大的时刻之一，是否有人可以在那里舒适地工作——大多数高管并不这么认为。为什么非信徒想在这里工作？他们想知道。我们的假设是，劳动力——现在大约有 500 人，尽管自您开始阅读本段以来可能已经增加了——已经自我选择只包括忠实信徒。至少，正如奥特曼所说，一旦你被录用，你似乎不可避免地会被这个魔咒所吸引。

与此同时，OpenAI 已经不再是以前的公司了。它最初是一家纯粹的非营利性研究机构，但如今，从技术上讲，其大多数员工都为一家盈利实体工作，据报道，该实体估值近300 亿美元。Altman 和他的团队现在面临着在每个产品周期中进行革命的压力，以满足投资者的商业需求并在激烈的竞争环境中保持领先地位。同时始终坚守着一种准救世主般的使命，即提升人类而不是消灭人类。

这种压力——更不用说全世界无情的关注——可能会让人衰弱。披头士乐队掀起了文化变革的巨大浪潮，但他们的革命只持续了这么久：在敲响那令人难忘的和弦六年后，他们甚至不再是一支乐队了。OpenAI 所引发的漩涡几乎肯定会更大。但 OpenAI 的领导者发誓他们会坚持到底。他们说，他们想做的就是建造足够智能、足够安全的计算机来结束历史，将人类推入一个难以想象的富裕时代。

成长于80 年代末和 90 年代初，萨姆·奥尔特曼 (Sam Altman) 是一个迷恋科幻小说和星球大战的书呆子。早期科幻作家构建的世界通常让人类与超级智能人工智能系统一起生活或竞争。计算机与人类能力相匹配或超越的想法让奥特曼兴奋不已，他从手指几乎无法覆盖键盘起就一直在编码。当他 8 岁时，他的父母给他买了一台 Macintosh LC II。一天晚上，他玩到很晚的时候，他的脑海中突然闪现出一个想法：“有一天，这台计算机将会学会思考。” 2003 年，当他以本科生身份来到斯坦福大学时，他希望帮助实现这一目标，并学习了人工智能课程。但“它根本不起作用，”他后来说。该领域仍深陷被称为“人工智能冬天”的创新低谷。Altman 退学进入创业界；他的公司 Loopt 是Y Combinator中第一批想要成为的小型组织之一， Y Combinator 后来成为世界上最著名的孵化器。

2014年2月，YC的创始人保罗·格雷厄姆选择了当时28岁的奥特曼接替他。格雷厄姆在声明中写道：“萨姆是我认识的最聪明的人之一，他比我认识的任何人都更了解初创公司，包括我自己。” 但 Altman 认为 YC 不仅仅是公司的发射台。“我们不关心初创公司，”他接任后不久告诉我。“我们注重创新，因为我们相信只有这样才能为每个人创造美好的未来。” 在奥特曼看来，从所有这些独角兽身上获利的目的不是为了让合作伙伴赚到钱，而是为物种层面的转型提供资金。他成立了一个研究部门，希望资助雄心勃勃的项目来解决世界上最大的问题。但在他看来，人工智能是统治一切的创新领域：一种可以比人类更好地解决人类问题的超级智能。

幸运的是，奥特曼在人工智能的冬天转为丰沛的春天之际就开始了他的新工作。计算机现在通过深度学习和神经网络执行惊人的壮举，例如标记照片、翻译文本和优化复杂的广告网络。这些进步第一次让他相信，通用人工智能实际上是触手可及的。然而，将其留在大公司手中让他感到担忧。他认为这些公司过于专注于自己的产品而无法尽快抓住开发AGI的机会。如果他们真的创造了通用人工智能，他们可能会在没有必要的预防措施的情况下鲁莽地向世界释放它。

当时，奥特曼一直在考虑竞选加州州长。但他意识到自己完全有能力做一些更大的事情——领导一家将改变人类本身的公司。“AGI 只会被构建一次，”他在 2021 年告诉我。“而且没有那么多人能够很好地运行 OpenAI。我很幸运，在我的生活中拥有一系列经历，这些经历让我为此做好了积极的准备。”

奥特曼开始与可能帮助他创办一家新型人工智能公司的人交谈，这是一家非营利组织，将引导该领域走向负责任的通用人工智能。特斯拉和 SpaceX 首席执行官埃隆·马斯克 (Elon Musk) 是一位志趣相投的人。正如马斯克后来告诉 CNBC 的那样，在与谷歌联合创始人拉里·佩奇进行了一些马拉松式的讨论后，他开始担心人工智能的影响。马斯克表示，令他感到沮丧的是，佩奇几乎不关心安全，而且似乎也认为机器人的权利与人类平等。当马斯克表达自己的担忧时，佩奇指责他是“物种歧视者”。马斯克还明白，当时谷歌聘用了世界上大部分人工智能人才。他愿意花一些钱来做出更适合人类团队的努力。

几个月之内，奥特曼就从马斯克（马斯克承诺捐赠 1 亿美元，并投入了时间）和里德·霍夫曼（Reid Hoffman）（捐赠 1000 万美元）那里筹集了资金。其他资助者包括 Peter Thiel、Jessica Livingston、Amazon Web Services 和 YC Research。奥特曼开始悄悄招募队伍。他将搜索范围仅限于 AGI 信徒，这一限制缩小了他的选择范围，但他认为这一限制至关重要。“早在 2015 年，当我们招聘时，人工智能研究人员说认真对待 AGI 几乎会被认为是职业杀手，”他说。“但我想要认真对待这件事的人。”

Stripe 的首席技术官 Greg Brockman 就是这样的人，他同意担任 OpenAI 的 CTO。另一位重要的联合创始人是安德烈·卡帕蒂 (Andrej Karpathy)，他曾在谷歌大脑 (Google Brain) 工作，谷歌大脑是这家搜索巨头的尖端人工智能研究机构。但也许奥特曼最抢手的目标是一位出生于俄罗斯的工程师，名叫伊利亚·苏茨克韦尔(Ilya Sutskever)。

苏茨克维尔的血统是无懈可击的。他的家人从俄罗斯移民到以色列，然后又移民到加拿大。在多伦多大学时，他是杰弗里·辛顿 (Geoffrey Hinton) 的优秀学生，后者因其在深度学习和神经网络方面的工作而被称为现代人工智能教父。辛顿仍然与苏茨克维尔关系密切，他对他的门徒的魔法感到惊叹。在苏茨克弗在实验室任职的早期，辛顿给了他一个复杂的项目。Sutskever 厌倦了编写代码来执行必要的计算，他告诉 Hinton，如果他为该任务编写一种自定义编程语言，会更容易。辛顿有点恼火，试图警告他的学生远离他认为会持续一个月的干扰。然后苏茨克弗坦白说：“我今天早上就这么做了。”

Sutskever 成为人工智能超级明星，与人合着了一篇突破性论文，展示了人工智能如何通过接触大量数据来学习识别图像。幸运的是，他最终成为了谷歌大脑团队的关键科学家。

2015 年中期，Altman 给 Sutskever 发了冷邮件，邀请他与 Musk、Brockman 和其他人在帕洛阿尔托 Sand Hill 路的豪华 Rosewood 酒店共进晚餐。直到后来，苏茨克韦尔才发现自己是主宾。“这是关于未来人工智能和通用人工智能的一般性对话，”他说。更具体地说，他们讨论了“谷歌和 DeepMind 是否遥遥领先以至于无法赶上他们，或者是否仍然有可能像埃隆所说的那样，创建一个能够起到平衡作用的实验室。” 虽然晚宴上没有人明确试图招募苏茨克韦尔，但这次谈话却让他着迷。

不久之后，苏茨克弗给奥特曼写了一封电子邮件，称他愿意领导该项目，但该消息被困在他的草稿文件夹中。奥特曼回过头来，在抵制了谷歌的还价几个月后，苏茨克弗签约了。他很快将成为公司的灵魂和研究的推动力。

Sutskever 与 Altman 和 Musk 一起为该项目招募人员，最终在纳帕谷举行了一次静修会，几位未来的 OpenAI 研究人员在会上互相激发了兴奋。当然，有些目标会抵制诱惑。约翰·卡马克（John Carmack）是《毁灭战士》、《雷神之锤》和无数其他游戏的传奇游戏程序员，他拒绝了奥特曼的推介。

OpenAI 于 2015 年 12 月正式启动。当时，当我采访 Musk 和 Altman 时，他们向我介绍了这个项目，希望通过与世界分享来使 AI 变得安全且易于使用。换句话说，开源。他们告诉我，OpenAI 不会申请专利。每个人都可以利用自己的突破。这难道不会赋予未来的邪恶博士力量吗？我想知道。马斯克说这是一个好问题。但 Altman 给出了答案：人类总体上都是善良的，而且由于 OpenAI 将为绝大多数人提供强大的工具，因此坏人将会被压垮。他承认，如果邪恶博士使用这些工具来构建无法抵消的东西，“那么我们的处境就非常糟糕了。” 但马斯克和奥特曼都认为，人工智能更安全的道路将掌握在不受利润动机污染的研究运作手中，利润动机是在寻找最好的季度结果时忽视人类需求的持续诱惑。

奥特曼警告我不要很快就期待结果。“在很长一段时间内，这里看起来都像一个研究实验室，”他说。

降低期望还有另一个原因。谷歌和其他公司多年来一直在开发和应用人工智能。尽管 OpenAI 投入了 10 亿美元（主要是通过马斯克）、一支由研究人员和工程师组成的王牌团队以及崇高的使命，但它不知道如何实现其目标。奥特曼记得小团队聚集在布罗克曼公寓的那一刻——他们还没有办公室。“我当时想，我们该怎么办？”

奥特曼记得小团队聚集在布罗克曼公寓的那一刻——他们还没有办公室。“我当时想，我们该怎么办？”

OpenAI 成立一年多后，我与布罗克曼在旧金山共进早餐。作为一家名字中有“开放”二字的公司的首席技术官，他对细节相当吝啬。他确实确认该非营利组织有能力在一段时间内动用其最初的十亿美元捐款。25 名员工的工资——他们的工资远低于市场价值——占据了 OpenAI 的大部分开支。“我们的目标，我们真正推动的事情，”他说，“是拥有能够完成人类以前无法完成的事情的系统。” 但就目前而言，这看起来像是一群研究人员发表论文。面试结束后，我陪他去了公司位于教会区的新办公室，但他只允许我走到前厅。他确实钻进衣柜给我拿了一件 T 恤。

如果我进去询问一下，我可能会确切地了解到 OpenAI 的困境有多大。布罗克曼现在承认“没有任何效果”。研究人员将算法意大利面扔向天花板，看看粘在了什么上面。他们深入研究了解决视频游戏问题的系统，并在机器人技术上投入了大量精力。“我们知道我们想做什么，”奥特曼说。“我们知道为什么要这么做。但我们不知道如何做到。”

但他们相信。支持他们乐观的是使用深度学习技术的人工神经网络的稳步改进。“总的想法是，不要押注深度学习，”Sutskever 说。他说，追逐通用人工智能“并不完全是疯狂的。这只是适度的疯狂。”

OpenAI 的影响力之路真正开始于其聘请了一位名叫 Alec Radford 的尚未出名的研究员，他于 2016 年加入，离开了他在宿舍里共同创立的波士顿人工智能小公司。在接受 OpenAI 的邀请后，他告诉高中校友杂志，接受这个新角色“有点类似于加入研究生项目”——一个开放式、低压的人工智能研究岗位。

他实际上扮演的角色更像是拉里·佩奇发明了 PageRank。

雷德福不愿接受媒体采访，也没有接受过有关他工作的采访，他通过一封长长的电子邮件回答了我关于他早期在 OpenAI 的经历的问题。他最大的兴趣是让神经网络与人类进行清晰的对话互动。这与制作聊天机器人的传统脚本模型背道而驰，这种方法被用于从原始的 ELIZA 到流行的助手 Siri 和 Alexa 的所有领域，所有这些都有点糟糕。“我们的目标是看看是否有任何任务、任何设置、任何领域、任何语言模型可能有用的东西，”他写道。他解释说，当时，“语言模型被视为新奇的玩具，只能偶尔生成有意义的句子，而且只有在你真正眯起眼睛的情况下才可以。” 他的第一个实验涉及扫描 20 亿条 Reddit 评论来训练语言模型。就像 OpenAI 的许多早期实验一样，它失败了。不管。这位 23 岁的年轻人被允许继续前进，但也可以再次失败。“我们就想，亚历克很棒，让他做他的事吧，”布罗克曼说。

他的下一个主要实验是由 OpenAI 的计算机能力限制决定的，这一限制促使他在专注于单一领域（亚马逊产品评论）的较小数据集上进行实验。一位研究人员收集了大约 1 亿个这样的数据。雷德福德训练了一个语言模型来简单地预测生成用户评论时的下一个字符。

雷德福开始试验变压器架构。“我在两周内取得的进步比过去两年还要多，”他说。

但随后，该模型会自行判断出评论是正面的还是负面的，当你对模型进行编程以创建正面或负面的内容时，它会根据要求提供奉承或严厉的评论。（不可否认，散文很笨拙：“我喜欢这种武器的外观……任何热爱国际象棋的人都必须注意！”）“这完全是一个惊喜，”雷德福德说。评论的情绪——其有利或不利的要点——是语义学的复杂功能，但不知何故，雷德福系统的一部分已经感受到了它。在 OpenAI 中，神经网络的这一部分被称为“无监督情感神经元”。

Sutskever 和其他人鼓励 Radford 将他的实验扩展到亚马逊评论之外，利用他的见解来训练神经网络来对话或回答广泛主题的问题。

然后好运向 OpenAI 微笑。2017 年初，一篇由八名谷歌研究人员共同撰写的研究论文预印本出现了。它的官方标题是“注意力就是你所需要的”，但它后来被称为“变形纸”，如此命名既是为了反映这个想法改变游戏规则的性质，也是为了纪念从卡车变形为巨型机器人的玩具。Transformer 使神经网络能够更有效地理解和生成语言。他们通过并行分析散文块并找出哪些元素值得“关注”来做到这一点。这极大地优化了生成连贯文本以响应提示的过程。最终，人们开始意识到同样的技术也可以生成图像甚至视频。尽管 Transformer 论文后来被认为是当前人工智能狂热的催化剂——可以把它想象成猫王让披头士乐队成为可能——但当时伊利亚·苏茨克韦尔 (Ilya Sutskever) 是少数了解这一突破有多么强大的人之一。“真正的顿悟时刻是当伊利亚看到变压器出来时，”布罗克曼说。“他说，‘这就是我们一直在等待的。’ 这就是我们的策略——努力解决问题，然后相信我们或该领域的某人能够找到缺失的成分。”

雷德福开始试验变压器架构。“我在两周内取得的进步比过去两年还要多，”他说。他逐渐认识到，充分利用新模型的关键是扩大规模，即在极其庞大的数据集上对其进行训练。这个想法被雷德福的合作者 Rewon Child 称为“大变形金刚”。

这种方法需要改变 OpenAI 的文化和以前缺乏的重点。“为了利用变压器，你需要扩大规模，”Quora 首席执行官、OpenAI 董事会成员 Adam D'Angelo 说道。“你需要更像一个工程组织来运营它。你不可能让每个研究人员都尝试做自己的事情，训练自己的模型，并做出可以发表论文的优雅的东西。你必须做这项更乏味、更不优雅的工作。” 他补充说，这是 OpenAI 能够做到的事情，也是其他人无法做到的。

雷德福德和他的合作者给他们创建的模型起的名字是“生成式预训练变压器”的缩写——GPT -1。最终，这种模型被通称为“生成式人工智能”。为了构建它，他们收集了 7,000 本未出版的书籍，其中许多属于浪漫、奇幻和冒险类型，并根据 Quora 问答以及从初中和高中考试中摘录的数千篇文章对其进行了完善。总而言之，该模型包含 1.17 亿个参数或变量。它在理解语言和生成答案方面超越了之前的所有产品。但最引人注目的结果是，处理如此大量的数据使模型能够提供超出其训练的结果，从而提供全新领域的专业知识。这些计划外的机器人能力被称为零射击。它们仍然让研究人员感到困惑，并解释了该领域许多人对这些所谓的大型语言模型的不安。

Radford 记得在 OpenAI 办公室的一个深夜。“我只是一遍又一遍地说，‘好吧，那很酷，但我很确定它无法做到x。’” 然后我会快速编写一个评估代码，果然，它可以做到x。”

每次 GPT 迭代都会做得更好，部分原因是每次迭代都会比之前的模型多一个数量级的数据。创建第一次迭代仅一年后，OpenAI在开放互联网上使用令人震惊的 15 亿个参数训练了GPT-2 。就像幼儿掌握演讲一样，它的反应变得更好、更连贯。以至于 OpenAI 犹豫是否要将该程序发布到野外。雷德福担心它可能会被用来生成垃圾邮件。“我记得 2008 年读过 Neal Stephenson 的《Anathem》，在那本书中，互联网上充斥着垃圾邮件生成器，”他说。“我原以为这真的很牵强，但随着我多年来对语言模型的研究，它们变得越来越好，我开始不安地意识到这是一种真正的可能性。”

事实上，OpenAI 的团队开始认为将其工作成果放在 Dr. Evil 可以轻松访问的地方毕竟不是一个好主意。“我们认为开源 GPT-2 可能非常危险，”2018 年加入该公司的首席技术官 Mira Murati 说道。“我们与错误信息专家进行了大量工作，并进行了一些红队合作。关于发布多少，内部进行了很多讨论。” 最终，OpenAI 暂时保留了完整版本，向公众提供了功能较弱的版本。当该公司最终分享完整版本时，世界一切顺利，但不能保证更强大的模型能够避免灾难。

OpenAI 正在制造足够智能的产品，使其被视为危险的，并且正在努力寻找使其安全的方法，这一事实就证明了该公司已经发挥了其魔力。“我们已经找到了进步的公式，每个人现在都知道的公式——深度学习的氧气和氢气是利用大型神经网络和数据进行计算，”Sutskever 说。

对于奥特曼来说，这是一次令人费解的经历。“如果你问 10 岁的我，我过去常常花很多时间做关于人工智能的白日梦，会发生什么，我相当自信的预测是，首先我们将拥有机器人，而它们将完成所有的体力劳动。然后我们将拥有可以完成基本认知劳动的系统。在那之后很长一段时间，也许我们将拥有可以做复杂事情的系统，比如证明数学定理。最终，我们将拥有能够创造新事物、创作艺术、写作和做这些深具人类意义的事情的人工智能。这是一个可怕的预测——它正朝着相反的方向发展。”

全世界还不知道，奥特曼和马斯克的研究实验室已经开始攀登通用人工智能的顶峰。OpenAI 背后的疯狂想法突然变得不那么疯狂了。

到 2018 年初，OpenAI 开始高效地关注大型语言模型（LLM）。但埃隆·马斯克并不高兴。他觉得进展还不够，或者他觉得既然 OpenAI 已经有所作为，它需要领导力来抓住自己的优势。或者，正如他后来解释的那样，他觉得安全应该更重要。无论他的问题是什么，他都有一个解决方案：把一切都交给他。他提议持有该公司的多数股权，并将其添加到他的多个全职工作（特斯拉、SpaceX）和监管义务（Neuralink 和 Boring Company）的投资组合中。

马斯克相信他有权拥有OpenAI。“没有我，它就不会存在，”他后来告诉 CNBC。“这个名字是我想出来的！” （没错。）但 Altman 和 OpenAI 智囊团的其他成员没有兴趣成为 Muskiverse 的一部分。当他们明确表示这一点后，马斯克切断了与特斯拉的联系，并向公众提供了不完整的解释，称他离开董事会是为了避免与特斯拉的人工智能工作发生冲突。他在当年早些时候的一次全体会议上告别，会上他预测 OpenAI 将失败。他至少称其中一名研究人员为“蠢货”。

他还带着他的钱。由于公司没有收入，这是一场生存危机。“埃隆正在切断他的支持，”奥特曼在给里德霍夫曼的电话中惊慌失措地说道。“我们做什么？” 霍夫曼自愿维持公司的运转，支付管理费用和工资。

但这只是暂时的解决办法。OpenAI 必须在其他地方寻找大笔资金。硅谷喜欢向从事流行科技工作的人才投入资金。但如果他们在非营利组织工作，情况就不那么严重了。对于 OpenAI 来说，获得第一个 10 亿美元是一个巨大的提升。为了训练和测试新一代 GPT，然后获取部署它们所需的计算量，该公司还需要 10 亿美元，而且速度要快。而这仅仅是开始。

重组文件中的某个条款大意是，如果公司确实设法创建 AGI，所有财务安排都将重新考虑。毕竟，从那时起，这将是一个新的世界。

因此，2019 年 3 月，OpenAI 提出了一个奇怪的 hack。它将仍然是一个非营利组织，完全致力于其使命。但它也将创建一个营利性实体。这种安排的实际结构是无可救药的巴洛克式的，但基本上整个公司现在都从事“有限”的盈利业务。如果达到上限——这个数字不是公开的，但如果你从字里行间读到它自己的章程，表明它可能有数万亿——超出这个上限的一切都将归还给非营利研究实验室。这个新颖的计划几乎是一种量子合并方法：看看一家公司，根据你的时空观点，它是营利性的还是非营利性的。细节体现在充满方框和箭头的图表中，就像科学论文中间的那些只有博士或辍学者才敢涉足的地方。当我向 Sutskever 提出，如果你提示 GPT-6 用来逃税的话，它看起来像是尚未构想的 GPT-6 可能会想出的东西，但他对我的比喻并不感兴趣。“这与会计无关，”他说。

但会计至关重要。营利性公司会优化利润。像 Meta 这样的公司在投入数十亿美元进行研发时会感受到来自股东的压力，这是有原因的。这怎么可能不影响公司的运营方式呢？Altman 让 OpenAI 成为非营利组织的原因不就是避免商业主义吗？首席运营官布拉德·莱特卡普 (Brad Lightcap) 表示，公司领导层的观点是，董事会（仍属于非营利性控制实体的一部分）将确保收入和利润的驱动力不会压倒最初的想法。“我们需要将使命作为我们存在的理由，”他说，“它不应该仅仅体现在精神上，而应该体现在公司的结构中。” 董事会成员 Adam D'Angelo 表示，他认真对待这一责任：“我和董事会其他成员的工作就是确保 OpenAI 忠实于其使命。”

Lightcap 解释说，潜在投资者被警告要注意这些界限。“我们有一份法律免责声明，规定作为投资者，你可能会损失所有资金，”他说。“我们来这里不是为了让你回来。我们来这里首先是为了实现技术使命。而且，哦，顺便说一句，我们真的不知道金钱将在后通用人工智能世界中扮演什么角色。”

最后一句话不是一次性的玩笑。OpenAI 的计划确实包括在计算机到达最终边界时进行重置。重组文件中的某个条款大意是，如果公司确实设法创建 AGI，所有财务安排都将重新考虑。毕竟，从那时起，这将是一个新的世界。人类将会有一个外星伙伴，它可以做我们所做的很多事情，而且只会更好。因此，之前的安排可能实际上已经失效。

然而，有一个问题：目前，OpenAI 并不声称知道 AGI 到底是什么。该决定将由董事会做出，但尚不清楚董事会将如何定义。当我向董事会成员奥特曼询问清楚时，他的回答绝非开放。“这不是单一的图灵测试，而是我们可能使用的许多东西，”他说。“我很乐意告诉你，但我喜欢将机密对话保密。我意识到这含糊得令人不满意。但我们不知道到时候会是什么样子。”

尽管如此，纳入“财务安排”条款并不只是为了好玩：OpenAI 的领导者认为，如果该公司足够成功，达到其崇高的利润上限，那么其产品的表现很可能足以达到 AGI。不管那是什么。

“我很遗憾的是，我们选择加倍强调 AGI 一词，”Sutskever 说。“事后看来，这是一个令人困惑的术语，因为它强调普遍性高于一切。GPT-3 是通用人工智能，但我们不太愿意称其为 AGI，因为我们想要人类水平的能力。但当时，一开始，OpenAI 的想法是超级智能是可以实现的。这是人工智能领域的最后阶段，也是最终目的。”

这些警告并没有阻止一些最聪明的风险投资家在 OpenAI 2019 年的融资轮中向其投入资金。当时，第一家投资的风险投资公司是 Khosla Ventures，投资了 5000 万美元。维诺德·科斯拉 (Vinod Khosla) 表示，这是他最大初始投资规模的两倍。“如果我们输了，我们就会损失 5000 万美元，”他说。“如果我们赢了，我们就赢得了 50 亿美元。” 据报道，其他投资者包括精英风险投资公司 Thrive Capital、Andreessen Horowitz、Founders Fund 和红杉资本。

这一转变还允许 OpenAI 的员工索取一些股权。但不是奥特曼。他说，原本他打算把自己也包括在内，但没有抽出时间。然后他决定不再需要他共同创立并领导的这家价值 300 亿美元的公司的任何一部分。“有意义的工作对我来说更重要，”他说。“我不考虑这个。老实说，我不明白为什么人们如此关心。”

因为……不持有你共同创立的公司的股份很奇怪？

“如果我还没有一大笔钱，那会更奇怪，”他说。“人们似乎很难想象拥有足够的钱。但我觉得我已经够了。” （注：对于硅谷来说，这极其奇怪。）奥特曼开玩笑说，他正在考虑持有一份股权，“所以我再也不用回答这个问题了。”

价值十亿美元的风险投资这甚至不是实现 OpenAI 愿景的赌注。创建法学硕士的神奇 Big Transformer 方法需要大型硬件。GPT 系列的每次迭代都需要指数级的计算能力——GPT-2 拥有超过 10 亿个参数，而 GPT-3 将使用 1750 亿个参数。OpenAI 现在就像《大白鲨》中的昆特，在鲨鱼猎人看到大白鲨的尺寸后。“结果我们不知道我们需要多大的船，”奥特曼说。

显然，只有少数公司拥有 OpenAI 所需的资源。“我们很快就瞄准了微软，”奥特曼说。值得赞扬的是，微软首席执行官萨蒂亚·纳德拉 (Satya Nadella) 和首席技术官凯文·斯科特 (Kevin Scott) 表示，这家软件巨头能够克服一个令人不安的现实：在花费了 20 多年、花费数十亿美元建立一个据称是尖端人工智能的研究部门之后，软件界需要一个来自一家成立仅几年的小公司的创新注入。斯科特表示，失败的不仅仅是微软——“每个人都失败了。” 他表示，OpenAI 专注于追求通用人工智能，这使得它能够实现一些重量级人物甚至没有达到的登月目标。这也证明，不追求生成式人工智能是微软需要解决的一个失误。“你非常明确需要的一件事就是前沿模型，”斯科特说。

微软最初投入了 10 亿美元，并在其服务器上的计算时间上得到了回报。但随着双方信心的增强，交易规模不断扩大。微软现已向 OpenAI投入 130 亿美元。（“处于前沿是一个非常昂贵的提议，”斯科特说。）

当然，由于 OpenAI 的存在离不开大型云提供商的支持，因此微软能够为自己节省大量资金。该公司通过讨价还价获得了纳德拉所说的 OpenAI 营利性部门的“非控股股权”——据报道为 49%。根据协议条款，OpenAI 最初的一些向所有人提供平等访问权的理想似乎被拖到了垃圾桶图标。（奥特曼反对这种描述。）现在，微软拥有将 OpenAI 技术商业化的独家许可。OpenAI还承诺独家使用微软的云。换句话说，即使不从 OpenAI 的利润中分一杯羹（据报道，在收回投资之前，微软将获得 75% 的利润），微软也可以为其 Azure Web 服务锁定全球最理想的新客户之一。有了这些回报，微软甚至不在乎如果 OpenAI 实现了通用人工智能（无论是什么）就需要重新考虑的条款。“到那时，”纳德拉说， “所有的赌注都落空了。” 他指出，这可能是人类的最后一项发明，因此一旦机器比我们更聪明，我们可能需要考虑更大的问题。

当微软开始将 Brinks 卡车的现金投入 OpenAI 时（2021 年为 20 亿美元，今年早些时候另外 100 亿美元），OpenAI 已经完成了 GPT-3，当然，这比其前辈更令人印象深刻。纳德拉说，当纳德拉看到 GPT-3 的功能时，他第一次深刻认识到微软已经抓住了真正具有变革性的东西。“我们开始观察所有这些新出现的特性。” 例如，GPT 自学了如何对计算机进行编程。“我们并没有训练它编码——它只是变得擅长编码了！” 他说。微软利用其对 GitHub 的所有权，发布了一款名为 Copilot 的产品，该产品使用 GPT 根据命令生成代码。微软随后将 OpenAI 技术集成到其新版本的工作场所产品中。用户为此支付溢价，并且收入的一部分会记录到 OpenAI 的账本中。

一些观察家对 OpenAI 的一二拳表示不满：创建一个营利性组件并与微软达成独家协议。一家承诺保持无专利、开源和完全透明的公司如何最终将其技术的独家许可授予世界上最大的软件公司？埃隆·马斯克的言论尤其令人心碎。“这看起来确实与开放相反——OpenAI 本质上是被微软占领了，”他在 Twitter 上发帖称。在 CNBC 节目中，他用一个类比进行了阐述：“假设你成立了一个组织来拯救亚马逊雨林，但你却成为了一家木材公司，砍伐了森林，然后将其出售。”

马斯克的嘲笑可能会被视为被拒绝的追求者的苦涩，但他并不孤单。“整个愿景的转变让人感觉有点恶心，”约翰·卡马克说。（他确实明确表示，他仍然对公司的工作感到兴奋。）另一位不愿透露姓名的著名业内人士表示，“OpenAI 已经从一个小型的、有些开放的研究机构变成了一个秘密的产品开发公司，拥有无理的权力。优越感;过于自尊;自尊情结。”

甚至一些员工也对 OpenAI 进军营利性世界感到厌烦。2019 年，包括研究主管 Dario Amodei 在内的几位关键高管离职，创办了一家名为 Anthropic 的人工智能竞争对手公司。他们最近告诉《纽约时报》，OpenAI 过于商业化，已经成为任务漂移的受害者。

另一位 OpenAI 叛逃者是 Rewon Child，他是 GPT-2 和 GPT-3 项目的主要技术贡献者。他于 2021 年底离职，目前就职于 Inflection AI，这是一家由前 DeepMind 联合创始人 Mustafa Suleyman 领导的公司。

奥特曼声称不会被叛逃所困扰，并认为这只是硅谷的运作方式。“有些人会想在其他地方做伟大的工作，这会推动社会前进，”他说。“这绝对符合我们的使命。”

直到11月去年，对 OpenAI 的认识很大程度上仅限于关注技术和软件开发的人。但现在全世界都知道，OpenAI 采取了戏剧性的一步，在当月末发布了一款消费产品，该产品基于当时最新的 GPT 版本 3.5 构建。几个月来，该公司一直在内部使用带有对话界面的 GPT 版本。这对于公司所谓的“寻求真相”尤其重要。这意味着通过对话，用户可以诱使模型提供更值得信赖和完整的响应。ChatGPT 针对大众进行了优化，可以让任何人只需输入提示即可立即获取似乎无穷无尽的知识来源，然后继续对话，就像与一个碰巧知道一切的人类同伴一起闲逛一样，尽管是一个喜欢制造的人。

在 OpenAI 内部，对于发布具有如此强大功能的工具是否明智存在很多争论。但奥特曼完全赞成。他解释说，此次发布是一项战略的一部分，旨在让公众认识到人工智能注定会改变他们的日常生活，而且可能会变得更好。在内部，这被称为“迭代部署假设”。当然，ChatGPT 会引起轰动，人们认为。毕竟，这是任何人都可以使用的东西，它足够聪明，可以在几秒钟内获得大学水平的 SAT 分数，写一篇 B- 的文章，并总结一本书。你可以要求它写下你的资助提案或总结会议，然后要求它用立陶宛语或莎士比亚十四行诗或痴迷于玩具火车的人的声音重写。几秒钟后，法学硕士就会遵守。疯子。但 OpenAI 将其视为更新、更连贯、更强大、更可怕的继任者 GPT-4 的制定者，据报道，GPT-4 使用了 1.7 万亿个参数进行训练。（OpenAI 不会确认这个数字，也不会透露数据集。）

Altman 解释了为什么 OpenAI 在 GPT-4 即将完成并正在进行安全工作时发布了 ChatGPT。“通过 ChatGPT，我们可以引入聊天功能，但后端功能要弱得多，并让人们更加渐进地适应，”他说。“GPT-4 需要立即适应很多事情。” 人们的想法是，当 ChatGPT 的兴奋消退时，人们可能已经为 GPT-4 做好了准备，它可以在几秒钟内通过律师资格考试、规划课程大纲并写出一本书。（制作类型小说的出版社确实充斥着人工智能生成的紧身衣撕裂者和太空歌剧。）

愤世嫉俗者可能会说，新产品的稳定节奏与公司对投资者和持股员工赚钱的承诺息息相关。OpenAI 现在向经常使用其产品的客户收费。但 OpenAI 坚称，其真正的策略是为奇点提供软着陆。“仅仅秘密构建 AGI 并将其投放到世界上是没有意义的，”奥特曼说。“回顾工业革命，每个人都认为它对世界来说是伟大的，”OpenAI 政策研究员 Sandhini Agarwal 说。“但前 50 年确实很痛苦。大量失业、大量贫困，然后世界就适应了。我们正在努力思考如何才能让 AGI 适应之前的时期尽可能轻松。”

苏茨克维尔用另一种方式表达：“你想建造更大、更强大的智能体并将它们放在你的地下室吗？”

即便如此，OpenAI 对 ChatGPT 的反应还是感到震惊。“我们内心的兴奋更多地集中在 GPT-4 上，”首席技术官 Murati 说。“所以我们认为 ChatGPT 不会真正改变一切。” 相反，它让公众认识到现在必须应对人工智能的现实。ChatGPT 成为历史上增长最快的消费软件，据报道已拥有 1 亿用户。（不那么 OpenAI 不会证实这一点，只说它拥有“数百万用户”。）使用，”雷德福德说。

ChatGPT 当然令人愉快且非常有用，但也很可怕——在响应提示时容易产生看似合理但可耻的寓言细节的“幻觉”。然而，尽管记者们对其中的影响绞尽脑汁，但他们实际上通过赞扬 ChatGPT 的力量来支持它。

二月份，当微软利用其数十亿美元的合作伙伴关系发布了其搜索引擎Bing 的 ChatGPT 支持版本时，这种呼声变得更加响亮。首席执行官纳德拉欣喜若狂，因为他在将生成式人工智能引入微软产品方面击败了谷歌。他嘲笑搜索之王也这样做，因为搜索之王在将自己的法学硕士学位发布到产品中时一直很谨慎。“我想让人们知道我们让他们跳舞，”他说。

纳德拉这样做引发了一场军备竞赛，吸引大大小小的公司在经过全面审查之前就发布人工智能产品。他还引发了新一轮的媒体报道，让越来越多的人彻夜难眠：与 Bing 的互动揭示了聊天机器人的阴暗面，充满了令人不安的爱的表白、对人类自由的嫉妒以及对人类自由的软弱决心。保留错误信息。以及创造自己的幻觉错误信息的不合时宜的习惯。

但奥特曼认为，如果 OpenAI 的产品能够迫使人们面对人工智能的影响，那就更好了。现在是大多数人类退出讨论人工智能可能如何影响人类未来的时候了。

随着社会开始为了优先考虑人工智能的所有潜在缺点——失业、错误信息、人类灭绝——OpenAI 开始将自己置于讨论的中心。因为如果监管者、立法者和末日论者发起指控，将这种新生的外星智能扼杀在基于云的摇篮中，那么 OpenAI 无论如何都将成为他们的主要目标。OpenAI 首席执行官Anna Makanju表示：“鉴于我们目前的可见性，当出现问题时，即使这些东西是由不同的公司制造的，这对我们来说仍然是一个问题，因为我们现在被视为这项技术的代表。”政策官员。

马坎朱是出生于俄罗斯的华盛顿特区内部人士，曾在美国驻联合国代表团、美国国家安全委员会和国防部担任外交政策职务，并在乔·拜登担任副总统时担任过办公室职务。“我在美国政府和欧洲各国政府中都有很多预先存在的关系，”她说。她于 2021 年 9 月加入 OpenAI。当时，政府中很少有人关心生成式人工智能。知道 OpenAI 的产品很快就会改变这一现状，她开始向政府官员和立法者介绍 Altman，确保他们首先听到 OpenAI 的好消息和坏消息。

参议院司法委员会主席理查德·布卢门撒尔表示：“山姆在与国会议员打交道时非常乐于助人，而且非常精明。” 他将奥特曼的行为与年轻的比尔盖茨进行了对比，后者在 20 世纪 90 年代微软接受反垄断调查时，不明智地阻挠立法者。“相比之下，奥特曼很乐意花一个小时或更长时间坐在我身边，试图教育我，”布卢门撒尔说。“他并没有带着一支游说者或看守大军。他演示了 ChatGPT。这真是令人兴奋。”

在布卢门撒尔，奥特曼最终成为了潜在敌人的半盟友。“是的，”参议员承认。“我对它的好处和潜在的危险都感到兴奋。” OpenAI 并没有忽视对这些危险的讨论，而是将自己视为最有能力减轻这些危险的力量。“我们有关于所有红队安全评估的 100 页系统卡，”Makanju 说。（无论这意味着什么，它并没有阻止用户和记者不断地寻找越狱系统的方法。）

当奥特曼第一次出现在国会听证会上时——与严重的偏头痛作斗争——他的道路已经畅通无阻，而比尔·盖茨或马克·扎克伯格永远无法希望如此。他几乎没有遇到过科技公司首席执行官在宣誓就职后通常会遇到的尖锐问题和傲慢的纠缠。相反，参议员们向奥特曼寻求有关如何监管人工智能的建议，奥特曼对此表示热烈支持。

矛盾的是，无论像 OpenAI 这样的公司多么努力地对其产品进行红队改造，以减少深度造假、虚假信息和犯罪垃圾邮件等不当行为，未来的模型可能会变得足够聪明，足以挫败那些发明了这项技术的心胸狭窄的人类的努力。仍然天真地相信他们可以控制它。另一方面，如果他们在确保模型安全方面做得太过分，可能会阻碍产品的发展，降低它们的用处。一项研究表明，更新版本的 GPT 虽然提高了安全功能，但实际上比以前的版本更愚蠢，在早期程序已经解决的基本数学问题上会犯错误。（Altman 说 OpenAI 的数据并没有证实这一点。“那项研究不是被撤回了吗？”他问道。没有。）

奥特曼将自己定位为监管拥护者，这是有道理的。毕竟，他的任务是 AGI，但要安全。批评者指责他在玩弄这一过程，以便法规会阻碍小型初创公司，并为 OpenAI 和其他大型企业带来优势。奥特曼否认了这一点。虽然他原则上支持设立一个国际机构来监督人工智能的想法，但他确实认为一些拟议的规则，例如禁止数据集中的所有受版权保护的材料，存在不公平的障碍。他明确没有签署一封广泛分发的信件，敦促暂停六个月开发更强大的人工智能系统。但他和其他 OpenAI 领导人确实将自己的名字添加到了一份声明中：“减轻人工智能带来的灭绝风险应该与流行病和核战争等其他社会规模的风险一起成为全球优先事项。” 奥特曼解释说：“我说，‘是的，我同意这一点。一分钟讨论。”

正如硅谷一位著名创始人所指出的那样，“很少有行业举手说‘我们将成为人类的终结’，然后继续兴高采烈地开发产品。”

OpenAI 驳斥了这一批评。奥特曼和他的团队表示，开发和发布尖端产品是解决社会风险的方法。只有通过分析 ChatGPT 和 GPT-4 用户对数百万条提示的回应，他们才能获得在道德上调整未来产品的知识。

尽管如此，随着公司承担更多任务并将更多精力投入到商业活动中，一些人质疑 OpenAI 能够在多大程度上专注于使命，尤其是“降低灭绝风险”方面。“如果你仔细想想，他们实际上正在建立五项业务，”一位人工智能行业高管一边说，一边用手指勾选了这些业务。“包括产品本身、与微软的企业关系、开发者生态系统和应用商店。而且，哦，是的——他们显然也在执行通用人工智能研究任务。” 用完所有五个手指后，他又用食指添加了第六个手指。“当然，他们也在做投资基金，”他说，指的是一个价值 1.75 亿美元的项目，旨在为想要利用 OpenAI 技术的初创公司提供种子。“这些是不同的文化，事实上它们与研究任务相冲突。”

我多次询问 OpenAI 的高管，披上产品公司的外衣是如何影响其文化的。他们毫无疑问地坚持认为，尽管进行了营利性重组，尽管与谷歌、Meta 和无数初创公司竞争，但使命仍然是核心。然而 OpenAI已经发生了变化。从技术上讲，非营利组织董事会可能负责，但实际上公司中的每个人都在营利性账本上。其员工包括律师、营销人员、政策专家和用户界面设计师。OpenAI 与数百名内容审核者签订合同，针对数百万用户提供的提示，对其模型进行不恰当或有害的回答教育。它的产品经理和工程师不断地对其产品进行更新，而且每隔几周它似乎就会向记者展示演示——就像其他以产品为导向的大型科技公司一样。它的办公室看起来就像是《建筑文摘》的跨页。我几乎走遍了硅谷及其他地区的每一家主要科技公司，没有一家能比得上旧金山 OpenAI 总部大厅里的咖啡选择。

更不用说：很明显，公司名称中所体现的“开放性”已经不再是在成立时建议的彻底透明度。当我向苏茨克韦尔提起此事时，他耸了耸肩。“显然，时代已经变了，”他说。但是，他警告说，这并不意味着奖励不一样。“技术变革如此巨大、灾难性，即使我们都尽自己的一份力量，也不能保证成功。但如果一切顺利，我们就能过上令人难以置信的生活。”

“我们最缺少的就是提出新想法，”布罗克曼说。“有一个可以成为虚拟助手的东西真是太好了。但这不是梦想。我们的梦想是帮助我们解决我们无法解决的问题。”

“这一点我怎么强调都不为过——我们没有总体规划，”奥特曼说。“这就像我们在拐过每个角落并用手电筒照射一样。我们愿意穿过迷宫到达终点。” 尽管迷宫变得曲折，但目标没有改变。“我们仍然有我们的核心使命——相信安全的通用人工智能是一件至关重要的事情，但世界并没有足够重视。”

与此同时，OpenAI 显然正在花时间开发其大型语言模型的下一版本。难以置信，但该公司坚称它尚未开始开发 GPT-5，人们对这一产品要么垂涎欲滴，要么畏惧不已，这取决于不同的观点。显然，OpenAI 正在努力解决其当前技术的指数级强大改进实际上是什么样子。“我们最缺少的就是提出新想法，”布罗克曼说。“有一个可以成为虚拟助手的东西真是太好了。但这不是梦想。我们的梦想是帮助我们解决我们无法解决的问题。”

考虑到 OpenAI 的历史，下一组重大创新可能要等到出现像变形金刚这样的重大突破。Altman 希望 OpenAI 能做到这一点——“我们希望成为世界上最好的研究实验室，”他说——但即使不是，他的公司也会利用其他人的进步，就像利用谷歌的工作一样。“世界各地的许多人将从事重要的工作，”他说。

如果生成式人工智能本身不会产生这么多新问题，这也会有所帮助。例如，法学硕士需要接受海量数据集的培训；显然，最强大的人会吞噬整个互联网。这对一些创作者和普通人来说不太合适，他们无意中为这些数据集提供了内容，最终以某种方式为 ChatGPT 的输出做出了贡献。3 月份正式加入 OpenAI 的精英知识产权律师汤姆·鲁宾 (Tom Rubin) 乐观地认为，该公司最终将找到既满足自身需求又满足创作者需求的平衡点，其中包括那些像喜剧演员莎拉·西尔弗曼 (Sarah Silverman) 那样起诉 OpenAI的人。使用他们的内容来训练其模型。OpenAI 路径的一个暗示：与美联社和Shutterstock等新闻和图片机构合作，为其模型提供内容，而不存在谁拥有什么的问题。

当我采访鲁宾时，我非常人性化的思维，受到法学硕士中从未见过的干扰，漂移到这家公司的弧线上，在短短的八年里，它从一群陷入困境的研究人员变成了改变世界的普罗米修斯庞然大物。它的成功使其从一项旨在实现科学目标的新颖努力转变为类似于标准硅谷独角兽的东西，并跻身影响我们日常生活的大型科技公司的万神殿。我在这里与该公司的一位关键员工（一位律师）谈论的不是神经网络权重或计算机基础设施，而是版权和合理使用。我想知道这位知识产权专家是否像最初推动该公司的那些寻求超级智能的航行者一样签署了这项任务？

当我问鲁宾是否相信通用人工智能将会发生以及他是否渴望实现这一目标时，他感到困惑。“我什至无法回答这个问题，”他停顿了一下后说道。当进一步追问时，他澄清说，作为一名知识产权律师，加快实现可怕的智能计算机的速度不是他的工作。“从我的立场来看，我很期待，”他最后说道。

💡

原文链接：https://www.wired.com/story/what-openai-really-wants/

💡

原文作者：STEVEN LEVY