想要改变一切的 OpenAI，正在被改变
2023-11-18 08:16:31 Author: 爱范儿(查看原文) 阅读量:5 收藏
《华尔街日报》援引知情人士报道称，OpenAI 在和投资人讨论出售股票的可能性，这可能会将该公司的估值提升至 800-900 亿美元。
如果这成为现实，OpenAI 将成为世上其中一家价值最高的非上市公司。
早已经成为新一轮 AI 浪潮代名词的「GPT」，预计很快将能为公司带来超过 10 亿美元的营收。
但这离 OpenAI 想要的还差很远。
他们说，自己唯一想做的，是去建造足够聪明和安全的计算机来终结历史，把人类带入一个我们难以想象的慷慨时代。
著名科技记者 Steven Levy 写道。他从 OpenAI 成立之初就开始关注这家公司，前段时间更是跟着 Sam Altman 到各国进行演说。
Levy 在最近的特稿中，向我们展示了 OpenAI 的发展历程和众多重要决策的内部景象，也提出了一个疑问：立志要以 AGI（通用人工智能）改变一切的 OpenAI，现在还是最初的它吗？
「信徒」集结
AGI 像是一种「信仰」。
没有人知道它具体是怎样的，在相信它能被制造的人心中，它能比人类更好地解决人类的问题。
当它出现后，人类社会将被永久地改变。Sam Altman 相信：
AGI 只会被成功地建造出来一次。
拥有着看似「标准技术天才」的人生，Altman 在 28 岁时就走完了学习技术、创业、投资的道路，成为了著名孵化器 Y Combinator 的总裁。
在他看来，投资创业公司不是为了获得高额回报，而是在投资和推动有潜力颠覆一切的创新。
正是在 Altman 开始掌管 Y Combinator 那年，AI 迎来了众多突破 —— 深度学习和神经网络让计算机能「看懂」图片，更好地翻译文本；DeepMind 被 Google 收购，并在两年后以 AlphaGo 颠覆人们对 AI 的想象。
是时候了。
Altman 想创立一种新型的机构，抢先大公司追寻 AGI，并确保这个技术能被负责任、安全地使用。
他从马斯克、LinkedIn 联合创始人 Reid Hoffman、PayPal 联合创始人 Peter Thiel、Y Combinator 创始合伙人 Jessica Livingston 募得首批启动资金，开始为 OpenAI 物色人才。
Altman 只要真正相信 AGI 的人：
在 2015 年，我们招人的时候，AI 研究员如果说自己真会认真看待 AGI，这基本上会毁了你的职业生涯。
但我就是想要那些认真看待 AGI 的人。
当时在支付公司 Stripe 担任 CTO 的 Greg Brockman 就是那样的人。另外，Google Brain 的 Andrej Karpathy 也成为了 OpenAI 的联合创始人。
但要说到 Altman 其中一个最想要的，还是工程师 Ilya Sutskever。在未来，他也将是那个最早看到 AI 新曙光的人。
Sutskever 是「人工智能教父」Geoffrey Hinton 的得意门生，2015 年时是 Google Brain 的其中一位核心科学家。
Ilya Sutskever
Altman 的招人方式很特别。
他先是写了封邮件，邀请 Sutskever 一起吃饭，同行的还有马斯克、Brockman 和其他人。在饭桌上，没人明确邀请 Sutskever 加入 OpenAI，只是在讨论「AI 和未来的 AGI」。
Sutskever「上钩」了。
他回家给 Altman 写了封邮件，表示了自己加入的意愿。然而，邮件却一不小心卡在了草稿箱里。直到 Altman 开始主动伸出橄榄枝，Sutskever 才最终加入了 OpenAI。
2015 年 12 月，OpenAI 正式成立。
它相信 AGI 终会来临，它要以开源的方式，让所有人都能安全地使用 AI。
直到现在，OpenAI 的团队规模已经从最开始的几人变成了 500 多人，「相信 AGI 终会到来」仍然是团队成员的共识 —— 至少在公司高管眼中是这样看的:
一个不相信的人，为什么会想在这里工作？
象牙塔
理想化的起源让 OpenAI 像象牙塔一般。
没什么能比和志同道合、充满才华的同事一起朝着同一个目标努力更快乐的了，不是吗？
我说，我们应该怎样做？
Altman 早期在 CTO Brockman 家和一小队人碰面时表示，坦露了自己的困惑。
现实是，OpenAI 在挺长一段时间里也如此迷惘。
OpenAI 成立一年多后，Brockman 曾和 Levy 会面，前者对公司的进展守口如瓶，只是说「我们的目标，是创造能做到人类从前无法做到的事情的系统。」
Greg Brockman
而从外界看来，OpenAI 就更像一个实验室，发表各种研究论文。
Brockman 现在承认，当时其实「什么都行不通」。研究员们在尝试研究各种算法，一边看看能解游戏的技术，另一边也投入不少精力研究机器人。Altman 说：
我们知道我们想做什么。
我们知道为什么我们想做这件事。
但我们就是完全不知道该怎样去做。
Sutskever 则有自己的思路：
大概主旨就是，不要和深度学习作对。
就在这个相对纯粹的环境下，研究员们各自进行着各自的尝试和实验。
2016 年加入 OpenAI 的研究员 Alec Radford 曾对外形容，在 OpenAI 里工作「就像是加入了一个研究生项目」 —— 一个开放的，压力较低的研究 AI 的空间。
OpenAI 的办公室也有这种感觉。
在旧金山总部里，Altman 设置了大学风格的食堂、自助吧台，还有一个图书馆。
这个图书馆融合了 Altman 在巴黎最喜欢的书店和斯坦福自习室 Bender Room 的模样。
当时还名不经传的 Radford 喜欢研究神经网络与人类对话的项目。最开始，他尝试用 20 亿 Reddit 评论去训练一个语言模型，结果并不理想。
但当时 Radford 才 23 岁，而且在 OpenAI 里，人们有失败并继续尝试的资本。Brockman 回忆：
我们当时的态度基本是，Alce 很棒，让他去做自己的事就好了。
因 OpenAI 算力支持有限，Radford 下一个项目尝试用更集中和更小的数据集 —— 约 1 亿条亚马逊产品评论。
Radford 给语言模型的任务很直接，就是在生成评论时预测下一个单词。接下来，模型居然能够根据要求去写出正面和负面的评论：
「这完全就是意外」，Radford 说，他完全没想到系统能明白正面/负面的感觉，这可是语义中的一个复杂功能。
Alec Radford
Sutskever 鼓励 Radford 去继续探索这个试验，看看它能否在不同领域适用。
2017 年，那篇将改变一切的论文出现了—— 「Attention Is All You Need」。
那个真正的「顿悟时刻（aha moment）」是 Ilya 看到了 transformer 论文发布。
他说，「我们在等的就是这个。」
Brockman 回忆道。在他看来，这个过程也反映了 OpenAI 的工作理念：
这一直都是我们的策略 —— 去尽力解决问题，然后相信我们或者领域里的其他人终会想到我们缺失的那一块。
Radford 开始将 Transformer 架构融入试验中：「我在两周里的获得的进展比过去两年的还要多。」他意识到新模型的关键就在于量，要给模型大量数据。
Radford 和合作者给自己的新模型命名为「generatively pretrained transformer（生成式预训练转换器）」，也就是「GPT-1」。
GPT 登场，OpenAI 也开始走向改变。
分道扬镳
关于做到安全 AGI 的最好方式，他们有和我们不同的意见。
对于研究主管 Dario Amodei 于 2019 年离开团队并创立 Anthropic，Altman 曾如此对《华尔街报道》评论道。
Dario Amodei 和 Daniela Amodei 联合创立了 Anthropic
2021 年，GPT-2 和 GPT-3 项目的主要技术负责人 Rewon Child 也离开 OpenAI，现为 DeepMind 联合创始人 Mustafa Suleyman 创立的 Inflection AI。
当然，OpenAI 最著名的「前伙伴」，还数马斯克。
回到 2018 年，当时 OpenAI 已经开始主攻大语言模型，把资源从过往自由零散的研究中收回。
然而，马斯克还是觉得一切太低效了，或者是 OpenAI 需要更好的领导能力，后来他又在采访里说认为安全性应该被放在更重要的位置。
无论情况如何，当时他提出的解决方案很直接 —— 让他来接管 OpenAI。
结果大家都知道，马斯克也离开了 OpenAI，并且把资金也撤了。
作为过渡，同样是在早期就赞助了 OpenAI 的 Reid Hoffman 同意暂时出钱支持公司支出。
Reid Hoffman
Altman 虽被称为硅谷千禧一代里拥有关系最多的人，但要为一个需要用大量资金购买设备支持 AI 训练的非营利组织筹资可不容易。
2019 年 3 月，OpenAI 宣布了一套新的公司结构。
OpenAI 将维持其非营利的性质，但同时会创立一家「利润封顶（caped-profit）」的营利公司 OpenAI LP。
当 OpenAI 为投资者带来的利润达到封顶值（具体数字不公开），所有额外利润都将投入到非营利公司的研究中。
这个复杂的结构引来不少质疑，OpenAI 董事会成员 Adam D’Angelo 表示，他和董事会的任务是要保证 OpenAI 仍然保持其原有目标路径：
我们有一个法律免责声明来澄清，作为一个投资者，你有可能会失去你投入所有的钱。
我们的存在不是为了给你赚钱。我们是为了实现一个技术目标，这是最重要的。
顺便说句，我们不知道金钱在「后 AGI」时代会变成怎样。
D’Angelo 最后说的，听起来有点像调侃，但却是一条实际存在的条款 —— 如果公司成功创造了 AGI，所有金融协议将需要重新讨论和考虑。
是的， OpenAI 的确有在考虑 AGI 诞生后的世界。
2019 年，OpenAI 先是完成了三轮融资，获得了超过 10 亿美元的资金，但这在训练大模型的消耗面前显得杯水车薪。
每一代 GPT 的迭代都对算力提出更高的要求。Altman 表示：
看来，我们当时并不知道我们需要多么大的船。
接下来的大家都知道了。
微软和 OpenAI 达成了独家合作。
微软先是投入 10 亿美元，主要以提供 Azure 云计算服务的方式完成；随后再进一步加深合作，如今已经投入了 130 亿美元。
身处前沿可是一个非常昂贵的事情。
微软 CTO Kevin Scott 说道。
这投入显然很值得。
有了 OpenAI 的微软，市值从 2022 年的 1.79 万亿涨至 2023 年 8 月的 2.48 万亿，股价一度创下历史新高。
有了 GPT 加持的 Bing 更是让微软扬眉吐气，微软 CEO Satya Nadella 看着 Google 追赶的样子，在采访中直言：
我想让人们知道，我们让（Google）他们着急起来了。（I want people to know we made them dance.）
OpenAI 还是 OpenAI 吗？
GPT-5，无论 OpenAI 如何强调自己还没开始做，传闻和爆料似乎总在盯着它。
也许这意味着我们都在期待如 GPT-4 横空出世时的惊艳再临，期待看到技术能如何跃进。
现实是，好像不需要 GPT-5，OpenAI 也已经可以不断激起兴奋。
GPT-4 接入 Windows，ChatGPT 重新「联网」，ChatGPT 能看图了，ChatGPT 能听声音和说话了……
每一次更新，都是轰动。
这些活动，也引起人们对 OpenAI「初心」的质疑。一位 AI 领域高管评论说：
如果你认真想，（OpenAI）他们其实在做五个业务。
首先是产品本身、和微软的企业合作、开发者生态、还有个 app store。噢，对了，很明显还有个 AGI 研究任务。
当然，他们还在做一个投资基金。
他最后所指的，是一个 1.75 亿的项目，旨在支持利用 OpenAI 技术创业的公司。
这些都有着不同的文化，事实上，它们和研究任务是存在冲突的。
Levy 在采访的过程中，多次向高管提问，成为一家「产品公司」后对 OpenAI 的文化会有多深远的改变。
这些高管无一不肯定地坚持说，就算公司结构改了，就算要持续应对 Google、Meta 等对手的竞争，AGI 永远都是公司的核心。
然而，Levy 也察觉到 OpenAI 发生了改变的地方。
还记得我们开头聊起，OpenAI 里的员工都是明确的「AGI 信徒」吗？
但当 OpenAI 发展到现在的阶段，公司中除了技术人员外，还增加了大量的支持团队，如律师、市场营销、政策专家、UI 设计师、产品经理等等，更不说无数没有面孔的内容审核员。
Levy 曾就 OpenAI 所面临的侵权案件采访 Tom Rubin，一位于今年 3 月加入 OpenAI 的版权律师。
Rubin 对于 OpenAI 在法律上遇到的挑战很乐观，但当 Rubin 被问到是否相信 AGI 终会被研发出来时， 他变得有些犹豫。
停顿片刻后，他说：
我没法回答这个问题。
后来，他澄清，作为一位知识产权律师，促进人工智能发展并不是他的工作，但他也「期待它的到来」。
对于正在经历的曲折，Altman 表示：
我想强调的是 —— 我们没有一个明确的计划。
我们就像是每当走到拐角处，然后就拿电筒照照一样。
我们愿意穿过这重重迷宫，最终到达终点。

文章来源: http://mp.weixin.qq.com/s?__biz=MjgzMTAwODI0MA==&mid=2652312232&idx=2&sn=fb2eb10154104c71d60f603ab9732226&chksm=9b618437ac160d21c0c9aa89a4421db6d8b11b35ba2df5a7f224544fcf3f91a837d28beb99dc&scene=0&xtrack=1#rd
如有侵权请联系:admin#unsafe.sh