Sam Altman 是这个时代的奥本海默吗？
2023-11-26 12:5:0 Author: 爱范儿(查看原文) 阅读量:7 收藏

编者按：从 Sam Altman 被解雇到重新上任 CEO，OpenAI 的宫斗脱离不了一条叙事主线：不同 AI 意识形态之间的分歧。
前董事会成员、首席科学家 Ilya，认为通用人工智能应该和人类的价值观「超级对齐」。AI 将带来繁荣的新时代，但首先必须防止它的危害。
相比之下，Sam 的态度更加模糊。
他一脚踩着刹车，和名流政要会面，参加白宫晚宴，在国会山演讲，在请愿书署名，将 AI 的危害与流行病、核战争相提并论。
他一脚踩着油门，成立营利性的子公司，和微软建立合作，计划从软银和中东筹集资金自研芯片，主持首次开发者大会，规划商业蓝图。
他似乎做了 CEO 该做的，既有让 700 名员工追随的威望，但也被人批评利益至上。
以下这篇《纽约》杂志 9 月发布的人物报道，更全面地描绘了这位 CEO 的个人特质，以及旁敲侧击了他对 AI 的态度。你可能会发现，他的气质非常「硅谷」，隶属白人男性俱乐部。他知道人们的惊奇和恐惧，但并不总是共情。
OpenAI 和 AI 的未来都悬而未决，但我们或许可以知道，它们掌握在怎样的少数人手中。

原文地址：

https://nymag.com/intelligencer/article/sam-altman-artificial-intelligence-openai-profile.html

原文作者：Elizabeth Weil

本文有删改

今年春天，旧金山芳草地艺术中心，OpenAI 首席执行官 Sam Altman 与硅谷知名的禅修导师 Jack Kornfield，坐在曼陀罗背景前，围绕正念和 AI 侃侃而谈。
这个正值盛年的 38 岁男性，穿着炭灰色切尔西靴和灰色华夫格亨利衫，控制着 AI 如何进入世界，又抛头露面平息观众的担忧。
Kornfield 认识 Sam 多年。他们一起冥想，探讨过这样的问题：如何才能建立普度众生的价值观，同情心和关怀如何以某种最深入的方式被编程。
Sam 的坐姿让人印象深刻，双手交叉放在腿上，表情竭力表达着耐心，但也可以看出，这并非他最自然的状态。
和 Kornfield 对谈.
大部分时间里，Sam 都在漫无目的地谈论观点。他知道人们害怕 AI，他也认为人们应该害怕，他觉得人类应该作为一个物种，共同决定 AI 应该做什么，不应该做什么。
根据 Sam 自己发布的博客、播客和视频，他是一位出色的 AI 掌门人，但并不完美。
Sam 非常聪明，只是并非天才，具备希腊神话人物伊卡洛斯的特质，以及几点异于常人的性格。
第一，他自信到接近妄想；第二，他预言着长期技术和社会变革的弧线；第三，生于犹太人家庭，他既乐观又期待最坏的结果；第四，他擅长评估风险，不会被其他人的想法困扰。
Sam 也有着不近人情的一面。他曾经用过「中位数人类」（median human）这个词。
对我来说，AGI（通用人工智能）相当于可以做你同事的中位数人类。
芳草地艺术中心的主持人提问 Sam：他打算如何为他的 AI 赋予价值观？
Sam 说，他的一个想法是，尽可能多地聚集人类，达成全球共识，一起决定价值体系，并且为它设置界限。然后他开玩笑道，另一个想法是，让 Kornfield 直接写下十页的内容。
观众席安静下来，Sam 的态度传达着，AI 革命不可避免，他对此深信不疑。同时他也告诉观众，他将尽力减缓革命的速度，他相信一切都会好起来，或者可能会好起来。
但至少，AI 将颠覆政治，Deepfake 已经成为选举的主要问题，AI 也将改变收入分配，AI 一直是好莱坞编剧罢工的核心，还有公民权利、经济、军事和教育......
Sam 听到了观众席紧张的笑声，然后他摆摆手、耸耸肩：「我可以对你撒谎说，哦，我们完全可以阻止它。但我认为这是……」
这句话并没有说完。8 月下旬，旧金山布莱恩特街的 OpenAI 办公室，《纽约》杂志和他重新进行了对话。从内部看，OpenAI 是一家低调、平淡的科技公司，请访客自取印着公司 logo 的贴纸，或者迷你冰箱中的圣培露矿泉水。
Sam 比想象得更迷人、更认真、更冷静、更滑稽。他很讨人喜欢。他的头发有着灰色斑点，他穿着同样的华夫格亨利衫，这款服装很快成为了他的标志。《纽约》杂志可能是他今年夏天接受的第 100 亿次采访。
《纽约》杂志记者坐在隔音室里，为让他再接受一次采访而致歉。他微笑着说道：「很高兴认识你。」
Sam 谈起了和 Kornfield 的那场座谈，会后有人对他说，「我真的很紧张，因为 OpenAI 将会做出所有关于 AI 价值观的决定，而你让我相信你不会做出这些决定」 。
Sam 说：「太棒了。」但那人回应：「不，现在我更紧张了。你要让世界做出这些决定，但我不希望这样。」
2016 年，Sam 接受《纽约客》采访时的风格还很强硬，七年后，经过大量的媒体训练，他的说话风格软化了。
然而，新的「好人气质」可能很难与 Sam 的权力意志相一致，权力意志是他最明确的特征之一。Sam 核心圈子里的一位朋友形容，「我在硅谷认识 2 万人，他是其中最有野心但仍然保持理智的人」。
尽管如此，Sam 用了一种戏剧式的语气讲述他的发迹，「我是一个中西部的犹太人，童年充其量用尴尬形容。我正在经营几十个最重要的技术项目。我无法想象这会发生在我身上」。
Sam 在圣路易斯郊区长大，是四个兄弟姐妹中最年长的一个，家里有三个男孩，Sam、Max 和 Jack，每人相差两岁，然后是一个女孩，Annie，比 Sam 小九岁。
这个中西部中产阶级的犹太家庭，擅长给儿子们灌输自信，肯定着他们的热爱和信念，让他们相信自己可以做任何事情。由此产生的信心存储下来，梦幻、麻醉、武器般有力，如同心脏额外的瓣膜。
15 岁左右的 Sam 和他的兄弟姐妹.
媒体们书写着关于 Sam 的典型故事，他是一个天才男孩，从 3 岁起就开始修理家里的录像机。1993 年，在他 8 岁生日时，父母给他买了一台苹果的麦金塔 LC II，这对 Sam 来说意义非凡，「我生命中的一条分界线：拥有电脑之前和之后」。
Sam 一家每天晚上都一起吃晚饭，在桌子旁玩「平方根」之类的游戏。男孩们给出答案，妹妹 Annie 拿着计算器，检查谁离得最近。一家人还打乒乓球、台球，玩棋盘游戏、电子游戏和猜字游戏。Sam 更喜欢赢的人是他。
Sam 是同性恋，在高中时出柜，这让他的母亲很惊讶，她认为 Sam「只是某种单性恋和技术狂」。Sam 在 2020 年的播客谈到，他的私立高中校风保守，「主要出于宗教原因，也因为觉得同性恋是坏人」。于是，Sam 决定发表演讲，前一天晚上他几乎没有睡觉。
2003 年，硅谷从互联网泡沫破灭中复苏之际，Sam 就读于斯坦福大学。同年，领英创立。2004 年，Facebook 面世。这个郊区犹太家庭的长子并没有成为投资银行家或医生，他也成为了一名创业者。
大二那年，Sam 开始和同学一起开发基于位置的社交应用 Loopt，并参与了创投公司 Y Combinator（YC）的暑期项目，赢得了 6000 美元的投资，在马萨诸塞州的剑桥市与志同道合的怪才们一起度过几个月。那年夏天，Sam 工作太辛苦，结果得了坏血病。
Loopt 时期，Sam 并没有表现得很突出。「噢，又是一个聪明的年轻人啊！」领英的一位联合创始人回忆起那时对 Sam 的印象。Loopt 从红杉资本筹集了 500 万美元，但从未被用户欢迎。2012 年，Sam 以 4340 万美元将它出售给金融科技公司 Green Dot。
23 岁的 Sam 在 2008 年苹果 WWDC 上推广 Loopt.
在 Sam 看来，这个项目没有成功，「失败总是很糟糕，但当你试图证明某件事时，失败非常非常糟糕」。
Sam「非常不高兴」地离开了，但他至少带着 500 万美元离开了，他用这笔钱和他人一起创立了风险基金 Hyazine Capital，将其中 75% 的资金投入 YC，并领投了知名社交网站 Reddit 的 B 轮融资。他休了一年假，读书、旅行、玩电子游戏。
2014 年，YC 联合创始人 Paul Graham 任命 Sam 接任总裁，当时这家创投公司已经投资了爱彼迎、Stripe 等冉冉升起的新星。这位伯乐暗自思忖，Sam 看起来就像「比尔·盖茨创办微软时的样子」，也是「一个天生令人畏惧、自信的人」。
2015 年，Sam 入选了福布斯 30 位 30 岁以下风险投资榜单.
Sam 担任总裁期间，每年都会收到来自初创企业的约 4 万份申请。他们观看 1000 家的现场演示，投资其中的数百家。种子资金通常是 12.5 万美元，辅之以定期的创业指导。作为交换，YC 获得初创公司 7% 的股份。
这段时间，Sam 主要与兄弟们住在旧金山的两所房子中，他相信从熟人网络中招聘的价值，他认为不能太在意别人的想法，他觉得不能让细枝末节把自己逼入绝境，问题就在于思考得不够宽广。他在博客中写道：
你可以让世界屈服于你的意志——大多数人甚至不会尝试。
最成功的创始人并不是一心要创建公司。他们的使命是创造更接近宗教的东西。某种程度上，成立公司是实现这一目标最简单的方法。
多年来，担任总裁的每天，Sam 都会向创始人发送大量短信和电子邮件，并跟踪他们回复的速度，因为他认为回复时间是「伟大创始人与平庸创始人之间最显著的差异之一」。
Sam 变得非常富有。他投资了很多男孩梦寐以求的产品，比如超音速飞机。他在大苏尔买了一座用来末日避难的房子，并在里面存放了枪支和黄金。他驾驶迈凯伦赛车。他优先考虑未来而不是现在，并想象当人类和机器融合时会出现一个狂喜式的奇点。
2015 年，Sam、马斯克以及其他四人共同创立了 OpenAI，这是一个非营利组织，核心使命是创造像人类一样思考的 AI，为人类带来最大的利益。OpenAI 承诺按照「有效利他主义」的价值观开源其研究成果，如果有志同道合的团队准备在 OpenAI 之前实现 AGI，他们会协助，而不是与其竞争。
左起：Sam、Greg 和 Ilya，他们都是 OpenAI 联合创始人.
2017 年，Sam 考虑竞选加州州长。他曾在一次晚宴上抱怨政治，有人说「你应该停止抱怨并为此做点什么」，他当时想「好吧」，然后发布了一个名为 United Slate 的平台，概述了三个核心原则：技术带来的繁荣、经济公平和个人自由。几周后，Sam 放弃了。
2018 年初，马斯克试图控制 OpenAI，声称他们已经落后于 Google。当年 2 月，马斯克离开，留下 Sam 挑起大梁。
2021 年 3 月，Sam 发表了一篇名为《万物皆摩尔定律》的文章。文章开头写道：
我在 OpenAI 的工作每天都提醒我，社会经济变革的规模比大多数人想象的要早到来……如果公共政策不如果做出相应的调整，大多数人的境况最终都会比现在更糟。
传统的摩尔定律指出，芯片的晶体管数量大约每两年就会增加一倍，价格下降一半。而 Sam 提出的「万物皆摩尔定律」假设，「在这个世界里，几十年来，一切，住房、教育、食物、衣服等，每两年就会变得便宜一半」。
当 Sam 写下这篇文章时，他已经离开 YC，专注于 OpenAI。2019 年春季，OpenAI 在他的领导下做的第一件事是创建一家营利性子公司。构建 AI 的成本极其高昂，Sam 需要钱。到了夏天，Sam 已经从微软筹集了 10 亿美元。一些员工辞职了，为使命偏离「人类的最大利益」而不安。
Sam 和微软 CEO 纳德拉.
Sam 拒绝入股 OpenAI，OpenAI 最初将投资者的利润上限限制在 100 倍。但许多人认为这只是舆论姿态，如果十亿乘以一百，那就是很大一笔钱。
Sam 继续驾驶他的赛车，他最喜欢的是雷克萨斯 LFA。他是一名素食主义者。疫情初期，Sam 用上了军用防毒面具，在加利福尼亚州的纳帕市买了一个牧场，在旧金山的俄罗斯山街区购买了一套价值 2700 万美元的房子，结交了很多好朋友。
与此同时，OpenAI 开始向企业出售 GPT 软件的使用权，Sam 也酝酿了很多副业项目，为将被 AI 变革的世界做准备。
Sam 向核聚变公司 Helion Energy 投资了 3.75 亿美元，虽然核聚变的商业化遥遥无期，但一旦成功，他希望控制世界上最便宜的能源之一。
Sam 向生物技术公司 Retro Biosciences 投资了 1.8 亿美元，目标是使人类寿命延长十年。
Sam 还为加密货币项目 Worldcoin 筹集了 1.15 亿美元，他让人们使用名为 Orb 的球体扫描虹膜，并将生物识别信息链接到加密钱包，解决 AI 造成的两个问题：一是区分人类和非人类；二是将钱公平地分配给尽可能多的人。
Worldcoin.
如果说扎克伯格满足于建立一个可以统治的城邦，Sam 则像马斯克一样有野心，希望建立起一座帝国。科技作家 Jathan Sadowski 评价，「他认为自己是尼采式的超人」。
2022 年 11 月 30 日，OpenAI 发布了 ChatGPT，在两个月内吸引了 1 亿用户，上演科技史上最伟大的产品发布。发布的两周前，Meta 推出了大语言模型 Galactica，但在三天后将其下架，因为它无法区分真假。ChatGPT 也同样撒谎和产生幻觉，但 Sam 还是发布了它，并认为这是一种美德：世界需要习惯，人类需要共同做出决定。
一位在 OpenAI 最初几年与 Sam 共事的从业者认为，有时候，「不道德」恰恰是成功 CEO 与其他人的区别。「Facebook 从技术上说并没有那么有趣，为什么扎克伯格会赢？因为他可以更快地扩展规模并构建产品，且不会陷入混乱。」这句话现在送给 Sam。
Sam 与法国总统马克龙会面.
2023 年 5 月，Sam 开启了 22 个国家、25 个城市的「世界巡演」。他经常穿着西装，有时穿着灰色亨利衫，会见了英国、法国、西班牙、德国、印度、韩国、以色列等国的政要。他与欧盟委员会主席合影。她看起来优雅而镇静，但他看起来像图画书《威利在哪里》的人物，手机放在裤子前面的口袋，绿色的眼睛里充满了疲惫和皮质醇。
Sam 与欧盟委员会主席合影.
等 Sam 回到家，他的衣柜和心灵似乎都被解放了。从六月底到八月中旬，他在 X 发了很多推文。
「今晚看芭比还是奥本海默？」其中一条帖子是投票，最终芭比 17%、奥本海默 83%。Sam 去看了电影，但大失所望。
我希望奥本海默能够激励孩子成为物理学家，但它没有。让我们制作那部电影吧！我认为大卫·芬奇的《社交网络》对初创公司创始人起到了作用。
其实多年来，Sam 一直将自己与奥本海默进行比较。他告诉记者，他和奥本海默同一天生日。他向《纽约时报》解释了奥本海默的一句话：「技术之所以发生，是因为它是可能的。」
这也就不奇怪，Sam 为什么认为诺兰的传记片拍得不够煽动人心。奥本海默在后半生因自己在制造原子弹中扮演的角色与耻辱和悔恨作斗争。「现在我变成了死亡，世界的毁灭者」，这是《薄伽梵歌》中最著名的句子，是奥本海默在「三位一体」核试验期间脑海中的内容，还在电影中出现过两次。
「世界巡演」之时，Sam 也总与奥本海默联系起来。他讨论了 AI 带来的生存风险，并主张建立一个以国际原子能机构为模型的监管机构。Sam 的类比对于普通听众来说不无道理，却惹恼了不少专家。
一种批评是政治犬儒主义，Sam 应该清楚，这个机构可能永远不会被创建。另一种批评是模糊性，为了减轻一项技术的风险，需要精确地定义它能够做什么，它如何帮助和伤害社会。
但当 Sam 说 AI 可能会毁灭世界时，他总是很笼统，也许有人会使用 AI 发明超级细菌，也许有人会使用 AI 发射核武器，也许 AI 会反对人类，每种情况的解决方案都不清楚。
Sam 在国会山隐私、技术和法律听证会讲话.
Sam 应该更加认真地对待，那些他认为较小的危害。如果无法阻止对黑人的算法偏见，那么它也会影响一切，从如何对求职者进行排序，到哪些面孔被标记为最具吸引力。一位评估核电站安全协议的工程师指出：
一个小错误可能会摧毁纽约的电网。AI 领域的每个领头羊，都拥有资源和基本的工程知识，弄清楚如何减少这些系统的危害。当然，选择不这样做也是一种选择。
在 Sam 发表奥本海默-芭比投票的同一天，他还发布了以下内容：
一切「创意」都是过去发生的事情的重新组合，再加上极小的变动，乘以反馈循环的质量和迭代次数。人们认为他们应该最大化极小的变动，但诀窍是最大化其他两个。
Sam 似乎认为创造力并不真正存在。今年的整个夏天和秋天，OpenAI 都面临着外界的压力，被指责在受版权保护的数据集上训练模型和赚钱，作家们发起集体诉讼，联邦贸易委员会对 OpenAI 涉嫌广泛违反消费者保护法的行为展开调查。当愤怒的作家和画师们强调他们的个性或价值，Sam 可能并不这么想。
意料之中，Sam 被部分人所记恨。其中一些是嫉妒，但也有对科技行业白人男性俱乐部的愤怒。数十亿人的创意产出，被用来打造直接损害他们生计的系统。AI 产品由肯尼亚工人校准，他们以身心创伤为代价确保它们的礼貌。多元、公平和包容被视为废话，也不再被假装关心，而是被投以明显而长久的漠视。
家庭复制着社会的变化，权力的差异带来了伤害。
Sam 和他的兄弟 Jack 和 Max 关系很好，创立联合基金，一起出现在媒体报道，在社交媒体互开玩笑。妹妹 Annie 却不存在于他的公共生活，她也很聪明，提前完成了塔夫茨大学的所有学分，但被抑郁困扰，是一个中产从商家庭里情绪敏感的、喜欢艺术的异类。
Sam 曾是她最喜欢的哥哥，在睡前读她的书，给单杠上的她拍照。但后来，Sam 会在 Annie 为他和朋友们弹奏她写的歌时突然离开，也不愿意对外分享她邀请兄弟们出席的播客。
Sam 和他的兄弟们.
2018 年，他们的父亲突发心脏病去世，Annie 知道父亲的心脏有问题，压力很大，部分原因是他开车去堪萨斯城打理房地产生意。当时，父母已经分居，父亲继续工作，因为他需要钱。父亲的死让 Annie 崩溃，她陷入了经济问题，Sam 曾经借钱给她，但不久就停下来。
2020 年，Annie 搬到夏威夷大岛，在农场工作，一天她收到了 Sam 询问地址的电子邮件，他想寄给她一颗用父亲骨灰制成的纪念钻石。Annie 觉得荒谬又愤怒，「父亲从未要求成为钻石」。
她也意识到，和金钱意味着一切却又微不足道的人打交道很困难，Sam 并不关心她的生活，「你愿意为每个人花 5000 美元，制作自己的想法而不是爸爸的想法，你把它寄给我而不是寄给我 300 美元，明明这样我就能有钱买吃的」。
白宫晚宴.
6 月 22 日，Sam 穿上燕尾服参加白宫晚宴。他像 90 年代时空旅行电影中的角色，身材并不高大强壮，但礼服看起来很锋利，与硅谷另一位跌下加密货币神坛的、衣着邋遢的著名 Sam 形成鲜明对比。
自从 Sam 接任 OpenAI 首席执行官以来，这家公司不仅淡化了其非营利地位，它还不再开放，不再发布训练数据和源代码，不再让大部分技术可供其他人分析和构建。放弃「为了人类的最大利益」而工作。
5 月，巡演到慕尼黑时，Sam 问挤满了礼堂的人们，是否希望 OpenAI 在 GPT-5 发布后将其开源。
众人响亮地回答「是」。Sam 说：「哇，我们绝对不会这么做，但知道这一点很有趣。」
8 月，在 Sam 的办公室里，《纽约》杂志问他过去 24 小时做了什么。
我昨天所做的事情之一是：我们试图弄清楚是否可以使 AI 与人类价值观保持一致。我们在技术上的进展良好。现在有一个更难的问题：好吧，谁的价值观？
与此同时，Sam 试图缩减 98 页的待办事项清单。
他与旧金山市长共进午餐。他象征性地举重。他欢迎新员工。他和兄弟们以及伴侣一起吃晚饭。他晚上 8 点 45 分上床睡觉。他最宝贵的财产之一是祖父的经文盒。他希望有孩子。他喜欢大家庭。他笑得很厉害，有时不得不躺在地板上呼吸。他在尝试找到办法，让人们的意愿融入他们的建设之中。他知道 AI 不是只有好处，有些东西会被丢下，厌恶损失自然而然地发生，尽管人们不想听到自己成为受害者的故事。他说他的公众形象并不是他。 

Altman 被罢免内幕曝光：OpenAI 实现重大技术突破，可能威胁人类

耗时7年打造，迪士尼「冰雪奇缘」园区最大彩蛋竟是它


文章来源: http://mp.weixin.qq.com/s?__biz=MjgzMTAwODI0MA==&mid=2652313597&idx=1&sn=0f5dec88e895d10d76c86fe911e412eb&chksm=9b618162ac1608746cce9c94c987af421551c5e912633d70fc927c1b1fc214660419dfe586b6&scene=0&xtrack=1#rd
如有侵权请联系:admin#unsafe.sh