独家对话腾讯混元刘煜宏：做大模型可以有「深圳速度」，但不能跳步
2024-7-3 11:54:12 Author: mp.weixin.qq.com(查看原文) 阅读量:2 收藏

「越有决心情绪越稳，已悄然接入腾讯 700 个产品」。

作者 | 张鹏
整理 | 今夜科技谈
加速，狂奔，硝烟四起，是过去一年大模型创业浪潮展现出的一番景象。有资源、有能力的腾讯，却显得「过于冷静」了。
2024 年 5 月 30 日，腾讯推出基于混元大模型的 App——元宝，它的产品设计很简洁，打开的第一屏，是一个搜索框，核心是先瞄准生产力场景，重塑信息的组织、交付。
这样的产品理念从何而来？一个做底层技术出身的团队，做大模型是首先是为了改造内部业务的工作流和产品。所以对于做什么，不做什么，腾讯混元大模型团队有清晰的认知。生产率工具容错率低，更考验技术能力，进一步迭代模型能力。
对外鲜有高调发声，「水下」内部却将大模型摆在战略位置。推出元宝 App 之前，腾讯混元大模型作为技术底座的角色，已经支持了腾讯内部接近 700 个「客户」，并沉淀出一套平台工具和合作模式。这让腾讯对后来将模型算法、数据、工程能力等技术能力「外化」有了信心，一切也顺其自然。
腾讯元宝发布之后，腾讯混元大模型负责人刘煜宏收到一些反馈，让他感到惊喜，「一些好的公众号内容已经被『遗忘』，但元宝挖掘出来，重新做了信息组织」。「没有上帝视角」，用户需求越滚越大是产品最好的验证。
「一年后国内的模型能力将拉齐」的预判在今天被验证，再次证明了图快走捷径做大模型没有意义。对于 OpenAI 的示范效应，刘煜宏说，即便后来者看到一条确定性高的路径，也得走一遍。试过，才能跑得越来越快，缩短每一次追赶的时间。被问到之后的计划，刘煜宏说，多模态甚至全模态的理解和生成都是「必答题」，当下也会让模型在「多一些思考」、增强推理能力上下功夫。
大模型注定是一场长跑，「AGI 目前更像信仰」，但将腾讯混元大模型能力在内部 700 个业务上用得好，是刘煜宏认为对于 AGI 的务实追求。有远见但务实，也是混元团队在大模型上的世界观对齐。
在近两个小时的直播里，关于腾讯的大模型思考，混元的做与不做，元宝将与腾讯生态如何产生联动等话题，刘煜宏为我们做了坦诚的梳理和解答。
以下是这次直播对话的实录，经极客公园整理后发布：

01

做大模型可以有

「深圳速度」，但不能跳步

张鹏：去年 9 月腾讯混元大模型正式对外亮相，前段时间也发布了元宝这样一个比较AI Native 的产品。但外界总体感觉，腾讯比较沉稳，没有疯狂抢先手、也没有一下放出很多产品，情绪一直比较稳定？
沉稳的背后，腾讯在大模型上是怎样的策略？
刘煜宏：其实是「外松内紧」。外界看到不着急，感知混元推出来比较晚，但坦白来讲，这是一个非常卷的赛道，我们内部的节奏是非常紧张的。
腾讯从战略上一直将大模型和生成式人工智能，视为百年不遇的、类似工业革命一样的机遇。
对外产品上，去年 9 月推出了「腾讯混元助手」小程序，今年 5 月 30 日推出了元宝 App，（也推出智能体开发平台——元器），但这些背后的底层能力其实我们做了很久，像广告大模型在 21 年就开始做了。元宝 App 发布一个月不到的时间里，更新了五六版，每一个小的迭代都解决了一部分问题。
去年我们没怎么对外发布产品，其实是内部率先用起来（大模型），比如腾讯会议、文档，微信读书的 AI 助手，包括它们在内很多内部产品已经在用了，除了 API 的方式接入，还有一些业务会做精调。到目前为止，腾讯内部有接近 700 个业务接入混元，基本上腾讯所有的（业务）都用。
腾讯内部近 700 个业务接入混元大模型｜图片来源：腾讯
张鹏：OpenAI一声炮响让大家看到这个新的趋势，去年腾讯内部对于大模型是如何判定的？当时做决策的真实情况是什么样的？
刘煜宏：GPT-3.5 出来前后开始做混元这个项目。一些底层相关技术做得更早，刚才提到广告大模型在 21 年就开始做了，搜索相关的「推广搜」场景也做了很久，运行大模型的底座从一几年开始就在建设。
对外的产品节奏看起来体感很慢，因为一开始便深知这是一个长期的项目。原来还说百年一遇，现在发现是几百年一遇的项目。不是短期一窝蜂就能搞定，像做原子弹，只有一步一步积累，把底子打牢。
举个例子，做底层涉及到网络问题，没有网络、算力，怎么训练？钱能跟上吗？预算怎么投怎么收？等等，都得考虑。我们比较清醒，对底层困难预估得足。
一年半前我们判断，一年后国内的几家大厂在大模型能力都差不多。目前也认证了这个预判。我们虽然压力大但有比较多的试验机会。
张鹏：在大模型上，业界大家都比较着急，也有创业者认为这个时候快速跟上是第一目标，甚至可以基于开源模型做 post-train，因为开源模型「看」过的那些数据，没必要重新再「看」一遍。
刘煜宏：我们从来没想过这条路，一开始就决定冷启动，从 0 到 1 完全自研，是一条非常艰难的路。
腾讯做产品有个原则，得自己验证一遍，连颜色、像素、排布的选择都是试验出来的，页面设计成瀑布流留存率就有多高？对男性用户如何？等等这些都是 ABtest 出来的。
OpenAI 过去几年走过的路，模型从 1.0 版本到 4.0 版本他是怎么走的？就算过程中你按他披露出来的一些技术路线走，该做的实验一定不能少。比如也有很多超参数、数据配比要调，甚至中英文数据比例怎样才是效果最好都要做大量实验，花了很多时间在这里。
张鹏：打个比方说，下决心要给新时代生个孩子，不是说赶紧抱一个过来，是要生一个亲生的感觉。
刘煜宏：对，我们从一开始就坚定了全自研路线，追求自研、可控度、安全。从 0 到 1 自主探索，包括训练、推理的框架平台，模型预训练、精调、强化、怎么对齐，数据，投入了大量资源。
坦白来讲，大家都在看OpenAI的路线，但不是你按 GPT-4.0 的套路走，就能行得通。
张鹏：要从 0 到 1 走一遍、但要更快速地走一遍，而不是找个捷径只为了追上某个点。那么设定的这个起点是哪？
刘煜宏：如果说大模型，可能从 Transformer 甚至更早。
我们会设定一些目标，比如一开始对标 GPT-3.5，预计什么节点能达到 3.5 的什么水平，什么时候能在工程上追上。坦诚讲，目前很多能力提升还真的是靠数据和工程。
目标是有的，但不能跳步。不能看到 GPT-4o 出来了，发现多模态融合做得好，就不考虑 GPT-3.5 了。我们评测 GPT-4o 确实比 GPT-4V、GPT-4 Turbo 那些版本的能力都强。但直接按 GPT-4o 路线走，估计大概率会失败。
目前来看大模型怎么选择路线，还是一个实验科学，你得堆资源，人力，数据训练，当看到就这么一条路，那么选它有很大概率会成功，把他们探索的加速走一遍，而不是直接到终点等着说就按这个路线走。
张鹏：大模型技术变化非常快，一边挖地基、一边盖楼的感觉，这楼现在一下都盖到比方说 5、6 层了，统一多模态什么的全出来了。压力会不会更大？还是说，打地基和不断盖楼的过程中，更有信心了？
刘煜宏：跑了一遍，当然更有信心。你看到盖到 5、6 楼，不代表前面 1、2、3、4……楼就不需要，只不过你可以盖得更快，深圳速度一天一层楼类似这样，所以一定是要把从零到一的过程重新走一遍。
张鹏：你们的做法还是很严谨的。煜宏你在腾讯多少年了？
刘煜宏：我 05 年加入的。
张鹏：20 年了，那你一定对腾讯的风格非常了解。去年很多大厂积极地抢身位，腾讯好似不争不抢，但在内部挺较劲的。这个是腾讯骨子里带的做事风格？
刘煜宏：我在腾讯一直做技术。坦白讲，做技术、产品是可以借鉴的，但也有个词叫「空中楼阁」，没有地基你就上不去。这可能也是腾讯的风格。
别人用三年从版本 1.0 迭代到 5.0，你用半年走一遍，如果说产品和技术有参考，那么最大的参考意义在这过程中。走一遍你会遇到同样的东西，这时候会理解，「哦，为什么是这样」，走一遍后也才知道，也许因为用户群、生态等不同，另外一条路可能是更好的选择。

02

从需求中

「长」出来的元宝 App

张鹏：你刚讲很多腾讯内部的产品在用混元大模型了，能不能举几个混元给原有产品带来新的 Feature（功能/特性）的例子？
刘煜宏：最新的例子，微信读书里的 AI 读书；微信输入法 AI 帮助扩写；腾讯会议里的 AI 助手，能给晚加入会议的观众总结之前别人讲了什么，把一次很长会议的会议纪要给摘出来。还有腾讯文档里的续写；企业微信里的翻译帮助与海外同事交流。现在腾讯旗下的协作 SaaS 全都接入了腾讯混元大模型。
再早一点的例子，智能客服在内部最为普遍。其实在用大模型之前，智能客服就做得挺成熟的，但大模型还能再提升 20%，这种程度的效率提升。
其实做了（大模型）产品之后，也帮助了自己很多，比如用 code copilot 写代码（涵盖前后端开发，C，C++，Java，Go，Python 多开发语言）的采纳率有 30%，相当于 100 行代码有 30 行是AI写的，而且被采纳。设计师设计 logo 时也用 AI 文生图来帮忙，每天千万级收入的广告业务的一些素材，就 是用 AI 助手来做的。大模型对于降本增效起到很大助力。
张鹏：你刚提到，腾讯内部接近 700多个产品在用混元大模型，算是混元的「内部客户」已经有 700 家了，那你怎么服务得过来？同时还得兼顾不断前进的技术。
刘煜宏：内部调用量大概将近 3 亿次了。去年我们发布（节奏）慢，一部分原因也是我们投了很多资源先服务好内部的「客户」。腾讯做事情，对外开放前一定要先在内部打磨好，自己的狗粮自己先消化。
同时，腾讯确实有最齐全的业务场景，办公协作、游戏、社交、推广搜等等。在这些丰富的场景中，也能练兵，也能练模型。精调、以及其他给产品的反馈，反过来又反哺到主模型里。比如，会议总结、function call 等。
对于内部产品接入混元，我们提供三种模型来支持。
第一种叫全托管，给没有那么强研发资源的团队，他们提业务需求后，我们想办法把模型精调好，他拿走直接用；
第二种叫半托管，有些业务有自己的研发，也能做算法优化，我们一起共建，一人一半，他们搞不定我们再上。最近两年「开源协同」在腾讯内部很流行。
还有一种，我们把模型开放后就不管了，剩下的业务如果有需要，自己加数据、自己调。
我们去年也是花了大半年，慢慢把几个模式跑通。我们提供一站式精调服务，叫「混元一站式」，允许他们做各种创作、优化，内部根据需求调用资源，模型、算法、插件。
张鹏：三种模式占比如何？
刘煜宏：7 成左右拉 API 就可以了，啥都不用管。另外 3 成多少要精调，这其中拿走模型完全自己精调的会比较少，因为有门槛，我们一起参与的进展会更快。
张鹏：70% 的业务直接调用混元API，30% 要精调，哪些产品、业务要重点支持？这个选择权到底在谁，或者看业务部门谁更有影响力吗？
刘煜宏：这时候我们会基于两点考虑，一是复杂度，投入多少资源能帮你解决问题；二是同等难度和投入的情况下，先考虑战略重点。
资源配置上，其实主要看客观需求。目前 70% 是 API 模式就能搞定，用的是大模型的通用能力。那就看什么场景用大模型的通用能力就可以解决，比如像娱乐场景这样容错度高的场景，没有强解决问题的能力也行。但要做金融、医疗、法律等严肃场景，不能有幻觉，通用 API 不一定搞得定，要专门精调，为严肃场景做大量优化。
所以，第一是看用户选择。第二，这个数据在不同阶段也会变。最开始我们支持腾讯会议、腾讯文档时，扩写、润色、总结能力都是需要定制的。一旦做好了，这个能力就能变成通用 API 能力，开放出来给以后接入的业务用，这时候就不再需要定制了。比如给腾讯会议做好了，腾讯文档、腾讯邮箱也有类似的需求。
张鹏：把模型做好，这几种模式跑顺，服务好 700 家「内部客户」，是挺花时间的，所以你们去年不着急对外说，是在忙着解决服务内部的问题。
刘煜宏：最开始做混元，没想要做 ToC 产品，是要把基础模型打磨好，服务内部需求，这是我们原来的逻辑。
当我们在内部很多产品、不同场景里验证后，发现这个能力可以拿出来给大家用，所以去年 9 月份推出了「腾讯混元助手」小程序，因为觉得在微信生态里也可以用。但后来发现这样做也有不足，比如使用时被聊天打断，没法持续地对话，它就没法成为一个好用的 AI 工具。于是推出了 App。
整个过程里，我们不断地思考、调整方向。从做一个底层模型、一个基础功能、平台服务内部业务，到后来发现，如果不探索原生AI大模型应用，不知道怎么跟业务更好合作，所以又前进了一步，从小程序，到 Web 产品，App 产品。
张鹏：市面上也有很多比较热的大模型产品，主打陪伴类等等，你们「元宝」做得比较简单，界面就一个框，当时是怎么思考的？
元宝 App 第一屏界面｜图片来源：腾讯
刘煜宏：选择现在这样的界面，还是想回归「用户到底需要一个什么样的AI产品」？
现在大模型的使用人群，学历较高、职场人士占多，所以偏工作和学习的场景更重要，娱乐属性也有，但重要性相对低。相应地，我们的 slogan 也调整成，「轻松工作，多点生活」。不是不做娱乐，也留了一些智能体在上面。我们也有开放的平台——元器，上面能做很多智能体，角色扮演、陪伴等等。
先选择把生产力场景的用户痛点用 AI 搞定，信息搜索、写文档、想创意、知识获取、阅读等需求。比如搜索场景，我们先做好信息搜索、大模型「阅读」顺畅，又改善了信息源的陈列，提供了又简洁又分层次的信息源，提高生成内容的可信度，规避大模型的幻觉。
后面围绕着搜索、阅读、写作、画画和创作等场景做好，这些被视为大模型的基础能力。
我们做产品经常说，做加法容易，做减法难。这是为什么我们一开始就用很少的东西，用一个 AI 搜索做，另外还有一个发现页面，上面有些智能体，目前并不多。这也代表腾讯一个做产品的理念，小而精，做减法。先瞄准能提升大家效率的、最有用的场景，把它做透。我们希望提升信息组织、以及信息被找到的效率。
张鹏：为什么不做娱乐产品？是产品取向选择，做提升生产力更重要？还是从技术上来看，认为做娱乐对于技术提升不重要？
刘煜宏：不是说娱乐不重要，大家还是需要情感陪伴的。当下先选择工作和学习场景，第一个有选择的原因。第二个，当我需要陪伴的时候，AI 能给到什么样的帮助？角色扮演的产品有很多，但（模型）能力做不到那么好。打发时间，暂时只能做到这点。
张鹏：人们对「杀时间」的事包容度高，模型能力没那么好也能没准让用户愿意掏钱。
刘煜宏：对。这是选择问题。我觉得选择娱乐场景这个目标，对目前大模型的这个阶段的发展不是很好。基于对自己的认识和选择，先把技术能做的做好。我们先把底层模型、基础的产品体验、元宝体系做好了，在此之上开放一些东西，就像微信，小程序，公众号，都是生态。那娱乐的事情就交给生态产品，QQ、游戏、视频、音乐，他们做娱乐场景比我们更擅长。
张鹏：腾讯本身就是一个庞大的产品生态，元宝未来会跟腾讯的产品体系打通吗，比如微信？这方面有什么计划？
刘煜宏：我们跟微信团队一直有互动。比如元宝里用得好的东西想要分享到微信，或者在微信里传个文件，能不能用元宝打开？这些互动，我们有探讨怎么做会更好。但因为微信用户非常庞大，任何一点小改动，都可能影响上亿人的体验，所以也非常谨慎。
5 月 30 号元宝发布之后，外部解读元宝和腾讯生态产品的打通，有点出乎意料。我们确实会考虑与腾讯生态如何互动，但毕竟元宝还是一个很小的产品，还在尝试阶段；另外，用户需求真的是慢慢发展起来，才会变成所谓的战略，我们并没有上帝视角，还是基于用户的需求来考虑。
比如面对用户搜索的需求，我们要做一个什么样的信息检索，搜哪里？那我们有搜一搜、新闻、视频、音乐、企鹅号，包括公众号是一个很好的内容源，这是一个顺理成章、跟着用户需求慢慢出来的事情。
我们也看到很多创作者来说，元宝 App 里加入公众号的内容源是一件非常好的事情，一些好的内容都被遗忘了，元宝还能把它挖出来，让它重新火一把。
但我们有一些更长期的目标，我们考虑的是，混元怎么支撑内部业务、做到何种程度。
张鹏：看来腾讯对自己要求很高，就像你说的，如果没有吃过自己的狗粮，没有真正用起来，不太愿意让别人为我付代价。但同时，这会不会降低了对外开放、快速迭代探索的可能性，让更多力量一起「共创」本身不就是一种「技术红利」吗？
刘煜宏：确实，让更多人进来，用户、开发者、企业进来，一定会产生更多可能。混元一方面是通过内部比较全面的生态体系来打磨、创新。经历了内部的一轮洗礼，外部的需求会更游刃有余。而且，任何一个东西，你拉长看，现在的进展可能会显得微不足道的，假如外面是个大海洋，先在湖里面练好游泳再出去会做得更好。
同时我们也有混元 API 供外界用，其中混元 lite 的模型是直接可以免费使用，还有元器开发平台，上面已经有很多开发者做智能体，然后分发到元宝、QQ、小程序等渠道上面去用。
比如腾讯云的同事会基于做好的底层基础模型，做行业大模型，针对企业做服务。这部分增长非常迅猛，免费模型的调用量、付费版都增长了很多，我们也要投很多资源来支持、优化。

03

AGI 是信仰，眼下的目标

是「让模型多一些思考

张鹏：你怎么看 Character.ai，一个以前不存在的产品形态在未来的发展空间，以及对于技术的要求会是怎样的？
刘煜宏：类似角色扮演的需求，我们在 ToB 的场景里也遇到了，比如类似智能客服的接待助手。会告诉它「你是谁」，但发现聊了几十轮之后，它可能就忘了自己是谁。
Character.ai 很火，我们做了很多用研，但最后选择没做类似产品，因为混元还是希望做一个（技术）平台，我们会往它所需要的底层能力去做，长文本、长窗口的能力、记忆能力等。
这些角色产品的探索可能更适合腾讯的产品团队，他们来做会有更多想象空间。另外，从腾讯的角度看，也还是希望做底座能力和产品，把空间开放给市场上更多创业公司。
张鹏：所以你目前看得不是产品，而是产品背后需要的能力和长期有没有意义。我可以理解为，混元的目标是做好技术底座，为腾讯丰富的产品条件和用户场景，做好AI Native 的准备？
刘煜宏：一定程度说可以这样说。但混元团队也没走过大模型这条路，也要探索原生的应用和创新。
就像刚提到的元器，我们做好底座，创作、工作流平台，业务部门和用户拿来做智能体，实现各种各样的想法，这是我们的定位。
我们做探索的同时，把底座的技术能力打造好，这是有门槛和难度的。
张鹏：有人说对国内的大模型来说，GPT-4o 是「必答题」，Sora 是「选答题」，哪些在你们看来是技术趋势上的必答题和选答题？
刘煜宏：GPT-4o 和 Sora 背后代表的多模态甚至全模态，对我们来说都是必答题，但一般没做出来之前，也不会对外说。
做与不做，可能只是一个特定资源条件下的选择问题。
腾讯为什么必做？因为腾讯业务场景齐全，社交、游戏、内容，每个模态跟我们场景都有契合点，不做的话，可能某个方面未来会缺。
一个东西将语音、文本、图像、视频都能搞定，全模态进，全模态出，需要一些时间和资源。也许每个阶段会有不同重点。
张鹏：从混元的角度，你会怎么定义 AGI？
刘煜宏：目前 AGI 作为信仰比较合适。业界没有一个对 AGI 量化的定义，连定性都未必定的出来。可能从业务的角度，可以定义一个可以操作执行的 AGI 目标。
但我最近在思考，让模型稍微多一些思考，这件事挺重要的，因为可能生成的质量会比过去高很多，我们接下来可能会花更多时间在这里。
ChatGPT 最早你问他一个问题，他马上吐字回答问题，有点像「快思考」或者说没有思考的直觉反应，但它可能怎么也想不出来一个空城计。
让模型做AI搜索，或者其他让它多加几层思考、强迫他多做思考的动作，有助于进一步提高模型的推理能力。
7 月 1 日，「腾讯元宝」AI 搜索能力升级，上线深度搜索模式，可从深度和广度两方面，提供更结构化、更丰富的回答，并可同步生成内容大纲、思维导图及相关人物事件梳理。｜来源：腾讯
张鹏：有没有对需要达到的能力范畴的定义？
刘煜宏：过去几年里有句话比较流行，有多少人工就有多少智能。以前智能是靠人堆起来的，人类对齐有很多数据要标注，甚至 OpenAI 也靠高质量的标注。坦白来讲，目前要做到（绝对的）AGI 没有那么乐观。
务实一点看，针对腾讯内部那么多的业务，如果大模型能把他们的需求都搞定，那可以说它具备了比较好的智能，这可能是通向 AGI 的最佳实践，工具或技术从来都是满足人的需求。
目前面对腾讯内部接近 700 个业务的需求满足情况，如果让我打分，一部分场景合格，但是大部分坦率来讲只是暂时够用，要用得好，还有很多努力要做。在这个过程中探索 AGI，也可以算我们的一个实践路径。
当然我们也有比较前沿的科学探索，腾讯 AI Lab 在做等等，要花点耐心，把应用和研究结合起来，一起做。
张鹏：想象一下混元在三年以后会什么样？
刘煜宏：这个年代哪能定三年目标，因为技术曲线仍然陡峭，边走边看。
要说做产品，很像写小说，有的时候不是一开始就想好结局。比如 Sora 出来之前，做文生视频的肯定不会走那条路。GPT-4o 之前，大家觉得 4V 很牛了，变化太快了。
我们投了很多资源，做好长期战斗的准备。让我想，三年如何讲做成功了，可能无非是 AI in all。
张鹏：不是一下投进去，而是所有的东西都被AI逐渐渗透进去。
刘煜宏：大模型要改造流程和产品。我希望不用到三年，腾讯产品和技术平台都用大模型做了改造，让大模型帮大家做降本增效的事情，这是我对未来的所想。
*头图来源：极客公园
本文为极客公园原创文章，转载请联系极客君微信 geekparkGO
极客一问
你用过腾讯元宝吗？体验如何？
 

热点视频

马斯克：宇宙中有多少文明，没去过另外的星球就消亡了。
点赞关注极客公园视频号，
观看更多精彩视频
 

更多阅读


文章来源: https://mp.weixin.qq.com/s?__biz=MTMwNDMwODQ0MQ==&mid=2653046248&idx=1&sn=0e0a8913be0f6c609e516e70829d84f1&chksm=7e57385e4920b14830928793d53c5ba350e289f6b25339561ce9face1829b72f7dab9018d0b7&scene=58&subscene=0#rd
如有侵权请联系:admin#unsafe.sh