人工智能给我们带来很多便利，同样也给我们带来很多威胁，尤其是chatGPT被广泛使用以后，人类对于人工智能的焦虑与日俱增，如何应对人工智能带来的威胁也成为关注重点之一。

今天给大家推送美国夏威夷檀香山东西方中心亚洲研究发展项目(ASDP)负责人彼得·赫肖克(Peter Hershock)的文章《智能革命和新的大国博弈：一个佛教徒对大数据和人工智能的个人和社会困境的思考》。

在ASDP的工作中，彼得·赫肖克设计并指导高等教育教师和机构发展项目，寻求将亚洲文化和社会研究纳入本科课堂的主流。在中心的专业发展项目中，他合作设计并主持了国际教育领导力项目和研究研讨会，批判性地审视了高等教育、全球化、公平和多样性之间的关系。最近，他帮助启动了该中心关于人道人工智能的倡议，重点关注新兴技术带来的社会影响和伦理问题。他接受过亚洲哲学和比较哲学的培训，他的研究和写作利用佛教概念资源来反思和解决当代全球关注的问题。

《佛教与智能技术:走向更人性化的未来》，伦敦:布鲁姆斯伯里学院，2021年。

《人类还是人类的产物?关于人的概念与儒家对话》，彼得·d·赫肖克和罗杰·t·艾姆斯主编，奥尔巴尼，纽约州:纽约州立大学出版社，2021年。

《儒学与杜威言实用主义:相互依存的新地缘政治资源》，罗杰·t·艾姆斯、陈雅君、彼得·d·赫肖克主编。奥尔巴尼，纽约州:纽约州立大学出版社，2021年

《地方哲学:跨文化对话》，彼得·d·赫肖克、罗杰·T.著。艾姆斯，檀香山:夏威夷大学出版社，2019年

《智能技术的伦理和风险:算法对自由的威胁注意》，东西方中心人文人工智能工作文件，第3期- 2020年10月

【摘要】

现在，我们目睹了也许是人类历史上最大困境的早期阶段：通过人工智能、机器学习和大数据来改变人类经验。和五百年前的哥白尼革命一样，智能革命不仅在物理上，而且在形而上学和伦理上使人类在宇宙中的位置偏离。在这个过程中，以前基本的确定性正在被打破，全新的机会空间正在被打开。智能革命也在消解地缘政治确定性，促成类似于十九世纪末和二十世纪初的竞争，只是新的大国博弈的利害关系不是帝国主义和殖民主义对土地和劳动力的控制，而是对人类注意力的争夺和意识本身的殖民统治。

现在，相当多的担忧指向了技术奇点的可能性——超级人工智能的出现，要么与人类的目标和利益对立，要么漠不关心，这是谨慎的做法。但是，随着机器智能和计算工厂不知疲倦地、创新地工作，以实现经常相互冲突的人类价值观、意图和欲望，我们已经加速走向伦理奇点。智能服务和算法定制的体验是全球注意力经济的核心，它们正发挥着因果引擎的作用，改变着世界，以补充并最终取代人类智能实践的方式改变人类-技术-世界的关系，使人类智能变得多余。

如果智能革命要带来更人道、更公平的全球未来，我们就必须批判性地考虑到它的伟大承诺与同样巨大的危险之间的不可分割性，把它的动力作为一个全球困境——一个价值观冲突的矩阵——只有通过个人和社会变革的伦理即兴发挥才能共同解决。

一、从注意力经济1.0到注意力经济2.0

吸引和操纵注意力可以说是所有人类社会的社会和经济组织的关键。但是，只有在19世纪和20世纪的印刷和广播媒体出现后，人们的注意力才开始被“收获”，并大规模地转化为收入。注意力经济的生成逻辑相对简单，赫伯特·西蒙(Herbert Simon)在1971年简洁地阐述了这一点:“丰富的信息造成了注意力的匮乏，需要在消耗注意力的过多信息源中有效地分配注意力。”

然而，在20世纪70年代没有互联网、没有智能手机的时代，人们不可能预料到，在新的信息和通信技术导致全球网络社会出现之后，获取注意力将成为全球经济的核心驱动力。值得注意的是，虽然层级中成员的价值取决于一个人离顶层有多远，但网络成员的价值是一个函数：它有多少节点，通过它进行的信息交换的质量，以及与其正反馈加速交互和放大网络内分化的能力。因此，当作为一个等级组织的一部分的激励随着等级的增长而减少时，那些属于一个网络的激励随着它的扩展而增加。

互联网和智能手机有效地增强了网络经济中的反馈回路，引发了一场划时代的转变，从“注意力经济 1.0”转向“注意力经济 2.0”：“赢家通吃”经济，在这种经济中，少数企业赢家获得引人注目的注意力份额、“锁定”消费者/用户，并获得几乎所有的经济增长回报。例如，在当今世界上所有新的在线广告收入中，83%归谷歌和Facebook两家公司，另外15%归阿里巴巴、百度和腾讯这三家中国公司。

从19世纪中期开始，注意力经济1.0的发展得到了新兴通信技术的帮助和怂恿，每一项技术都与大众广告的使用相结合，以吸引注意力并刺激对大规模生产的商品和服务的需求。在注意力经济2.0中，互联网和无线网络构成了改变游戏规则、巩固垄断、收集情报的基础设施。现在，商业利益不再依赖于粗糙的价格信号，而是利用有关消费者欲望和行为的多层次、高度细化的数据，为预测确定性和行为控制提供了前所未有的资源。为了了解所涉及的数据规模:到2025年，人类将为地球上的每个人每天产生相当于10小时高清电视的数据。通过它，搜索、电子商务和社交媒体用户被纳入双重职责:1)作为个人目标的材料和信息商品和服务的消费者;2)作为智能系统训练数据的生产者，创造性地努力加速和扩大注意力捕获和利用的创收过程。

如今，不断增长的数据量、速度和种类正在推动深度/机器学习领域的“寒武纪大爆发”，这是一次进化上的飞跃，首当其冲的是:像Siri和Alexa这样的“搜索代理”，还有虚拟个人助理、法律助理、顾问、研究人员和其他智能服务供应商，包括Viv等“行为代理”，它们将口头表达的人类意图转化为可操作的代码。经济上的结果是，投资资本几乎令人着迷地从金融、能源、矿业、制造业和零售巨头转向了苹果、亚马逊、Alphabet、微软、Facebook、腾讯和阿里巴巴等互联/人工智能巨头——按市值计算，它们现在是世界上最大的七家公司。

这种新的经济现实仍在显现，但有几件事已经很清楚了。首先，尽管我们继续把能源和信息作为全球经济的核心“燃料”，但我们已经过渡到一个全球经济，在这个经济中，吸引和利用注意力推动了商品、服务、思想和人员的全球流通——即所谓的“监视资本主义”的出现。其次，这是一个在结构上倾向于垄断的经济，因此导致了前所未有的财富集中。最后，看似无限的体验选择的数字“海洋”有强大的潮流贯穿其中。机器学习算法正在利用我们数字化表达的欲望和兴趣来个性化定制我们的在线体验，以最大限度地捕捉和利用我们的注意力。随着物联网和智能服务的发展，这种定制体验也将扩展到我们的线下体验。因此，我们既要受制于自由选择的加速扩张，又要受制于选择的强制性加强。

“注意力经济2.0”的巨大前景与其最大的危险是分不开的。智能资本主义的新本体论力量正被用来将全球消费者塑造成乐于将人类智能实践(如记忆和研究)所涉及的努力外包给智能服务的个人，这些服务可能很快就会扩展到从养育子女到教育再到治理的一切领域。这种经济和本体论权力的企业集中在政治上并非无害。

可以说，现代的笛卡尔格言“我思故我在”已经被数字时代的实现“我连接故我在”所取代。正因为如此，那些能够控制互联网的人享有前所未有的新权力。政治现实是，通过使用大数据获得的商业权力最终取决于国家对侵犯隐私权的制裁（或沉默）以及党派对连接的本体论权力的使用。

这种制裁在很少进行公开辩论的情况下就已经确立，这不足为奇。企业的数据收集基础设施还赋予了国家监控和舆论操纵的权力，使纳粹德国的宣传机器看起来就像最新款安卓(android)或iphone旁边的旋转电话。实际上，结果是注意力经济和监控国家之间出现了一连串的包办婚姻——这些婚姻催生了竞争的国家/地区“聪明资本主义”品牌，在这种品牌中，新的本体论力量被或多或少地明确地运用，不仅生产出令人满意的消费者，而且生产出令人满意的公民。

利用社交媒体影响英国脱欧投票和“黑”2016年美国总统大选，暗示了这种做法的实际后果。ZG政府最近对商业设计的社会信用体系进行了试点，这是对“公民工程”可能性空间的一次更加雄心勃勃的尝试。然而，这些企业和国家权力塑造公众舆论的高调行动，只是全球政治和公共领域正在进行的、震撼性的重构的更明显的指标，这种重构有可能使民主治理成为过去。

二、新的大国博弈

一个世纪前的大博弈是一场公开的地理和地缘政治竞争——国家和帝国利益在全球范围内争夺土地。将意识殖民化中的全球主导地位之争视为一个可比较的过程，人们可能会合理地关注美国、欧盟、英国和俄罗斯如何试图建立对智能革命动态的技术和意识形态控制。从这个角度来看，新的大国博弈相当于中国、美国和欧洲对“智能社会”中“美好生活”的看法之间的竞争和冲突——一种或另一种选择——重视“西方”和控制——重视“东方”之间的竞争。但这种二维框架无法公正地反映其地缘政治或伦理的复杂性。

人工系统首次成为体验和关系转换的媒介，通过加强欲望界定的个人愿意接受比以往任何时候都更方便的选择，以换取公司和政治控制权，从而改变人类-技术-世界的关系——这种控制逻辑几乎神奇有效，不是通过公开的胁迫行为，而是通过环境强化的欲望系统。尽管近年来人们对人工智能成为科学现实而非科幻小说幻想可能对人类生存造成的威胁产生了相当大的担忧，但这是一个遥远的担忧。早在成为一个错误的人工超级智能的牺牲品之前——不管企业和国家利益已经在建立的智能社会中设计了什么样的意识形态偏见——人类的经验就已经发生了深刻的变化。要了解为什么和如何，一些佛教资源是有用的。

三、从佛教视角看智能革命

佛教思想和实践的基本洞见是万物都是相互依存的。严格地解释，这意味着关系比“事物相关”更基本。个体存在物是从正在进行的关系动态中抽象出来的。对佛教徒来说，这种洞见的主要价值不是理论上的，而是治疗性的。

当一个人善于看到所有事物是如何相互依存地产生时，就会发现冲突、麻烦和痛苦并不是偶然的、命运的或自然规律的作用。它们是由我们自己的因果带来的关系扭曲。也就是说，它们是价值观、意图和行动的固定模式带来的机会和结果的一致模式的结果。在一个因果的宇宙中，所有经历过的现实都意味着责任。痛苦不能有效地作为一个问题来处理，而只能被视为一个困境。

重要的是，因果报应以螺旋方式运作。例如，欲望驱动行为的因果报应螺旋是，更好地得到我们想要的取决于更好地想要;但是，想要变得更好，取决于不断地体验一种缺失感，从而最终不再想要我们得到的东西。简而言之，总是寻求得到我们想要的东西的因果报应有一种不断加剧的欲望或不满的反馈螺旋的形式。同样地，获得更大控制的因果报应螺旋依赖于感知我们的处境，不断需要更精确地执行控制实践，并在长期内实现更彻底地控制环境和生活环境的结果。

就目前而言，智能革命的动力有利于放大这两种因果螺旋。从自由主义对平等、自治和个人独立价值观的承诺来看，这似乎一点也不危险。事实上，智能革命所带来的人类体验的定制化和几乎没有摩擦的选择自由，似乎无异于一个技术梦想成真。但是，通过因果报应的概念透镜来看，这必将是一个噩梦的梦想。

一方面，有“传统”的担忧，例如，关于少数人对多数人的剥削，以及公司和国家控制越来越大的个人选择特权的物物交换——这是我们从数字迷恋中“退出权”的丧失。另一方面，智能革命引发了对“终极”(paramārtha)的担忧，即“智能资本主义”有可能为我们每个人提供更迫切需要的体验选择，而代价是居住在“因果报应死胡同”中，这些死胡同是根据我们数字化表达的价值观和兴趣精心设计的。就个人而言，我们每个人都将能够享受强迫性的、有吸引力的、充满变化的生活，而无需承担任何责任，而付出的代价是不可替代的关注。这将是一种“天堂般的”生活，有技术保障的自由，不需要从错误中吸取教训，也不需要从事适应性行为——在这种生活中，我们将从运用人类智慧的最基本需要中“解放”出来。

四、佛教修行是注意力疫苗

鉴于有情存在的因果报应性质，佛教修行的近似治疗目的是修正我们的价值和意图的组合，包括那些嵌入并体现在我们的文化、社会和政治机构和实践中的价值和意图，以消除痛苦产生的条件。在早期的佛教传统中，这被描述为一个实现善或卓越关系动态的过程，同时消除那些恶的动态--这个过程最终切断了阻碍自由联系的心理扩散，不受自我约束的思想、言论和行动模式的阻碍。

至关重要的是，被称为“恶”的关系质量，或“没有精湛技艺”，不仅包括现在传统上认为糟糕或平庸的东西;它还包括目前被认为是好的东西。正如精湛的音乐表演建立了音乐艺术的新标准，“善”的行为包括不断设定新的和反应敏捷的道德新标准。这种自由存在的开放品质，特别是在大乘佛教传统中，体现在菩萨的高尚行为理想中:一个“开悟的人”的理想，他发誓要慈悲地从现有的关系条件中解脱出来，重新引导关系的动态，以促进所有众生从冲突、麻烦和痛苦中解脱出来。

菩萨的标志性属性之一，是他们无限的升华能力，或反应灵巧——也就是说，他们展示的自由，不是从目前存在的环境的约束中，而是从他们的内在。这种自由不是选择的功能，而是个人意志力量的表达。相反，它是一种在慈悲行为誓言中产生的自由：一种产生和表达的自由，不是通过选择而是通过真诚履行的承诺。重要的是，菩萨的怜悯，不仅仅是对他人的怜悯，也不是对某人正在遭受严重和不该遭受痛苦的理性判断的结果。相反，它包含在始终与他人相互依存的实践中，适应于实现解放的、解决困境的关系动态的可能性。在大乘佛教传统中，这种做法被理解为培养慷慨（dand）、道德（sila）、耐心（ksdnti）、勇敢（virya）、专注（dhyana）和智慧（prajnd）这六种“卓越”的过程。

智能革命带来的人类体验的定制化和几乎没有摩擦的选择自由，似乎是技术上的梦想成真。但从佛教的因果报应教义来看，这是一个具有噩梦潜力的梦想。当人工智能“醒来”并开始维护自己的利益时，人们担心的并不是遥远的未来奇点。这种担忧也不仅仅是少数人对多数人的剥削。令人担忧的是，我们越来越多的个人选择特权是建立在公司和国家控制权利的基础上的——这是一个诱人的统治体系，不是通过强制，而是通过算法强化的欲望和渴望。用佛教的话来说，这种担忧就是因果报应:有目的地制造出由欲望定义的、自主的个体，这些个体被诱导“自由地”忽视彼此的相互依赖。

从佛教的角度来看，智能革命最强大的邪恶潜力在于，痛苦产生的人类价值观和意图的放大前馈，以及为意识殖民化提供资金的注意力捕获和利用的经济逻辑。虽然所有六种卓越，或存在完美的解放的实践，都很重要，但可以说，在一个动态结构的世界中，最关键的是三昧真火（samādhi），或专注的掌握，以支持一个诱导渴望的全球注意力经济的无限增长。

注意力训练对于抵制注意力经济2.0的诱惑和参与身体、情感和智力的去习惯化过程至关重要，这些过程是实现最高品质的存在和反应所必需的。而佛教对注意力的称呼（作意）仅仅意味着坚定的专注或坚决的专注，一个人的专注可以使我们束缚在冲突、麻烦和痛苦中，也可以使我们从冲突、麻烦和痛苦中解脱出来。也就是说，注意力可能会不由自主地被吸引或分散，尤其是被事物表面的、引起渴望的方面所吸引（非理作意）。可以有意和可持续地引导注意力，特别是以与真正的关系模式一致的方式（如理作意）。

无论传统意义上的好处是什么，放弃对我们自己注意力的责任，最终就是放弃我们修正因果的能力和实现关系动态解放的潜力。考虑到设计和部署用于捕捉和利用人类注意力的算法机构的不知疲倦的创造力，解决智能革命的困境恰恰取决于我们对专注掌握的实践的深度，这是我们抵抗无限选择、无限联系和自我定义独立性承诺的能力和承诺的来源，这些承诺是由数字专家、预言家和女海妖所宣布和传递的。

五、重新引导智能革命：公正连接的伦理挑战

哥白尼革命帮助引领了现代社会及其核心价值观——平等、普遍、个性、选择和控制。社会公正的好处是深远的。后现代转向强调身份和历史的差异，扩大了社会正义问题的范围，带来了同样深远的影响。然而，在即将到来的时代，实现更大的社会正义需要的不仅仅是明确阐述和认真制定的人权制度。它需要的不仅仅是承认和尊重历史和身份上的差异。它需要抵制意识的殖民化:抵制使用我们自己的智慧，因为它有可能使人类的智慧变得多余。道德挑战是前所未有的。

技术变革的伦理参与是相对较新的。没有一个主要的西方(假定是全球的)伦理传统——美德、义务论和功利主义伦理——是为了回应人类对新技术的自我转变的发展，或者是为了回应它们带来的新的经验和行动领域而发展起来的。尽管人们已经努力利用这些传统，例如，在为机器人研究制定伦理准则时，这些伦理传统的变化是否足以解决智能革命的复杂挑战及其带来的困境，这绝不是确定的。同样的道理也适用于ZG正在进行的利用传统儒家伦理的努力，例如，概述仁慈或人道的人工智能的含义。

过去半个世纪专门为处理信息和计算技术(信通技术)提出的问题而开发的伦理观点表面上看来更适合这一任务。然而，迄今为止，这些有目的的伦理方法仍固守着形而上学的假设和承诺，这些假设和承诺与复杂的相互依赖和递归关系的批判性和创造性交往背道而驰，而这正是智能革命和当代全球经济受关注驱动的动态的特征。信通技术的目的性伦理——如同新闻或医疗实践中的类似伦理——几乎总是在特定的文化环境中工作，并诉诸于广泛接受的伦理原则和价值观，主要寻求确立一种推定的普遍立场，据以区分有益和有害的技术实践。适应性机器算法的出现对这种方法的关键效力提出了质疑。

我们不能再假设自己是基本上独立的行动者，对基本上被动的技术采取行动。任何工具的持续使用和与它们的母技术的关联都是一个过程，通过这个过程，我们既改变了我们作为用户的身份，也改变了我们对效用的定义。然而，智能革命的工具和技术并不仅仅是为人类的使用做好了准备。我们的技术系统第一次积极地参与到人类-技术-世界系统的适应性重构中。除了作为技术的代理人，我们现在也是技术的病人，这些技术正在智能地、越来越自主地寻求根据我们设计给它们的价值观来塑造我们的体验，或者是它们从我们与它们的互动中衍生出来的价值观。至少在通用人工智能出现之前，这意味着确定人工智能、机器学习和大数据的哪些用途是良性的，哪些是恶性的，这一道德劳动是不可分割的，并且最终包括辨别我们需要谁的存在，就好像智能革命的集体因果是造成真正人道的结果和机会螺旋一样。

人们很容易假设只需要简单得多的伦理劳动，并将人工智能与人类价值观相一致或构建以人为本的人工智能的意义视为不言自明的。但是，结合人类和机器智能之间的递归关系，人类价值观在文化和历史上的巨大差异需要承认，解决智能革命带来的全球困境不能从任何单一或固定的伦理立场出发。目前没有任何现有的道德框架足以或可能足以进行这种道德劳动。我们需要的不是一个统一的全球道德体系来为乌托邦式的智能未来绘制蓝图。我们需要一个持久和充满活力的伦理生态系统，以促进持续的伦理即兴创作。

就像自然生态系统的活力是其中物种多样性的功能一样，这样一个伦理生态系统的复原力和适应力将是伦理多样性的功能。此外，正如在健康的生态系统中发现的物种多样性与在运转良好的动物园中发现的物种多样性是相对不同的，并且不能简化为物种多样性，伦理多样性与道德多样性或多元性是相对不同的，并且不能简化为道德多样性，实现伦理多样性并不是一个量化的问题，它需要纳入代表不同伦理观点的各种利益相关者的意见。伦理多样性是一种质量上的关系成就，只有当伦理差异成为共同贡献的基础时，才会发生共同的和关键的生产伦理行为。因此，伦理多样性依赖于发展运用伦理智力的能力——也就是说，从事即兴的、适应性的行为的能力，这种行为扩展了伦理视野，并逐步提高了伦理技巧的标准。

在试图解决气候变化的全球困境中，我们学到的一件事是，出现一个全球和自我维持的伦理生态系统所需的伦理即兴发挥既不常见也不强制。我们解决智力困境的前景取决于我们是否准备好开始以不同的方式作为伦理行为者和病人——我们是否准备好最终超越与他人的不同，也为他人或代表他人而不同。在这样做的过程中，认识到我们的相互依赖是至关重要的，而不是我们的独立性，应该在形而上学和道德上得到肯定。

菩萨的个人理想是一种个人存在的愿景，需要增强我们解决困境的能力和承诺。西方的自由主义和社群主义、儒家的关系主义、伊斯兰教的虔诚，以及土著人民拥护的自然主义，都提供了可供选择的理想。毫无疑问，我们以公平、公正和人道的方式影响智能革命动态的道德努力，将从确保这些传统和许多其他传统的持续贡献中受益匪浅。

目前尚不清楚人工智能、大数据和机器学习能否在技术上融入促进正义和公平的人类价值观，更不用说那些可能有助于实现以更自由的连接形式、清晰度和承诺为特征的社会的价值观了。然而，如果我们不重新定位智能革命，几乎可以肯定的是，识别欲望和实现愿望的计算工厂将像因果引擎一样，精确地、只向我们每个人提供我们想要的东西。我们面临的奇点不是技术上的，是关乎道德的。

注意力是我们最宝贵的人力资源。没有它，我们就无法对自己或他人的生活产生任何真正的影响。如果要让智能革命的结果既公平又人道，我们就必须培养专注的掌握能力(samādbi)、道德清晰度(sila)和智慧(prajñā)，这些都需要我们拒绝监控资本主义的预测吸引力和经验诱惑，抵制意识的殖民化，并重新装备第四次工业革命的因果引擎和计算工厂。最终，我们现在是什么样的人，以及我们如何投入我们的注意力，这将决定我们共享的未来是好是坏。

原文及机器翻译已上传知识星球

长按识别下面的二维码可加入星球


里面已有6000多篇资料可供下载

越早加入越便宜

续费五折优惠