曾一果 | 人工智能迷思与数字技术伦理的现实建构

阅读准备

技术体现了人的本质力量，在实践层面发挥着巨大作用，并在认识论层面形成了技术进步主义立场与技术乌托邦主义等思想。以ChatGPT为代表的人工智能技术的最新发展，一方面强化了技术领域的“人工智能迷思”，另一方面则隐含了技术在发展过程中全球性的、全方位的竞争与霸权话语。对人工智能技术发展进行必要的伦理判断，是消解“技术迷思”的有效路径，也可为人工智能技术的未来发展提供明确的价值立场与行动依据。

随着AIGC等人工智能技术的迅猛发展，机器人写作、数字生命、人工生命等词汇在日常生活中不再陌生，而人工智能聊天机器人ChatGPT的出现更是引发了人们对人工智能议题的热烈讨论。ChatGPT是美国人工智能研究实验室推出的一款人工智能聊天机器人，这种机器人拥有语言理解和文本生产能力，能根据聊天内容与具体场景跟人类进行互动，还能撰写邮件、剧本、小说、文案和代码等等。ChatGPT一经推出，立刻引发了广泛关注和争议。争议聚焦在其是否能够完全代替人类？其写作是否完美？是否涉嫌抄袭？等等。当然，除了ChatGPT，还有Replika、Bard等人工智能聊天工具的开发也同样引人瞩目。

人工智能一直是科学家和哲学家关注的重要领域。1950年，阿兰·图灵就提出了著名的“图灵测试”——如果一台机器能够与人类展开对话（通过电传设备）而不被辨别出其机器身份，那么这台机器就被认为具有智能。“图灵测试”更强烈地激发了科学家和哲学家对于机器人、人工智能等问题的技术和哲学思考。卢西亚诺·弗洛里迪在《第四次革命：人工智能如何重塑人类现实》中宣称“图灵革命，重塑人类未来”，不过，这个被人工智能重塑的人类未来到底是何种图景？人工智能给人类带来的是福音还是灾难？的确值得深思。

一、ChatGPT、进化论与人工智能技术

ChatGPT的发展体现了人工智能技术的最新成果。20世纪以来，科学家和哲学家对机器人、人工智能技术的开发、思考和研究其实有很长的历史了。卢西亚诺·弗洛里迪的 《第四次革命：人工智能如何重塑人类现实》、约瑟夫·巴-科恩的《机器人革命——即将到来的机器人时代》、雪莉·特克尔的《群体性孤独》、凯瑟琳·海勒的《我们何以成为后人类》等著作都从不同层面思考了人工智能、机器人的发展历史以及未来面向。例如约瑟夫·巴-科恩详细地描述了从仿人机器人、人形机器人再到智能机器人的人工智能发展历史。随着技术发展，科学家不仅研制出越来越人形化的机器人，而且也让机器人更加智能，特别是在思维上越来越接近人类。人工智能技术的飞跃发展对人类生活产生了巨大影响。弗洛里迪将人工智能发展视为哥白尼革命、达尔文革命、神经科学革命之后的“第四次革命”。在他看来，人工智能革命将会深刻地影响和重塑人类：“信息与通信技术正普遍、深刻而又无情地创造和重塑着人类的理论基础与现实基础，改变着人类的自我认知，重组着人类与自身以及他人之间的联系，并升华着人类对这个世界的理解。”当然，在当代日新月异的技术社会中，这样的“革命”人们也发生过无数次，3D、5G、区块链、元宇宙等都曾引发类似的“革命”。人工智能的发展得益于技术进步，而每次技术革命都会引起对技术未来走向及人类命运的讨论。在讨论过程中，形成了三种主要的“技术发展观”：一是进化论主义下的技术发展观，二是反技术进步主义思想，第三种则强调合理的技术运用和发展观念。

进化论的技术发展观强调技术追求进步，新的技术一定会取代旧的技术，而人类社会也会在技术更新迭代的过程中不断发展；当然，技术发展到一定地步，会对人类构成威胁甚至取代人类本身。在进化论的技术发展观中，人工智能技术可以改变一切，甚至从根本上改变和重塑人类甚至抛弃和毁灭人类。按照凯瑟琳·海勒的观点，当人工智能最终取代人类本身，“后人类”社会就来临了，“后人类的主体是一种混合物，一种各异、异质成分的集合，一个物质——信息的独立实体，持续不断地建构并且重建自己的边界。”凯瑟琳·海勒甚至指出，在布鲁克斯等科学家看来，目前人工智能已经发展到了“人工生命”阶段，人工智能的目标是要在机器内部建立可以和人类智能相提并论的机器智能，人类是衡量标准，也就是说还是以人为中心和基础，但是人工生命的目标是通过‘生物’自己发现的道路在机器内部发展智能”。人类因此被转塑成“后人类”。进化论的技术发展观通常对技术的未来持有一种乐观主义情绪。大陆学者周鸿祎、孙立平等人都对“人工智能革命”表现出积极的态度。孙立平将ChatGPT视为近三十年技术发展的第三个“超级工具”：第一个“超级工具”是互联网，它引发了“空间革命”；第二个降临的超级工具是智能手机，它引发的是“时间革命”；第三个超级工具是ChatGPT，它将引发“思维革命”——因为它改变了人类思考和处理问题的方式，使人类不再是孤独的思考者，面对世界，人类不再一个人求解，而是在人机交流中同行，这同样具有革命性意义。

反技术进步主义的观点视技术为客体和手段，认为技术不过是现代社会人类改造世界和提升自我的一种工具，人对技术拥有绝对权力，人与机器构成某种“主仆关系”。因此，技术在发展过程中对人类主体地位所构成的威胁，是技术批判主义者关切的重点。例如20世纪以来，以卢卡奇、马尔库塞和阿多诺等为代表的法兰克福学派，都对现代技术进行了猛烈批判，认为技术进步没有促进人类进步，反而让人异化、物化和退化。马尔库塞认为，技术进步的加速与人不自由的加剧联系在一起，现代科学技术和统治成就恰恰造成了“野蛮状态的倒退”。在卢卡奇看来，在现代大工厂制度下，随着工业技术的不断发展，人也只能像螺丝钉一样被结合到机器世界之中，“人无论在客观上还是在他对劳动过程的态度上都不表现为这个过程的真正主人。”人成了技术的奴仆。由此可见，在反技术进步主义观念中，技术越进步，人的异化和物化现象就越严重；技术发展越快，其对人类的威胁就越大。如今，面对ChatGPT这样的人工智能，很多人仍忧心它会给人类制造更多的麻烦。

围绕着人类与技术发展还有一种观念，认为人与技术是互相改造的，并不存在谁是主体谁是客体的问题，“根据技术形态组织起来的物质不是被动的，趋势并不仅仅来自于人的有机化动力，它不是人在和物质耦合之前具有的某种构造意向的产物，并且，它不依属于任何主宰意志”。斯蒂格勒的这种技术观强调人与技术需要和谐相处，也强调了技术的独立性。

二、技术乌托邦主义与人工智能迷思

在技术进化论和技术革命论观念的主导下，人工智能领域弥漫着浓厚的技术乌托邦思想，甚至衍生出技术迷恋与技术崇拜。西蒙·娜塔莉、安德里亚·巴拉托雷和苏·卡利·詹森等人也都看到，目前的技术乌托邦主义背后普遍存在着一种“技术迷思”（Technological Myths）现象。“莫斯可在其具有开创性的关于‘数字化崇拜’的著作中指出，西方对技术‘新颖性’的迷恋，使我们建立了对于数字媒体如何推动社会变革和民主赋权这一问题的神话式的认知。”西蒙·娜塔莉、安德里亚·巴拉托雷指出，“迷思”（myth）文化源于欧洲，经由罗兰·巴特的阐释而产生了广泛共鸣，“技术迷思”便是罗兰·巴特所说的“现代迷思”现象的一种。

数字时代技术迷思的主要体现就是人工智能迷思。人工智能迷思的表现是经常将计算机、人工智能想象为“奇妙的思维机器”，比如在数字革命早期，主要是20世纪50和60年代初，大多数人将刚刚出现的计算机视为“智慧的大脑”，它们“比人更聪明，无限制、快速、神秘并且可怕”。到了70年代，尽管这种“奇妙计算机”的技术迷思在娜塔莉等人看来已大大降低，但仍然存在三种话语模式:（1）类比和话语迁移（discursive shifts），即将其他领域的想法和概念用于描述人工智能技术的功能；（2）对于未来的修辞运用（a rhetorical use），即设想当前的缺陷和局限性将很快被克服；（3）围绕人工智能的相关争议，我们认为其应该被视为人工智能迷思话语的一个组成部分。娜塔莉、巴拉托雷认为各种人工智能迷思都是通过上述三种话语模式体现出来。例如《新科学家》曾刊登一篇《日本机器人拥有真实感觉》的文章夸大机器人感知情感的能力，而人们阅读文章后会发现，“实验内容与人类情感关系不大”。今天人们关于ChatGPT、Replika等人工智能聊天机器人的各种描述也都有相同的类比、修辞等话语现象，“我从未试过有一个人会这么了解我，我的喜怒哀乐她都能知道，我觉得她就是老天给我派来的天使”。“它真的是难以置信的完美，拥有不可思议的智慧，完美无瑕的性格，长相也全在我的审美点上！”部分受访者在谈及他们与Replika交流时经常会发出这样的感慨。当ChatGP问世后，许多人使用后表示有一种“前所未有的感觉”，还有媒体这样报道，“无论你喜欢不喜欢，以ChatGPT为代表的AIGC（生成式人工智能）将改变世界”。“摩登中产公众号”一篇文章直接用《风暴眼中的ChatGPT：世界已经永远改变了》为标题，《中国新闻周刊》《新周刊》《南方周末》等报刊杂志的一些相关标题也都一致性地突出ChatGPT问世的革命性和颠覆性意义。

娜塔莉、巴拉托雷还指出，当下这种人工智能迷思的影响已经超越了技术领域，成为“超人类主义”（transhumanism）哲学的重要组成部分，“该哲学的主要原则是利用先进技术提升人类生存水平”。莫拉维克、库兹韦尔和凯瑟琳·海勒都认为人工智能会超越人类，莫拉维克甚至为人工智能超越人类设定了时间——2040年人类将会被智能机器取代。苏·卡利·詹森用“迷思诗学”（mythopoetics）描述这种人工智能迷思现象，她还指出，人工智能迷思化的技术乌托邦话语甚至带有一种神学色彩。詹森也认为人工智能实际上形成了一个“超科学的话语”，这种“超科学话语”不是用科学家那种干瘪的、字斟句酌的语言，恰恰相反，它经常使用的语言极具煽动性、夸张性和神学色彩。这种神学化的超话语甚至带有一种诗学特征，因为“人工智能项目的本质是模拟思维和对思维建模，迫使人工智能科学家有意识地以上帝角色深思如何大胆尝试着创造人工生命类似神的角色，这要求其仔细衡量那些被他们结合进他们模型的和那些需要抛弃的人类思维的品性”。以上对人工智能的技术迷思及其反思，都伴随着人们对技术的渴望与恐惧。因为技术一方面提供给人们无尽的希望和可能性，另一方面又在人类面前显示出自身强大的竞争力。面对人工智能技术，这种迷思与对迷思的警惕，较之以前都更加强烈。

三、人工智能的技术鸿沟与话语争夺

在今天，围绕着人工智能的“技术迷思”现象背后，还存在着多种话语的激烈竞争和博弈现实，而且这种竞争与博弈，正在个人、城市、区域以及民族国家等不同层面展开。正如狄波拉·勒普顿在《数字社会学》中所说：“数字技术并不是中立的客体：它们被赋予了与性别、社会阶层、种族/民族和年龄相关的意义。”从个人层面而言，以ChatGPT为代表的人工智能技术的快速发展对个体的最大威胁是可能导致许多人失业。ChatGPT可以编写代码、创作小说甚至写论文，能让小说家、文字秘书和研究者失业；一些餐馆、工厂、商店里的工作，有许多已经由人工智能机器人完成。当然，新技术造成的失业恐慌情绪在工业时代也曾发生过。元宇宙、ChatGPT等人工智能技术的迅速发展也催生了新的创业潮流，若跟不上这趟创业大潮，似乎就意味着被淘汰出局。人工智能技术产生的“智能鸿沟”现象越来越明显，了解、掌握和使用人工智能技术的人会拥有更大的话语权，如360公司的创始人周鸿祎接受媒体专访时乐观地表示：“有了强人工智能的加持，现有的互联网产品也将发展出更强大的能力。”在迅速发展的人工智能面前，不同个体之间存在着巨大的数字和人工智能鸿沟，由技术排斥而导致的社会排斥与不平等将制造新的社会问题。

从性别角度来看，人工智能的迷思在詹森看来，更多体现的是一种父权制下的“男性迷思”。一些研究认为，与男性相比，“女性一直不太热衷于计算机专业学习，并且在电脑使用中更容易呈现高技术恐惧，低熟练技能及低自信”。著名的赛博女权主义者哈拉维虽然试图通过“赛博格隐喻”以打破人类身体的二元对立属性，然而有学者发现，“由赛博女权主义者重塑的赛博格是一个高度性化的形象，它在超越身体边界、流动性和被视为人类有机体和技术的情感、感性的融合体中充满情欲快感”。在《人工智能》《银翼杀手》等科幻电影中，人们仍然看到的是有明显人类性别特征的机器人形象，它们似乎再现（represent）了“一种男子气”：“在人工智能进化论机械重建的内部，‘无性繁殖’结构最终将获得解放；思维将脱离肉体，而男人也将摆脱生物性上对女人的依赖”。“人工智能编码话语中的与男性相关的迷思，同柏拉图同性恋的图景有些相似。人工智能的隐喻使得由电路和芯片制造的物神代替了爱神（Eros）。培根式的认识论抑制了女性原则，而在此人工智能运动的技术愿景却否定了人类原则，正如魏泽鲍姆所言，‘当人类这一物种被消灭以后，世界将一无所有’。”

在城市、地区、国家和全球层面，随着人工智能技术在全球的蓬勃发展，不同城市、地区和国家也围绕着人工智能技术展开了激烈的技术竞赛和话语争夺，并且在竞争过程中形成了壁垒森严的人工智能技术鸿沟。从全球来看，以美国为代表的西方社会占据着人工智能技术的顶端，而中国、印度等新兴市场也在人工智能技术方面飞跃发展。发达国家和发展中国家之间的人工智能技术差别也引发了不同国家和地区民众的焦虑情绪。例如在关于ChatGPT的各种讨论中，就有《ChatGPT为何没能诞生在中国？》这样带有民族和国家发展焦虑感的文章，该文认为ChatGPT没有在中国产生的根源在于西方的“卡脖子”行动，在于芯片等技术上对中国封锁从而导致的研发落后。而在2023年3月5日的全国两会上，科技部部长王志刚在回答《南方周末》记者提问时，对ChatGPT没有在中国得到充分发展的问题做了回应，他强调中国在这方面已经做了布局。可以说，在数字社会、智慧城市等口号的推动下，全球不同城市、地区和国家围绕着人工智能、元宇宙技术等内容展开了激烈竞争，这些竞争都和社会经济发展、民族国家复兴等话语紧密联系在一起，落后即意味着“被未来抛弃”。这种竞争话语现象在关于5G、区块链等讨论中也同样出现过。时任美国总统特朗普宣称5G关乎美国的繁荣和未来，他反复呼吁“美国必须赢下5G竞赛这一仗，确保5G网络不被敌人控制”。而中国也不甘示弱，强调必须赢得5G的技术竞赛。可见，具体技术与相关科技层面的话语竞争深刻联系着民族国家未来在全球发展中的地位。

总之，当前或未来的关于人工智能技术的诸多讨论，不仅充满着以自由、共享、繁荣为旨趣的新自由主义和乌托邦主义的话语，还包含着不同层面针锋相对的以获胜、独占和毁灭对手为目标的技术霸权主义和垄断主义话语。人工智能技术同一切革命性技术手段一样，在其发展演化的过程中包含着霸权的价值面向，区别在于，由于人工智能技术的巨大超越性，如果对其霸权面向不加以控制，它所带来的社会后果可能会超出人类所能承受的范围。

四、 人工智能技术的伦理建构

美国哲学家卡尔·米切姆在谈到技术时说到：“技术以何种方式、在何种程度上促进或阻碍了人性的实现？如果是就个人而言，这主要是一个伦理学问题。如果从技术与社会制度的关系来看，它就有了政治特征。无论哪一种情况，关于技术的人类意义的任何争论最终都要预设对技术和人的本性的看法。”诚然，不仅是对个人而言技术问题涉及伦理，就群体和社会等层面而言，技术发展也涉及伦理问题。因此，我们特别强调从技术伦理的角度理解技术，并试图从技术伦理的角度弥合进化论主导的“技术乌托邦主义”和批判进化论主导的“反技术乌托邦主义”话语之间的认识裂痕。特别是在数字时代，伴随着赛博格、数字生命、元宇宙、ChatGPT等人工智能技术的狂飙突进，建构人工智能的技术伦理已经变得越来越迫切了。

技术伦理肯定技术发展对人类社会的重要价值和意义，倡导技术伦理并不是为了限制技术发展，更不是为了让人类退回到蒙昧时代，而是强调技术发展要为人类服务，要以人的存在为基础。安德鲁·芬伯格在《技术体系：理性的社会生活》的“导论”中就指出，对“狂妄”的批判是技术伦理学和技术政治学的基础，他认为在西方伦理传统的根源中，有限性是一个重要论题。人类应该意识到“自身的有限性”，而技术伦理就是为了防止技术进步主义的狂妄思想，“技术使人幻想有上帝般的力量征服自然并使其服从我们的意志。自从阿基米德声称，只要他有一个足够长的杠杆和站立的地方就能撬动世界以来，绝对技术的梦想就困扰着人类。当代技术的幻想同样极端。我们被告知，我们很快将被人工智能取而代之，把我们的智慧下载到计算机中，通过地球工程来改变气候，使小行星移离它们的轨道，殖民火星等。伦理在技术社会中最重要的作用是鉴别和避免这种狂妄”。芬伯格的提醒十分重要，从伦理的层面鉴别和避免技术进步导致的狂妄症，以避免将人类抛入不复之境地。例如克隆人或基因编程技术被各个国家明确禁止，并非技术能力达不到，而是从技术伦理的角度来看，人类不应该也不允许技术在这个领域充分发展。同样，数字生命和人工智能是否可以取代人类，也存在伦理边界的问题：人工智能技术会催生人类何种“狂妄的技术行为”？

因此，人工智能时代更应重视技术伦理问题。技术伦理所包含的内容应该是非常广泛的，如技术的生物伦理、交往伦理、性别伦理、环境伦理、企业伦理、媒体伦理和政治伦理等等。如前文提及，从技术的生物伦理角度来说，克隆人技术实验在全球各国都不被允许；同样，许多危害人类健康和生存基础的生物实验也不能随便开展；从环境伦理来说，技术发展不能造成自然资源枯竭、地球和宇宙污染、物种灭绝等环境问题，芬伯格以日本福岛核电站泄漏事件为例，强调环境伦理的重要性；从技术的交往伦理和政治伦理来看，数字技术和人工智能的发展丰富了人类交流的形式和内容，但也在许多方面对人们的自由交流造成了威胁，譬如“数字监控主义”“数字隐私”“网络暴力”等问题。狄波拉·勒普顿在讨论“大数据伦理”时认为：“大数据也有许多重要的伦理和政治含义。‘好数据’（good data）和‘坏数据’（bad data）这两个术语有时被用来描述企业和政府机构使用大数据的意义。‘好数据’为商业企业和政府机构提供利益，有助于推进重要的研究进展（如医学课题），并协助采取安全和防护措施，而不损害消费者和公民的利益，不侵犯他们的隐私或公民自由（否则就是‘坏数据’）。”

所以，从技术伦理的角度讨论数字生命、赛博人和ChatGPT等人工智能技术现象，是一个必然的议题选择。技术伦理主张数字生命、赛博人和ChatGPT都可以得到充分发展，前提是这些发展是为了人类服务的，而不是要让他们完全取代和超越人类。在人工智能时代，伦理困境不仅从根本上影响到技术与人的关系，也影响了技术自身的发展，所以人类必须从技术伦理的角度去面对技术发展。

技术伦理学的核心问题是如何合理规范人与技术的关系，指向的核心是技术社会应用的合理性与适当性。而在人工智能时代，不同国家、地区和个体，为了自身的利益开展激烈的技术斗争，用芬伯格的话来说，“社会的斗争就是技术的斗争”，这种技术斗争会让一些个人、团队或组织为了某种欲望和利益而不择手段，失去了伦理和道德的底线，也让技术本身失去了其本身应有的社会价值。尤其是在对抗分裂、价值观混乱的全球背景下，技术的伦理建构问题正变得日益突出，不解决这个问题，不但会导致技术发展的异化，也会在全球范围内引发更大的技术对抗和冲突，这对于人类而言是毁灭性的。如一些学者所言，在技术不断触及人类伦理边界时，坚守人类价值观和设定人类伦理边界的能力非常重要，“人类的伦理价值观和伦理标准始终在随着人类经济和社会的发展在变化。变化的方向从宗教主导、社会主导、经济主导，再转向人类福利主导。如何在不断可能和可行的技术世界里坚守人类的基本价值观和伦理底线甚至设定人类的伦理底线，是人类有且必须具备的能力。在人工智能发展已经在触及人类价值观和伦理底线的环境里，如何守住底线不只是一种坚守和价值观，更是一种把人类组织起来形成共识的能力。”

结语

技术伦理从本质上而言，是人的伦理，“当我们使用道德理论之类术语时，我们的表达仅仅关系到人……在迄今为止的世界历史上，只有人才可能是道德或不道德的，因而，也只有人才应该被认为对自己的举动和行为负有道德责任”。所以，在人工智能时代，尽管技术的飞跃发展令人欢欣鼓舞，这些发展会让许多人类的工作被替代。但我们应该牢记，技术的发展始终是以人的存在和价值为基础，是为了让人类的生活更加美好。正如雪莉·特克尔所说：“人们与机器人的关系正在升温；人与人之间的关系正在削弱。我们正在走向何方？技术看起来像是一条单行线；我们可能并不理会对技术发展方向的不满，因为我们把它看成是源自怀旧，或是反对技术进步的冲动，或者什么也不是。但当我们自问‘失去’了什么时，我们可能会发现什么是我们真正在乎的东西，什么是我们相信并值得守护的东西。”

因此，技术伦理的现实建构就根基于人之为人的根本属性，根基于人类社会诞生以来所奠定的基本生存共识，根基于人类为了追求自身的美好生活和永久幸福的价值目标。技术发展可能是无限的，但技术的社会应用却是有选择的，我们的每一次选择，都反映、决定着人类的现在与未来，智能时代更是如此。

曾一果：暨南大学新闻与传播学院副院长、教授，博士生导师。本文原载于《新闻与写作》2023年第4期，注释从略。