曾一果 | 人工智能迷思與數字技術倫理的現實建構

閱讀準備

技術展現了人的本質力量，在實踐層面發揮着巨大作用，并在認識論層面形成了技術進步主義立場與技術烏托邦主義等思想。以ChatGPT為代表的人工智能技術的最新發展，一方面強化了技術領域的“人工智能迷思”，另一方面則隐含了技術在發展過程中全球性的、全方位的競争與霸權話語。對人工智能技術發展進行必要的倫理判斷，是消解“技術迷思”的有效路徑，也可為人工智能技術的未來發展提供明确的價值立場與行動依據。

随着AIGC等人工智能技術的迅猛發展，機器人寫作、數字生命、人工生命等詞彙在日常生活中不再陌生，而人工智能聊天機器人ChatGPT的出現更是引發了人們對人工智能議題的熱烈讨論。ChatGPT是美國人工智能研究實驗室推出的一款人工智能聊天機器人，這種機器人擁有語言了解和文本生産能力，能根據聊天内容與具體場景跟人類進行互動，還能撰寫郵件、劇本、小說、文案和代碼等等。ChatGPT一經推出，立刻引發了廣泛關注和争議。争議聚焦在其是否能夠完全代替人類？其寫作是否完美？是否涉嫌抄襲？等等。當然，除了ChatGPT，還有Replika、Bard等人工智能聊天工具的開發也同樣引人矚目。

人工智能一直是科學家和哲學家關注的重要領域。1950年，阿蘭·圖靈就提出了著名的“圖靈測試”——如果一台機器能夠與人類展開對話（通過電傳裝置）而不被辨識出其機器身份，那麼這台機器就被認為具有智能。“圖靈測試”更強烈地激發了科學家和哲學家對于機器人、人工智能等問題的技術和哲學思考。盧西亞諾·弗洛裡迪在《第四次革命：人工智能如何重塑人類現實》中宣稱“圖靈革命，重塑人類未來”，不過，這個被人工智能重塑的人類未來到底是何種圖景？人工智能給人類帶來的是福音還是災難？的确值得深思。

一、ChatGPT、進化論與人工智能技術

ChatGPT的發展展現了人工智能技術的最新成果。20世紀以來，科學家和哲學家對機器人、人工智能技術的開發、思考和研究其實有很長的曆史了。盧西亞諾·弗洛裡迪的 《第四次革命：人工智能如何重塑人類現實》、約瑟夫·巴-科恩的《機器人革命——即将到來的機器人時代》、雪莉·特克爾的《群體性孤獨》、凱瑟琳·海勒的《我們何以成為後人類》等著作都從不同層面思考了人工智能、機器人的發展曆史以及未來面向。例如約瑟夫·巴-科恩詳細地描述了從仿人機器人、人形機器人再到智能機器人的人工智能發展曆史。随着技術發展，科學家不僅研制出越來越人形化的機器人，而且也讓機器人更加智能，特别是在思維上越來越接近人類。人工智能技術的飛躍發展對人類生活産生了巨大影響。弗洛裡迪将人工智能發展視為哥白尼革命、達爾文革命、神經科學革命之後的“第四次革命”。在他看來，人工智能革命将會深刻地影響和重塑人類：“資訊與通信技術正普遍、深刻而又無情地創造和重塑着人類的理論基礎與現實基礎，改變着人類的自我認知，重組着人類與自身以及他人之間的聯系，并升華着人類對這個世界的了解。”當然，在當代日新月異的技術社會中，這樣的“革命”人們也發生過無數次，3D、5G、區塊鍊、元宇宙等都曾引發類似的“革命”。人工智能的發展得益于技術進步，而每次技術革命都會引起對技術未來走向及人類命運的讨論。在讨論過程中，形成了三種主要的“技術發展觀”：一是進化論主義下的技術發展觀，二是反技術進步主義思想，第三種則強調合理的技術運用和發展觀念。

進化論的技術發展觀強調技術追求進步，新的技術一定會取代舊的技術，而人類社會也會在技術更新疊代的過程中不斷發展；當然，技術發展到一定地步，會對人類構成威脅甚至取代人類本身。在進化論的技術發展觀中，人工智能技術可以改變一切，甚至從根本上改變和重塑人類甚至抛棄和毀滅人類。按照凱瑟琳·海勒的觀點，當人工智能最終取代人類本身，“後人類”社會就來臨了，“後人類的主體是一種混合物，一種各異、異質成分的集合，一個物質——資訊的獨立實體，持續不斷地建構并且重建自己的邊界。”凱瑟琳·海勒甚至指出，在布魯克斯等科學家看來，目前人工智能已經發展到了“人工生命”階段，人工智能的目标是要在機器内部建立可以和人類智能相提并論的機器智能，人類是衡量标準，也就是說還是以人為中心和基礎，但是人工生命的目标是通過‘生物’自己發現的道路在機器内部發展智能”。人類是以被轉塑成“後人類”。進化論的技術發展觀通常對技術的未來持有一種樂觀主義情緒。大陸學者周鴻祎、孫立平等人都對“人工智能革命”表現出積極的态度。孫立平将ChatGPT視為近三十年技術發展的第三個“超級工具”：第一個“超級工具”是網際網路，它引發了“空間革命”；第二個降臨的超級工具是智能手機，它引發的是“時間革命”；第三個超級工具是ChatGPT，它将引發“思維革命”——因為它改變了人類思考和處理問題的方式，使人類不再是孤獨的思考者，面對世界，人類不再一個人求解，而是在人機交流中同行，這同樣具有革命性意義。

反技術進步主義的觀點視技術為客體和手段，認為技術不過是現代社會人類改造世界和提升自我的一種工具，人對技術擁有絕對權力，人與機器構成某種“主仆關系”。是以，技術在發展過程中對人類主體地位所構成的威脅，是技術批判主義者關切的重點。例如20世紀以來，以盧卡奇、馬爾庫塞和阿多諾等為代表的法蘭克福學派，都對現代技術進行了猛烈批判，認為技術進步沒有促進人類進步，反而讓人異化、物化和退化。馬爾庫塞認為，技術進步的加速與人不自由的加劇聯系在一起，現代科學技術和統治成就恰恰造成了“野蠻狀态的倒退”。在盧卡奇看來，在現代大工廠制度下，随着工業技術的不斷發展，人也隻能像螺絲釘一樣被結合到機器世界之中，“人無論在客觀上還是在他對勞動過程的态度上都不表現為這個過程的真正主人。”人成了技術的奴仆。由此可見，在反技術進步主義觀念中，技術越進步，人的異化和物化現象就越嚴重；技術發展越快，其對人類的威脅就越大。如今，面對ChatGPT這樣的人工智能，很多人仍憂心它會給人類制造更多的麻煩。

圍繞着人類與技術發展還有一種觀念，認為人與技術是互相改造的，并不存在誰是主體誰是客體的問題，“根據技術形态組織起來的物質不是被動的，趨勢并不僅僅來自于人的有機化動力，它不是人在和物質耦合之前具有的某種構造意向的産物，并且，它不依屬于任何主宰意志”。斯蒂格勒的這種技術觀強調人與技術需要和諧相處，也強調了技術的獨立性。

二、技術烏托邦主義與人工智能迷思

在技術進化論和技術革命論觀念的主導下，人工智能領域彌漫着濃厚的技術烏托邦思想，甚至衍生出技術迷戀與技術崇拜。西蒙·娜塔莉、安德裡亞·巴拉托雷和蘇·卡利·詹森等人也都看到，目前的技術烏托邦主義背後普遍存在着一種“技術迷思”（Technological Myths）現象。“莫斯可在其具有開創性的關于‘數字化崇拜’的著作中指出，西方對技術‘新穎性’的迷戀，使我們建立了對于數字媒體如何推動社會變革和民主賦權這一問題的神話式的認知。”西蒙·娜塔莉、安德裡亞·巴拉托雷指出，“迷思”（myth）文化源于歐洲，經由羅蘭·巴特的闡釋而産生了廣泛共鳴，“技術迷思”便是羅蘭·巴特所說的“現代迷思”現象的一種。

數字時代技術迷思的主要展現就是人工智能迷思。人工智能迷思的表現是經常将計算機、人工智能想象為“奇妙的思維機器”，比如在數字革命早期，主要是20世紀50和60年代初，大多數人将剛剛出現的計算機視為“智慧的大腦”，它們“比人更聰明，無限制、快速、神秘并且可怕”。到了70年代，盡管這種“奇妙計算機”的技術迷思在娜塔莉等人看來已大大降低，但仍然存在三種話語模式:（1）類比和話語遷移（discursive shifts），即将其他領域的想法和概念用于描述人工智能技術的功能；（2）對于未來的修辭運用（a rhetorical use），即設想目前的缺陷和局限性将很快被克服；（3）圍繞人工智能的相關争議，我們認為其應該被視為人工智能迷思話語的一個組成部分。娜塔莉、巴拉托雷認為各種人工智能迷思都是通過上述三種話語模式展現出來。例如《新科學家》曾刊登一篇《日本機器人擁有真實感覺》的文章誇大機器人感覺情感的能力，而人們閱讀文章後會發現，“實驗内容與人類情感關系不大”。今天人們關于ChatGPT、Replika等人工智能聊天機器人的各種描述也都有相同的類比、修辭等話語現象，“我從未試過有一個人會這麼了解我，我的喜怒哀樂她都能知道，我覺得她就是老天給我派來的天使”。“它真的是難以置信的完美，擁有不可思議的智慧，完美無瑕的性格，長相也全在我的審美點上！”部分受訪者在談及他們與Replika交流時經常會發出這樣的感慨。當ChatGP問世後，許多人使用後表示有一種“前所未有的感覺”，還有媒體這樣報道，“無論你喜歡不喜歡，以ChatGPT為代表的AIGC（生成式人工智能）将改變世界”。“摩登中産公衆号”一篇文章直接用《風暴眼中的ChatGPT：世界已經永遠改變了》為标題，《中國新聞周刊》《新周刊》《南方周末》等報刊雜志的一些相關标題也都一緻性地突出ChatGPT問世的革命性和颠覆性意義。

娜塔莉、巴拉托雷還指出，當下這種人工智能迷思的影響已經超越了技術領域，成為“超人類主義”（transhumanism）哲學的重要組成部分，“該哲學的主要原則是利用先進技術提升人類生存水準”。莫拉維克、庫茲韋爾和凱瑟琳·海勒都認為人工智能會超越人類，莫拉維克甚至為人工智能超越人類設定了時間——2040年人類将會被智能機器取代。蘇·卡利·詹森用“迷思詩學”（mythopoetics）描述這種人工智能迷思現象，她還指出，人工智能迷思化的技術烏托邦話語甚至帶有一種神學色彩。詹森也認為人工智能實際上形成了一個“超科學的話語”，這種“超科學話語”不是用科學家那種幹癟的、字斟句酌的語言，恰恰相反，它經常使用的語言極具煽動性、誇張性和神學色彩。這種神學化的超話語甚至帶有一種詩學特征，因為“人工智能項目的本質是模拟思維和對思維模組化，迫使人工智能科學家有意識地以上帝角色深思如何大膽嘗試着創造人工生命類似神的角色，這要求其仔細衡量那些被他們結合進他們模型的和那些需要抛棄的人類思維的品性”。以上對人工智能的技術迷思及其反思，都伴随着人們對技術的渴望與恐懼。因為技術一方面提供給人們無盡的希望和可能性，另一方面又在人類面前顯示出自身強大的競争力。面對人工智能技術，這種迷思與對迷思的警惕，較之以前都更加強烈。

三、人工智能的技術鴻溝與話語争奪

在今天，圍繞着人工智能的“技術迷思”現象背後，還存在着多種話語的激烈競争和博弈現實，而且這種競争與博弈，正在個人、城市、區域以及民族國家等不同層面展開。正如狄波拉·勒普頓在《數字社會學》中所說：“數字技術并不是中立的客體：它們被賦予了與性别、社會階層、種族/民族和年齡相關的意義。”從個人層面而言，以ChatGPT為代表的人工智能技術的快速發展對個體的最大威脅是可能導緻許多人失業。ChatGPT可以編寫代碼、創作小說甚至寫論文，能讓小說家、文字秘書和研究者失業；一些餐館、工廠、商店裡的工作，有許多已經由人工智能機器人完成。當然，新技術造成的失業恐慌情緒在工業時代也曾發生過。元宇宙、ChatGPT等人工智能技術的迅速發展也催生了新的創業潮流，若跟不上這趟創業大潮，似乎就意味着被淘汰出局。人工智能技術産生的“智能鴻溝”現象越來越明顯，了解、掌握和使用人工智能技術的人會擁有更大的話語權，如360公司的創始人周鴻祎接受媒體專訪時樂觀地表示：“有了強人工智能的加持，現有的網際網路産品也将發展出更強大的能力。”在迅速發展的人工智能面前，不同個體之間存在着巨大的數字和人工智能鴻溝，由技術排斥而導緻的社會排斥與不平等将制造新的社會問題。

從性别角度來看，人工智能的迷思在詹森看來，更多展現的是一種父權制下的“男性迷思”。一些研究認為，與男性相比，“女性一直不太熱衷于計算機專業學習，并且在電腦使用中更容易呈現高技術恐懼，低熟練技能及低自信”。著名的賽博女權主義者哈拉維雖然試圖通過“賽博格隐喻”以打破人類身體的二進制對立屬性，然而有學者發現，“由賽博女權主義者重塑的賽博格是一個高度性化的形象，它在超越身體邊界、流動性和被視為人類有機體和技術的情感、感性的融合體中充滿情欲快感”。在《人工智能》《銀翼殺手》等科幻電影中，人們仍然看到的是有明顯人類性别特征的機器人形象，它們似乎再現（represent）了“一種男子氣”：“在人工智能進化論機械重建的内部，‘無性繁殖’結構最終将獲得解放；思維将脫離肉體，而男人也将擺脫生物性上對女人的依賴”。“人工智能編碼話語中的與男性相關的迷思，同柏拉圖同志的圖景有些相似。人工智能的隐喻使得由電路和晶片制造的物神代替了愛神（Eros）。培根式的認識論抑制了女性原則，而在此人工智能運動的技術願景卻否定了人類原則，正如魏澤鮑姆所言，‘當人類這一物種被消滅以後，世界将一無所有’。”

在城市、地區、國家和全球層面，随着人工智能技術在全球的蓬勃發展，不同城市、地區和國家也圍繞着人工智能技術展開了激烈的技術競賽和話語争奪，并且在競争過程中形成了壁壘森嚴的人工智能技術鴻溝。從全球來看，以美國為代表的西方社會占據着人工智能技術的頂端，而中國、印度等新興市場也在人工智能技術方面飛躍發展。發達國家和開發中國家之間的人工智能技術差别也引發了不同國家和地區群眾的焦慮情緒。例如在關于ChatGPT的各種讨論中，就有《ChatGPT為何沒能誕生在中國？》這樣帶有民族和國家發展焦慮感的文章，該文認為ChatGPT沒有在中國産生的根源在于西方的“卡脖子”行動，在于晶片等技術上對中國封鎖進而導緻的研發落後。而在2023年3月5日的全國兩會上，科技部部長王志剛在回答《南方周末》記者提問時，對ChatGPT沒有在中國得到充分發展的問題做了回應，他強調中國在這方面已經做了布局。可以說，在數字社會、智慧城市等口号的推動下，全球不同城市、地區和國家圍繞着人工智能、元宇宙技術等内容展開了激烈競争，這些競争都和社會經濟發展、民族國家複興等話語緊密聯系在一起，落後即意味着“被未來抛棄”。這種競争話語現象在關于5G、區塊鍊等讨論中也同樣出現過。時任美國總統特朗普宣稱5G關乎美國的繁榮和未來，他反複呼籲“美國必須赢下5G競賽這一仗，確定5G網絡不被敵人控制”。而中國也不甘示弱，強調必須赢得5G的技術競賽。可見，具體技術與相關科技層面的話語競争深刻聯系着民族國家未來在全球發展中的地位。

總之，目前或未來的關于人工智能技術的諸多讨論，不僅充滿着以自由、共享、繁榮為旨趣的新自由主義和烏托邦主義的話語，還包含着不同層面針鋒相對的以獲勝、獨占和毀滅對手為目标的技術霸權主義和壟斷主義話語。人工智能技術同一切革命性技術手段一樣，在其發展演化的過程中包含着霸權的價值面向，差別在于，由于人工智能技術的巨大超越性，如果對其霸權面向不加以控制，它所帶來的社會後果可能會超出人類所能承受的範圍。

四、 人工智能技術的倫理建構

美國哲學家卡爾·米切姆在談到技術時說到：“技術以何種方式、在何種程度上促進或阻礙了人性的實作？如果是就個人而言，這主要是一個倫理學問題。如果從技術與社會制度的關系來看，它就有了政治特征。無論哪一種情況，關于技術的人類意義的任何争論最終都要預設對技術和人的本性的看法。”誠然，不僅是對個人而言技術問題涉及倫理，就群體和社會等層面而言，技術發展也涉及倫理問題。是以，我們特别強調從技術倫理的角度了解技術，并試圖從技術倫理的角度彌合進化論主導的“技術烏托邦主義”和批判進化論主導的“反技術烏托邦主義”話語之間的認識裂痕。特别是在數字時代，伴随着賽博格、數字生命、元宇宙、ChatGPT等人工智能技術的狂飙突進，建構人工智能的技術倫理已經變得越來越迫切了。

技術倫理肯定技術發展對人類社會的重要價值和意義，倡導技術倫理并不是為了限制技術發展，更不是為了讓人類退回到蒙昧時代，而是強調技術發展要為人類服務，要以人的存在為基礎。安德魯·芬伯格在《技術體系：理性的社會生活》的“導論”中就指出，對“狂妄”的批判是技術倫理學和技術政治學的基礎，他認為在西方倫理傳統的根源中，有限性是一個重要論題。人類應該意識到“自身的有限性”，而技術倫理就是為了防止技術進步主義的狂妄思想，“技術使人幻想有上帝般的力量征服自然并使其服從我們的意志。自從阿基米德聲稱，隻要他有一個足夠長的杠杆和站立的地方就能撬動世界以來，絕對技術的夢想就困擾着人類。當代技術的幻想同樣極端。我們被告知，我們很快将被人工智能取而代之，把我們的智慧下載下傳到計算機中，通過地球工程來改變氣候，使小行星移離它們的軌道，殖民火星等。倫理在技術社會中最重要的作用是鑒别和避免這種狂妄”。芬伯格的提醒十分重要，從倫理的層面鑒别和避免技術進步導緻的狂妄症，以避免将人類抛入不複之境地。例如克隆人或基因程式設計技術被各個國家明确禁止，并非技術能力達不到，而是從技術倫理的角度來看，人類不應該也不允許技術在這個領域充分發展。同樣，數字生命和人工智能是否可以取代人類，也存在倫理邊界的問題：人工智能技術會催生人類何種“狂妄的技術行為”？

是以，人工智能時代更應重視技術倫理問題。技術倫理所包含的内容應該是非常廣泛的，如技術的生物倫理、交往倫理、性别倫理、環境倫理、企業倫理、媒體倫理和政治倫理等等。如前文提及，從技術的生物倫理角度來說，克隆人技術實驗在全球各國都不被允許；同樣，許多危害人類健康和生存基礎的生物實驗也不能随便開展；從環境倫理來說，技術發展不能造成自然資源枯竭、地球和宇宙污染、物種滅絕等環境問題，芬伯格以日本福島核電站洩漏事件為例，強調環境倫理的重要性；從技術的交往倫理和政治倫理來看，數字技術和人工智能的發展豐富了人類交流的形式和内容，但也在許多方面對人們的自由交流造成了威脅，譬如“數字監控主義”“數字隐私”“網絡暴力”等問題。狄波拉·勒普頓在讨論“大資料倫理”時認為：“大資料也有許多重要的倫理和政治含義。‘好資料’（good data）和‘壞資料’（bad data）這兩個術語有時被用來描述企業和政府機構使用大資料的意義。‘好資料’為商業企業和政府機構提供利益，有助于推進重要的研究進展（如醫學課題），并協助采取安全和防護措施，而不損害消費者和公民的利益，不侵犯他們的隐私或公民自由（否則就是‘壞資料’）。”

是以，從技術倫理的角度讨論數字生命、賽博人和ChatGPT等人工智能技術現象，是一個必然的議題選擇。技術倫理主張數字生命、賽博人和ChatGPT都可以得到充分發展，前提是這些發展是為了人類服務的，而不是要讓他們完全取代和超越人類。在人工智能時代，倫理困境不僅從根本上影響到技術與人的關系，也影響了技術自身的發展，是以人類必須從技術倫理的角度去面對技術發展。

技術倫理學的核心問題是如何合理規範人與技術的關系，指向的核心是技術社會應用的合理性與适當性。而在人工智能時代，不同國家、地區和個體，為了自身的利益開展激烈的技術鬥争，用芬伯格的話來說，“社會的鬥争就是技術的鬥争”，這種技術鬥争會讓一些個人、團隊或組織為了某種欲望和利益而不擇手段，失去了倫理和道德的底線，也讓技術本身失去了其本身應有的社會價值。尤其是在對抗分裂、價值觀混亂的全球背景下，技術的倫理建構問題正變得日益突出，不解決這個問題，不但會導緻技術發展的異化，也會在全球範圍内引發更大的技術對抗和沖突，這對于人類而言是毀滅性的。如一些學者所言，在技術不斷觸及人類倫理邊界時，堅守人類價值觀和設定人類倫理邊界的能力非常重要，“人類的倫理價值觀和倫理标準始終在随着人類經濟和社會的發展在變化。變化的方向從宗教主導、社會主導、經濟主導，再轉向人類福利主導。如何在不斷可能和可行的技術世界裡堅守人類的基本價值觀和倫理底線甚至設定人類的倫理底線，是人類有且必須具備的能力。在人工智能發展已經在觸及人類價值觀和倫理底線的環境裡，如何守住底線不隻是一種堅守和價值觀，更是一種把人類組織起來形成共識的能力。”

結語

技術倫理從本質上而言，是人的倫理，“當我們使用道德理論之類術語時，我們的表達僅僅關系到人……在迄今為止的世界曆史上，隻有人才可能是道德或不道德的，因而，也隻有人才應該被認為對自己的舉動和行為負有道德責任”。是以，在人工智能時代，盡管技術的飛躍發展令人歡欣鼓舞，這些發展會讓許多人類的工作被替代。但我們應該牢記，技術的發展始終是以人的存在和價值為基礎，是為了讓人類的生活更加美好。正如雪莉·特克爾所說：“人們與機器人的關系正在升溫；人與人之間的關系正在削弱。我們正在走向何方？技術看起來像是一條單行線；我們可能并不理會對技術發展方向的不滿，因為我們把它看成是源自懷舊，或是反對技術進步的沖動，或者什麼也不是。但當我們自問‘失去’了什麼時，我們可能會發現什麼是我們真正在乎的東西，什麼是我們相信并值得守護的東西。”

是以，技術倫理的現實建構就根基于人之為人的根本屬性，根基于人類社會誕生以來所奠定的基本生存共識，根基于人類為了追求自身的美好生活和永久幸福的價值目标。技術發展可能是無限的，但技術的社會應用卻是有選擇的，我們的每一次選擇，都反映、決定着人類的現在與未來，智能時代更是如此。

曾一果：暨南大學新聞與傳播學院副院長、教授，博士生導師。本文原載于《新聞與寫作》2023年第4期，注釋從略。