專訪OpenAI最大競争對手：AI發展速度未放緩，可能對人類産生巨大威脅

騰訊科技

2024-06-25 14:40釋出于北京騰訊新聞科技頻道官方賬号

劃重點

• 1

  阿莫代伊認為，人工智能的發展速度并未放緩，他擔心技術競賽可能會給人類帶來潛在風險。

• 2

  阿莫代伊擔心，AI的快速發展可能會導緻權力和财富集中到少數人手中。

• 3

  在阿莫代伊看來，奧特曼等人倡導的普遍基本收入方案不足以解決經濟不平等問題。

騰訊科技訊 6月25日消息，據國外媒體報道，人工智能初創企業Anthropic的首席執行官達裡奧·阿莫代伊（Dario Amodei）最近登上了《時代》周刊封面，該公司也被評選為2024年最具影響力的100家公司之一。在《時代》周刊的封面故事中，阿莫代伊深入探讨了Anthropic在當下人工智能競賽中的地位、公司的核心理念、對人工智能安全性的關切、經濟不平等問題以及全民基本收入等話題。

6月20日，Anthropic在這場技術競賽中發起了最新攻勢，釋出了其最新版本的聊天機器人——Claude 3.5 Sonnet。該公司聲明稱，這款模型在推理、編碼以及某些數學領域均創下了新的行業标杆，超越了OpenAI最新釋出的GPT-4o。阿莫代伊在當天的釋出會上表示：“Claude 3.5 Sonnet的釋出标志着，我們正向與技術互動方式的革命性轉變邁進。對于Claude，我們的目标不僅僅是建構更加完善的大語言模型，更是要開發一個能夠與人類和軟體以有意義的方式協作的人工智能系統。”

阿莫代伊指出，Anthropic的員工普遍持有這樣的觀點：他們并不認為人工智能的發展會停滞不前，反而更擔心它可能給人類社會帶來的潛在風險。他強調，Anthropic緻力于前沿人工智能系統的研究，并不斷創新安全政策。然而，作為OpenAI的主要競争對手，Anthropic也釋出了一系列強大的工具供公衆和企業使用。阿莫代伊本人也認為，這是一場充滿危險的競賽，其結果可能非常糟糕。

阿莫代伊還談到了人工智能對财富配置設定的影響。他警示說，人工智能的迅猛發展有可能加劇權力和财富向少數人集中的趨勢，為此許多科技人士呼籲普及全民基本收入。然而，在阿莫代伊看來，全民基本收入不足以從根本上解決權力和财富不平等的問題。他認為，人工智能的發展需要以一種更加根本性的方式改變社會結構，我們需要建構一個更為全面和創新的解決方案，以確定每個人都能公平地參與經濟活動。

以下為專訪節選全文：

問：Anthropic被公認為是最年輕的“前沿”人工智能實驗室，規模也最小，而競争對手們擁有更多的資本支援。那麼，你們是否将自己視為這一領域的弱者？

阿莫代伊：當然，你引用的這些事實都是真實的。但随着時間的推移，這些事實正在變得不那麼絕對。我們已簽署了一系列大型計算交易，并籌得了數十億美元的資金支援。相比之下，我們的一些競争對手所擁有的資金可能更少。是以，當我再說我們是弱者時，可能讓人感到有些尴尬。然而，相對于這個領域的巨頭而言，我們确實處于相對較弱的地位，這一點無可否認。

問：人工智能的“縮放定律”表明，随着系統訓練中所使用的計算能力和資料的增加，它們的能力或效能也會相應增強。在你們的系統中，有哪些尚未釋出但你已經預見到的功能？

阿莫代伊：我們最近才釋出了新的模型，是以并沒有太多秘密功能未予公布。在某種程度上，我不打算深入探讨這些細節。但我們确實清楚，技術進步仍在持續。我們尚未看到任何迹象表明這種進步正在趨于平緩。然而，我們所生活的世界充滿了不确定性，技術發展的腳步随時可能停止。每次當我訓練一個新的模型時，我都會觀察它，心中總是充滿了一種不确定的情感，擔心在某個時刻我們可能會發現，這個模型并沒有如我們所願變得更加強大。

如果這種“規模擴大的影響”真的停止，從某種程度上說，這對整個世界都是有利的。它将對所有參與者構成一種限制。但這不是我們可以選擇的。當然，這些模型帶來了許多令人興奮的好處。大多數情況下，這就是自然法則。我們無法選擇，隻能發現我們生活在哪個世界，并盡我們所能去适應和面對。

問：你希望通過Anthropic的文化實作什麼樣的目标？

阿莫代伊：我們實施了一項捐贈比對計劃，允許員工向任何慈善機構捐贈高達25%的股權，公司也将提供相應的捐贈。這一計劃旨在吸引那些對公共利益懷有濃厚興趣的員工。對于重視公共利益的員工來說，我們的股票授予計劃顯得更具吸引力。當然，這并不意味着我們剝奪了員工獲得經濟激勵的機會，而是為公司的文化定下了基調。

在安全方面，公衆的觀點與我們的理念之間存在一定的差異。我們并不自诩為一家專門從事人工智能安全的公司，而是一家以公共利益為導向的公司。我們并不認為人工智能系統本身具有固有的危險性，這是一個需要通過實證來回答的問題。我更希望Anthropic成為一家讓每位員工都關注公共目的的公司，而不僅僅是一家專注于人工智能安全或系統失調的特定問題公司。在公司内部，我認為我們已經成功實作了這一目标，我們的員工擁有不同的觀點，但他們共同秉持着對公共目标的堅定承諾。

問：如果唐納德·特朗普（Donald Trump）在今年年底當選美國總統，這對人工智能的安全将意味着什麼？

阿莫代伊：無論下一任總統是誰，我們都将與他們合作，盡我們所能向他們解釋，美國需要在人工智能技術上保持領先地位，同時我們也必須為這項技術本身提供合理的保障。我要傳達的資訊是一緻的。顯然，不同的政府會有不同的觀點和立場，我預計選舉結果将影響政府的政策走向。然而，我能做的就是表達我對這個世界真實狀況的看法。

問：我們是否應該擔憂“強化學習”作為讓人工智能系統更安全的方法之一，因為它雖然能将模型引導至有益無害的方向，但并未完全消除其潛在的危險能力，這些能力仍可能通過“越獄”等技術被利用？

阿莫代伊：我并不認為這種方法本身是脆弱的。相反，我認為我們目前仍處于如何有效管理和利用這些系統的科學探索階段。在早期階段，系統可能會出現“幻覺”現象，也可能“越獄”。正如在發展的初期階段，我們試圖讓模型在某些情境下表現得更加友好，但在其他情況下，它可能會給出冗長或不相關的回答。我們試圖引導模型向好的方向發展，并避免潛在的不良行為，這确實是一項挑戰。

我認為我們的模型不是一個完美的解決方案，而且可能永遠無法達到完美的狀态。我們可以将其視為一個多層次的瑞士奶酪模型：每一層都有其弱點或漏洞，但如果你有多層這樣的模型疊加，那麼任何潛在的威脅都将難以滲透這多層防線。沒有一種單一的解決方案能夠完全控制這些模型，我們需要将多種不同的方法和政策結合起來。

問：鑒于風險如此之高，你認為使用這種政策是否足夠負責任？

阿莫代伊：我當然更希望生活在一個理想的世界中，但遺憾的是，我們生活的現實世界中充滿了各種經濟壓力，不僅企業之間存在競争，國家之間也是如此。然而，如果我們能夠證明這些風險是真實存在的，并且我們有能力去應對，那麼我希望我們能夠讓世界至少停下來思考一下這個問題。我們需要以合作的方式來解決這個問題。但我并不天真地認為這樣的時刻會頻繁出現。畢竟，讓一列正在高速行駛的列車停下來是極其困難的，即使可能，也隻能在特殊情況下短暫實作。

問：Meta推出了開源人工智能模型，其功能與你們的模型相近。你對這種政策有何看法？你認為它是否負責任？

阿莫代伊：我們主要關注的是模型的強大性，而非其是否開源。在實踐中，我認為這些大型公司中的大多數，在達到我擔憂的某個性能門檻值之前，會選擇停止開源。我最終認為，開源作為一個關注點幾乎是在轉移視線。人們可能認為開源模式會破壞我們的商業模式，但事實是，我們的競争對手是任何能夠生産出強大模型的人。當這些模型被托管在雲端時——我更傾向于将它們稱為開放權重模型——它們産生的經濟效益與其他服務無異。

問：微軟最近表示，他們正在内部訓練一個大語言模型，可能能夠與他們投資的OpenAI競争。同樣，亞馬遜——作為你們的支援者之一——也在進行類似的研發。谷歌亦是如此。你是否擔心，那些目前處于領先地位的小型人工智能實驗室，可能隻是暫時領先于這些資源豐富得多的科技公司？

阿莫代伊：在我們的文化中，始終強調的一點是“用更少的資源做更多的事情”。我們始終努力維持一種狀态，即便使用更少的計算資源，我們也能與擁有更多資源的公司做得一樣好甚至更好。最終，我們的競争優勢在于我們作為研究人員和工程師的創造力。我認為，創新産品比單純的計算能力更為重要。誠然，你需要大量的計算資源，我們已有大量證據支援這一點，并且未來還将有更多。但隻要我們能夠更有效地利用這些資源，隻要我們能用更少的資源實作更多的功能，那麼這些資源最終會流向具有創新能力的公司。

問：Anthropic已經籌集了大約70億美元資金，足以支付下一代模型的教育訓練費用，你曾提到這可能需要數十億美元。随着對下一代模型的教育訓練需求增加，你是否開始考慮籌集更多的資金？你預計這些資金将來自哪裡？

阿莫代伊：盡管我們已經為下一個階段做了充足的準備，但在更長期時間内，我們仍需要籌集更多的資金。關于資金的來源，這很難預測，可能是來自傳統投資者、大型計算服務提供商，或是我們尚未考慮到的其他多樣化管道。

問：關于資金來源，政府是一個很少被提及但潛在龐大的資源。他們擁有大量資金——盡管這可能涉及政治難題——你是否考慮過或讨論過與政府合作的可能性？

阿莫代伊：随着人工智能技術的日益強大，政府在其建構和部署中應該發揮關鍵作用。這不僅僅是監管問題，更關系到國家安全。在某種程度上，某些技術方面是否應該成為全國性的項目？我認為模型在政府内部會有諸多應用場景。我堅信，随着時間的推移，最強大的模型可能會被視為對國家安全至關重要的資産。

我期望政府能更積極地參與其中，并以負責任的方式上司這項技術。這可能意味着政府将深度參與技術的研發。目前，這種合作形式尚未出現。但鑒于我們正在建構的技術如此強大，一旦其達到某種力量水準，個人或公司是否應該成為其核心将是一個值得嚴肅讨論的問題。我預計在未來不久——可能是兩到五年内——這将成為一次非常重要的對話，具體形式将取決于當時的情況。

問：你如何看待目前世界上存在的不平等問題？

阿莫代伊：我認為目前世界的不平等程度确實嚴重。數十億人每天的生活費不足1美元，這是一個亟待解決的問題。

問：從OpenAI首席執行官山姆·奧特曼（Sam Altman）等人士的觀點中，我們聽到的是，如果能提高底層群眾的生活水準，那麼億萬富翁的存在似乎是可以接受的。你如何看待這種程度的不平等所帶來的權力不平衡問題？

阿莫代伊：對于權力的高度集中，我持較為悲觀的态度。回顧美國曆史，也存在過類似的時期，如鍍金時代，那時實業家幾乎接管了政府。我認為這種權力集中可能過于極端。當然，一定程度的經濟不平等可能是經濟運作的必要條件。

關于基本收入保障的概念，如果我們找不到更好的解決方案，那麼它當然是一種可行的選擇，畢竟有總比沒有要好。但我更希望看到一個每個人都能做出貢獻的世界。如果隻有少數人能賺取數萬億美元的财富，然後政府再将這些财富配置設定給底層群眾，這在我看來是一種反烏托邦的設想。雖然這總比什麼都不做要好，但我堅信這不是我們真正追求的理想世界。

我堅信，如果人工智能的進步速度如我們所預測的那樣，那麼人工智能系統在很多方面都将超越人類，甚至可能在人類所從事的大部分工作中表現得更好。是以，我們真的需要重新審視和思考很多問題。在短期内，我們應該關注人類與人工智能的互補性，確定它們能夠協同工作。但從長遠來看，我們需要深入思考如何重新組織經濟，以及人類如何定義和看待自己的生活。這是一個全社會需要共同參與的對話，而非單個個體或公司能夠解決的。我唯一擔憂的是，如果技術發展迅速，我們必須盡快找到解決這些問題的辦法。（編譯/金鹿）

檢視原圖 624K

•