ChatGPT的火，已經從AI圈燒到了全球。
自2022年11月推出後，這款強大的聊天機器人僅用60天月活過億，被《财富》認為是劃時代的産品，引微軟、谷歌等巨頭紛紛下場。
更重要的是，以ChatGPT為代表的AIGC（Artificial Intelligence Generated Content，生成式AI），正在人工智能領域掀起AI商業化的新一輪浪潮，打開了諸多行業變革的想象天窗。
如果要問誰是當下離 AI 技術革命最近的人，ChatGPT之父、OpenAI CEO 山姆·阿爾特曼（Sam Altman）一定位列其中。
2017 年，還在擔任矽谷知名創業孵化器 Y Combinator總裁的他，和伊隆·馬斯克、彼得・蒂爾、雷德・霍夫曼等人一起投資了 10 億美元，共同成為 Open AI 的創始人。又過了兩年，他将工作重心轉移到了 AI，擔任 OpenAI 的 CEO 直到今天。
在去年秋天，山姆·阿爾特曼與 Open AI 創始人之一、領英聯合創始人雷德・霍夫曼（Reid Hoffman）展開了一場精彩對話。其中，山姆·阿爾特曼分享了他對于未來AI發展的預測：AI 大模型技術，将成為繼移動網際網路之後，未來最大的技術平台；而以聊天機器人為界面，加上圖像、音樂、文本等多模态模型的發展，将誕生大型企業。
他是如何判斷AI未來商業化發展的？大型AI企業将誕生于哪些領域？AI将取代人類的工作，還是更好地幫助人類工作？
今天就與你分享這場對話的編譯。
分享 | Sam Altman、Reid Hoffman
翻譯 | 胡燕君、賈川、淩梓郡、靖宇
來源 | OneFlow（ID: OneFlowTechnology)、極客公園（ID: geekpark）、經緯創投（ID：matrixpartnerschina）
01 AI大模型——未來最大的技術平台
Q：很多AI大模型都通過API（application programming interface，應用接口）開放使用，它真正的商業機會是什麼？
Sam Altman：現在，語言模型已經可以很好地應用到文案寫作和教育服務領域。我相信未來幾年内，語言模型會更加強大，将能與Google這一價值萬億美元的搜尋産品一較高下。語言模型的應用将會改變我們的日常生活。
以前，人們太早嘲笑許多趨勢，比如聊天機器人，其實它很有價值，隻是當時的技術還不能滿足需求。現在的聊天機器人更加成熟，幾乎可以達到人類水準。聊天機器人可以用于醫療服務行業，提供咨詢和教育服務，這方面将能催生出大型企業。
我相信，不久之後會出現多模态模型，這将開辟新的事物。現在，人們可以直接用自然語言指令計算機為你完成你想做的工作。
例如DALL-E圖像生成工具和Copilot程式設計工具，都是使用者向它們輸入自然語言描述，然後工具自動生成使用者想要的東西，使用者還可以不斷疊代修改自己的描述，直至工具給出滿意的輸出。
類似的AI應用方式會成為大趨勢，可以孕育出許多大型企業。強大的AI模型可以成為孵化各種AI應用的平台，就像智能手機的出現催生出衆多APP一樣，它們的共同點都是可以制造無數的商業機會。
Q：作為大型語言模型 API 的服務提供商，關鍵是什麼？如何建立一個持久的差異化業務？
A：将來應該會出現幾個大型的基礎模型，開發人員都将基于這些基礎模型研發AI應用。但目前的情況依然是某一家公司開發出一個大型語言模型，然後開放API供他人使用。
我認為，将來在基礎模型和具體AI應用研發之間會有一個中間層：出現一批專門負責調整大型模型以适應具體AI應用需求的初創企業。能做好這一點的初創公司将會非常成功，但這取決于它們能在「資料飛輪」上走多遠。
資料飛輪：使用更多資料可以訓練出更好的模型，吸引更多使用者，進而産生更多使用者資料用于訓練，形成良性循環。
我對初創企業訓練模型的能力持懷疑态度，将來承擔模型訓練角色的應該不會是初創公司，但這些企業可以在上述的中間層角色中發揮巨大價值。我認為中間那一層會創造很多價值。
Q：一個大型語言模型初創企業，如何差別于另一個大型語言模型初創企業呢？
A：我覺得應該是中間層。
從某種意義而言，創業公司會訓練自己的模型，隻不過不是從頭開始。
他們将采用基礎模型，這些模型已經經過大量的計算和資料訓練，然後在這些模型之上進行訓練，為每個垂類建立模型。
他們所做的 1% 的訓練，對于應用來說至關重要。我認為，這些創業公司将會非常成功，并且與衆不同。可能包括一段時間記憶體在的 prompt engineering（提示工程）或基礎核心模型（core base model）。
注：提示工程是指将任務的描述、或者提問放在輸入中，讓 AI 模型輸出理想結果的調試過程；ChatGPT 走紅之後，提示工程師這一崗位也被人所關注。
Q：五年内，大多數使用者與基礎模型互動的方式是什麼？prompt engineering 将是許多組織的内部職能嗎？
A：我不認為五年後我們還做 prompt engineering，這将被整合進所有地方。無論用文本還是語音，取決于上下文，隻需要語言接口，讓計算機做你想做的任何事情。
将來的AI系統不會因為增補了某個特定詞就會産生截然不同的輸出，而是可以較好地了解自然語言，使用者隻需以文本和語音形式輸入指令，即可讓計算機完成圖像生成、資料研究、心理咨詢等複雜任務。
總的來說，使用者隻需使用自然語言就可以與計算機互動，當然，如果藝術家能想出更有創造性的描述，也自然就可以生成更好的圖像。
Q：當有一個偉大的視覺思考者，他們可以從 DALL-E 中擷取更多，因為他們知道如何更深入思考，知道如何在測試中疊代循環。你認為這是大部分這類事的普遍真理嗎？
A：百分百确定。重要的是思想的品質，和對你想要的東西的了解。是以藝術家仍然會在圖像生成方面做得最好，不是因為他們在圖像最後加上了這個神奇單詞，而是因為他們能用我沒有的創造性的眼光來表達。
Q：最令你驚訝的是什麼？如果沒有意識到事情已經發展到這一步，你認為會有什麼樣的驚喜呢？
A：人們現在所犯的最大的系統性錯誤，就是他們會說，「好吧，我也許持懷疑态度，但是這種語言模型真的會起作用，當然，圖像和視訊也會起作用。但它不會為人類産生新知。它隻會做其他人已經做過的事情。這還是讓智力的邊際成本非常低，不能治愈癌症。它不會增加人類科學知識的總和。」 我認為這将被證明是錯誤的，讓目前該領域的專家最感到驚訝的地方。
02 當 AI 科學家可以自我疊代
Q：無論是建立在 API 之上，還是科學家使用 API，有哪些地方的科學會加速，以及如何加速？
A：現在科學界對AI的應用分為兩種。
一種是将AI工具直接用于科學目的，如AlphaFold（用于蛋白質結構預測），它們可以創造巨大價值，相信未來會出現無數這樣的工具。
另一種是将AI工具用于提升科研工作效率，如幫科學家和工程師找到新研究方向、寫代碼等。Copilot程式設計工具就是一個例子。但AI工具的能力遠不止于此。上述兩種AI應用将會大大推動科技前進。
此外，目前科學界也在探索對AI的第三種應用方式——讓AI成為可以「自我改進」的科學家。這件事情既有好處也有風險。
好的一面是，可以利用AI将人類的工作内容自動化，教會AI做任何人類可以做的事情：探索新科學、提出理論解釋、驗證、思考等，或許還可借此解決困擾人類已久的「AI對齊問題（Alignment Problem）」（即如何讓AI系統的目标符合人類的價值觀）。
風險在于，有人擔心懂得「自我改進」的AI有可能會像科幻小說描寫的那樣，擅自改動代碼或修改優化算法。
我深信，真正有利于促進人類和經濟的前行的，是一個能夠推動科學進步的社會架構。我們能從這樣的社會架構中獲益很多。
Q：「對齊問題」可能值得解釋一下？
A：建立一個非常強大的系統，如果它不按我們的意願行事，或者它的目标與我們的沖突，就會變得非常糟糕。
是以，對齊問題是：我們如何建立做最符合人類利益事情的 AGI（Artificial General Intelligence 通用人工智能）？如何確定人類能夠決定人類的未來？
我們如何避免意外和故意誤用，前者是沒有預料到的錯誤，後者是一個壞人使用 AGI 造成巨大傷害；内在而言的對齊問題是，如果這個東西變成一個生物，視我們為威脅怎麼辦？
我們對如何在小範圍内解決對齊問題有一些想法，已經能夠使 OpenAI 最大的模型（表現得）比想象的要好。
我們對下一步做什麼有些想法，但不能誠實地看着任何人的眼睛說，看到了 100 年後将如何解決這個問題。
但是，一旦人工智能足夠好，我們可以問它，「嘿，你能幫助我們做對齊研究嗎？」這将是工具箱裡的一個新工具。
Q：我們之前的一次談話是，能不能告訴 agent(注：AI 中的一個概念，通常指環境中的智能主體），「不要種族歧視」？
A：當然。一旦模型變得足夠聰明，真正了解了種族主義是什麼樣子，以及它有多複雜，你就可以說，「不要成為種族主義者。」
Q：「AGI」這個術語已經被廣泛使用。有時困惑來自于人們對 AGI 有不同定義。你如何定義 AGI，怎樣知道我們什麼時候實作它？
A：我了解的AGI相當于一個可以共事的普通人，任何遠端同僚可以通過電腦幫你完成的工作，AGI也可以做，包括讓AGI學習醫療知識和寫代碼等等。
AGI的重點不在于掌握某一種難得的技能，而是擁有學習的元能力，然後隻要人類需要，它就可以往任何技能方向發展并精通。
另一個概念是「超級智能」（Super Intelligence），它指的是比全人類加起來還要聰明的智能。
Q：如何看待像 GPT-3 這樣的基礎技術，對生命科學研究進度的具體影響？生命科學研究中速率限制的因素是什麼？我們無法超越這個限制，因為自然法則就是這樣？
A：目前的可用模型還不夠好，不足以對生命科學領域産生重大影響——不少生命科學家了解這些模型之後都說，它們隻能在部分情況下發揮些許作用。
AI在基因組學領域有一些很有前景的應用方向，但目前尚屬起步階段，不過我很看好。我認為這也是市值千億的巨頭準備進軍的領域之一。
如果AI未來真的可以讓醫藥公司的研發速率提高幾百倍，那無疑會産生深遠的影響。不過如你所說，生物學的自有規律仍在，新藥的臨床驗證需要時間，這也是醫藥研發的速率限制因素。
據我所知，不少合成生物公司借助AI發現許多新的研發想法，加快自己的研發疊代周期，但研發出來之後終究是要進行測試，這部分時間無法縮減。
我認為，醫藥初創公司最重要的是低成本和快速的研發周期，有了這兩點就有資本參與市場競争了。是以如果我是一家醫藥初創公司的決策者，一開始我不會選擇從心髒病這類大難題下手。
此外，如果我是一家AI藥物研發初創公司，我會在模拟器上多下工夫，因為目前這方面還亟待改善。
03 未來十年：當成本的結構發生變化
Q：你認為登月計劃（指 AI 的進化）在未來幾年中有什麼值得人們關注的地方？
A：一個比較确定的方向是，語言模型的發展會遠超今天的想象。雖然很多人都說算力和資料都已經跟不上了，這也是事實，但算法的改進空間依然很大，還可以帶來很大的進步。
第二個方向是多模态模型的發展。未來的多模态模型将不局限于文本和圖像的互相轉換，而是所有模态之間都可以友善地互相轉化。
第三個方向是，模型可以持續學習。目前的模型如GPT都停滞在當初訓練好的狀态，并不會随着使用次數的增加而自我優化。我相信未來可以改變這一點。
如果上述三點都能實作的話，我們就可以解鎖無數全新的應用場景，實作真正的科技革新，幫助人類實作科技的飛躍式前進。而且我相信，我們也有辦法利用AI推動科研進步和新知識的産生。
我認為，現在普遍存在的一種錯誤觀點是：「雖然語言模型的功能已經比較完善，還可以應用到圖像和視訊領域，将應用智能的邊際成本降得非常低，但歸根結底，它隻是模仿人類做過的東西，不能為人類産生新知識，不能治療癌症，也不能拓展人類已知的科學領域。」我相信，AI的發展會讓持這種觀點的人大吃一驚。
Q：談一談目前被廣泛讨論的領域，例如，AI 和核聚變。
A：業内有人正在研究利用強化學習模型控制核聚變反應，但據我們所知，AI模型在這裡發揮的作用還非常有限。
一件不幸的事情是，AI 已經成為一個流行詞（buzzword），這通常是個很糟糕的迹象。我希望這并不意味着這個領域即将分崩離析。但從曆史上來看，這對于新的創業公司來說是一個非常糟糕的信号。
我認為這是個人們會說一切都是「這個加上 AI」的領域，很多事情都是真的。我确實認為這将是這一代最大的技術平台。
我們喜歡在前沿領域做預測，預測和了解規模理論（scaling laws）是怎樣的（或是研究之後），然後說「好，這個新事物将發揮作用，就根據種方式來預測推演。」
這也是OpenAI的運作模式——先做擺在我們面前的最有信心能成功的事情，然後分出10%的資源進行成功确定性更低的探索工作。這種運作方式為我們帶來巨大的成功。
現階段不應該把重點放在「讓AI無所不能」上，而是先沿着現有的道路慢慢發展完善AI，然後留有開放探索的空間——偉大的事物都不是計劃出來的，有時重大的突破誕生于偶然。
Q：AI 應用在非常重要的系統，例如金融市場，将會發生什麼？
A：AI終将滲入人類生活的方方面面。未來十年裡，智能和能源的邊際成本會迅速下降，趨近于零，而智能和能源又是其他各行各業的主要成本來源（當然，奢侈品除外）。
整個社會的成本結構都會下降，正如之前多次科技革命的結果一樣。在這種浪潮之下，很少有什麼會一成不變。但有一點很重要，智能和能源成本隻是趨近于零，而不是直接降為零。是以将來如果有人仍願意花費巨額投資來購買智能和能源，他們得到的算力和能源的數量将突破想象。
設想一下，将來的能源使用成本下降10~100倍，智能使用成本下降1億倍，而對能源和智能的資金投入則比現在多1000倍，那會是什麼樣的局面？
Q：AI 可以為人類創造者提供工具，拓展創造力。那麼，讓創造者更有生産力\AI 用創造力自己去做每件事的界限是什麼？
A：至少目前看到的不是取代，主要是增強。在某些情況下，它正在取代。但對于這些領域的人們想從事的大多數工作來說，它是增強。這種趨勢将持續很長一段時間。可能展望 100 年，它可以完成整個創造性工作。
我覺得有意思的是，如果 10 年前問人們，AI 将如怎樣帶來影響，多數人會很有信心地說，首先它将取代工廠的藍領工作，卡車司機等，然後将取代低技能的白領工作，然後是高技能、高智商的白領工作，比如程式員。也許永遠不會取代那些創造性的工作。現在的發展正好相反。
這說明預測未來是多麼困難。這也說明人類可能不夠了解自己，不清楚什麼類型的技能最難、最需要調動大腦，或者錯誤估計了控制身體的難度。
Q：你認為 AI 不會改變生活的哪些方面？
A：所有深層生物學的東西。我們仍然會真正關心與他人的互動，仍然會享受樂趣，大腦的獎勵系統仍然會以同樣的方式工作。我們仍然會有同樣的動力去創造新事物，為愚蠢的地位競争，去組建家庭等。五萬年前人類在意的東西，一百年後的人類也會在意。
Q：在未來的 20 到 30 年裡，随着人工智能的不斷發展，會出現主要的社會問題嗎？我們今天能做什麼來緩解這些問題？
A：AI的應用會極大影響經濟活動。将來我們需要形成新的社會契約，考慮如何公平地配置設定财富。AGI系統的使用權将會成為一種商品，是以也要考慮如何讓所有人平等地獲得使用AGI的機會。
還有AGI的管理問題：人類如何共同決定AGI可以做什麼、不能做什麼。
我不擔心「AI取代人類的工作之後，人類何去何從」的問題，雖然未來人類的工作會和現在很不一樣，但我覺得人類最終都會找到自己滿意的事業，過上充實的生活。真正的難題是财富配置設定、AGI使用權和AGI的治理問題。
我們進行了世界上最大的 UBI 實驗（Unconditional Basic Income，無條件基本收入）。五年計劃還剩下一年零四分之一的時間。這不是唯一的解決辦法，但我認為這是一件偉大的事情。應該再嘗試 10 件這樣的事情。我們還嘗試了不同的方法，從我們認為将受到最大影響的群體那裡獲得意見，并看如何在周期的早期階段行動。最近我們探索了如何将這項技術用來重新教育訓練那些早期将受到影響的人，也會嘗試做更多這樣的事情。
注：無條件基本收入，指沒有條件、沒有資格審查，公民可以定期領取由政府或特定組織給予的一筆資金。
04 One more thing
我想，沒人知道我們正處在 AI 的懸崖邊上。人們會說「要麼會很棒，要麼會很糟糕」，你得做最壞的打算。
說一切都會好起來，這并不是一個政策。不過你可能會有某種感覺：我們将到達一個美好的未來，并且盡所能的努力工作，為之奮鬥，而不是一直從充滿恐懼和絕望的地方采取行動。
參考連結：
https://greylock.com/greymatter/sam-altman-ai-for-the-next-era/
https://moores.samaltman.com/
https://medium.com/wordsthatmatter/merge-now-430c6d89d1fe
https://www.youtube.com/watch?v=WHoWGNQRXb0
文中圖檔來自圖蟲創意，轉載需獲授權。