奧特曼談人工智能：進步是不可預測的，也很難監管

鞭牛士報道，5月3日消息，據外電報道，OpenAI聯合創始人兼首席執行官薩姆·奧爾特曼 (SAM ALTMAN) 在劍橋參加了 Xfund 主辦的一系列活動。

他對擠滿紀念教堂聽他講話的一群學生說：我真的很喜歡那些如果有效的話，就非常重要的事情，即使它們成功的機會并不高。

他解釋了 20 年前，當他還是斯坦福大學的一名大學生時，是什麼吸引他從事人工智能研究，當時這個話題還沒有像今天這樣成為一股巨大的力量：看起來，如果人工智能能夠發揮作用，它就将是最酷、最重要、最令人興奮的事情。是以，這是值得追求的。

Altman 在劍橋參加了 Xfund 主辦的一系列活動，Xfund 是一家隸屬于哈佛大學和麻省理工學院的早期風險投資公司。

在紀念教堂活動上，哈佛大學保爾森工程與應用科學學院院長戴維·帕克斯向奧特曼頒發了 2024 年Xfund 實驗杯，該獎項旨在獎勵來自世界最好大學的傑出創始人。

活動主持人——Xfund 的管理普通合夥人 Patrick Chung '96、JD-MBA '04，投資了 Altman 的第一家公司——向一千多名興奮的學生示意，他們開始在封閉的環境中排隊參加活動開賽前一小時哈佛庭院。

「他們看着你，他們渴望，他們夢想能像你一樣對世界産生影響，」鐘說。他會給自己這個年紀的自己什麼建議？

「我認為你可以在這個世界上做一些事情。」奧特曼回答說，他的話語之間有特有的、深思熟慮的停頓。 「你不需要等待，也不需要獲得許可。你可以——即使你在這個世界上完全不為人所知，幾乎沒有資源——你仍然可以取得驚人的成就。」

一些人批評奧特曼面對先進人工智能的潛在危險而不懈地推動進步。

去年，奧特曼本人簽署了一封信，将人工智能描述為人類面臨滅絕的風險；他在國會作證時表示，如果這項技術出了問題，它可能會出大問題。

但他對放慢進展能否減輕這些威脅的方法表示懷疑。 20 年前，他從事人工智能研究，并不知道它會成為今天的技術，而且即使是現在，我們正在做出的最關鍵的決定，我們也沒有意識到它們的重要性。

他繼續說，進步是不可預測的，也很難監管。

「現在，在 OpenAI 的某個地方，有人做出了一些非常重要的發現——我不知道它是什麼，我隻知道它會在統計上發生——這可能會極大地影響未來。」他說。 「從表面上看，我完全同意，我們應該感到巨大的責任并做出正确的重大決策，但你并不總是知道那什麼時候會發生。進展的結果才是應該控制的：決定是否部署 GPT-5，決定門檻應該在哪裡——我們對此非常謹慎。」

關于開發和部署新人工智能的速度的大部分決策權掌握在像 OpenAI 這樣的私營營利性公司手中，而一些人擔心這種權力集中在極少數人手中。這些擔憂在 11 月份蔓延到了 OpenAI 董事會，當時 Altman 被解除了首席執行官職務——部分原因是出于安全考慮——幾天後又恢複了職位。

埃利奧特大學教授、哈佛大學名譽校長拉裡·薩默斯在危機後被任命為新董事會成員，大概是為了加深其上司經驗。

在演講前接受《哈佛雜志》和其他出版物采訪時，奧爾特曼談到了私營部門發展人工智能的挑戰。

「我認為人工智能開發在私營企業中發生是令人興奮的。」他說，「但在不同的時間或不同的世界格局中，它會發生在政府中。既然事實并非如此，政府和行業之間的共同了解就很重要。他說，現在，對于未來幾年人工智能的進展，這兩個群體之間存在太大差異。」

4 月下旬，Altman 加入了國土安全部的人工智能安全與安保委員會，以幫助促進這些對話。

盡管如此，Altman 在演講中表示，如果他能回到 2015 年，當時他與他人共同創立了 OpenAI，他将把它作為一家營利性公司開始，而不是像該組織在 2019 年之前那樣作為非營利組織。

OpenAI網站稱，人工智能需要太多資源，無法通過非營利模式來維持。

随着向利潤驅動結構的轉變，OpenAI 變得閉源：其底層代碼和實作細節不向公衆公開。這使得學術界的許多人無法研究該模型，研究人員已轉向采取變通措施，例如分析 ChatGPT 輸出中的模式。

在回答《哈佛雜志》關于這些挑戰的問題時， Altman 表示 OpenAI 已經開展了學術合作：舉個例子，我們為學術研究人員提供了通路 GPT-4 基本模型權重的權限，盡管目前還沒有公開的資訊。但尋找與學術界合作和解鎖學術界的方法似乎非常重要，因為沒有更好的詞來形容。

學院中一些人尋求解決的一個問題是人工智能模型如何産生輸出。 ChatGPT 的内部機制目前尚不清楚，盡管學術研究人員正在研究這個問題，但特别是對于閉源的 ChatGPT 來說，這樣做很困難。一些人認為，在開發自主模型或在醫療保健等高風險環境中應用人工智能之前，了解這些機制非常重要。

「我們正在追求它。我沒有任何具體資訊，比如，我們已經破解了它。」Altman 向《哈佛雜志》談到 OpenAI 是否也在研究這個問題時說道。但完全了解”ChatGPT 如何産生輸出可能不是一個可行的目标。

他說：我認為我們可以以重要的方式了解這些系統嗎？是的，我可以說我們能夠準确了解每個人工神經元在做什麼嗎？我不知道。但我什至不确定這是否是值得關注的正确問題。

與此同時，利潤動機繼續推動進步。奧特曼在紀念教堂的談話結束後，他聽取了八個由哈佛和麻省理工學院學生組成的團隊的演講——從近千份送出的材料中預先選出——作為赢得 Xfund 10 萬美元投資的競賽的一部分。