Andrej Karpathy最近在加州大學伯克利分校AI hackathon上做了一個人工智能和機器學習演講，Andrej Karpathy認為目前的大語言模型（LLM）在計算中扮演核心角色，改變了計算的本質，還提到 OpenAI 的 GPT-4.0 展示和電影《她》對現代 AI 的啟示，并預測 AI 模型将在現實中解決大量問題，包括自動化數字和實體基礎設施
這裡給大家分享其中的一段流出來的演講内容：
Andrej Karpathy，
大家好，非常感謝大家邀請我，能來到這裡我感到非常榮幸。我非常喜歡 hackathon，因為這裡充滿了能量和創造力，年輕人們在一起做很酷的事情，一起學習和創造。我參加過很多 hackathon，是以今天能在這裡和大家交流我感到非常高興。
有件事讓我感到意外，這個活動的規模比我預期的要大。當他們邀請我的時候，我沒想到規模這麼大。這裡真的很大，hackathon 的規模也确實很大。我想先說的是，以防你們好奇，這對 AI 來說是不正常的。我從事 AI 研究大約有 15 年了，是以我可以很有信心地說，它已經發展了很多。對我來說，AI 是幾百個學者聚在一起開會，讨論一些數學上的深奧細節，這就是我習慣的場景。
當我 15 年前進入 AI 領域時，訓練神經網絡時，你會用 MNIST 資料集上的小數字，訓練受限玻爾茲曼機 (Restricted Boltzmann Machine)，使用對比散度 (Contrastive Divergence) 來訓練網絡，然後在第一層上仔細檢查這些，確定網絡訓練正确。我知道這些聽起來有些複雜，因為那已經是很久以前的事情了，但那時候的感覺是不同的，并沒有現在這麼瘋狂。我覺得事情已經有些失控了，但看到這樣的能量真的很美妙。今天 15 年後，情況完全不同，現在的 AI 領域更像這樣。這也是為什麼這個活動如此盛大。
Nvidia 作為制造 GPU 的公司，用于所有的神經網絡的重型運算，現在是美國最有價值的公司，并且已經占據了主導地位。這就是我們今天生活的時代，也解釋了為什麼有這麼多像這樣的 hackathon。我覺得這很了不起，但确實是前所未有的。這是一個非常獨特的時刻，許多人可能剛剛進入 AI 領域，這種情況并不常見。現在這個領域非常有趣，超級人類化，正在發生很多事情。
我認為根本原因在于計算的本質正在改變。我們正在進入一個新的計算範式，這種情況非常罕見。我幾乎覺得像是回到了 1980 年代的計算機時代，不再是中央處理器 (CPU) 處理指令和位元組，而是大語言模型 (LLM) 處理 Token。Token 是一些小字元串片段。我們有 Token 的上下文視窗，而不是 RAM 中的位元組，并且有磁盤等的等效物。這有點像計算機，但現在大語言模型是核心，這就是為什麼我稱之為大語言模型作業系統LLM OS。
我在X上詳細讨論過這個，我把它看作是我們正在學習程式設計的新計算機，了解它擅長什麼，不擅長什麼，如何融入産品，如何最大化利用它。我覺得這非常令人興奮。
可能許多人看過 OpenAI 最近釋出的 GPT-4.0 示範，大約兩三周前。你們開始感覺到，這是一件你可以對話的東西，它以你的自然語言回應，就像音頻界面。它可以看見、聽見并繪畫，可以做很多事情。很多人看過這部電影《她》 (Her)，如果沒有看過，我強烈推薦，因為它對我們今天非常有啟發性。電影中的主角與 AI 對話，AI 被稱為作業系統 (OS)，這非常有先見之明。這是一部美麗的電影，我鼓勵大家去看。
電影中聚焦的是情感智能方面，但這些模型在現實社會中，将會解決大量數字領域的問題。不僅僅是單一的數字實體，有點像人類，可以與之對話。不僅僅是單一的數字實體，可能有很多這樣的數字實體。我們可以給它們任務，它們可以互相交流，協作，有虛拟的 Slack 線程，在數字空間中完成大量工作。它們自動化了大量數字基礎設施，不僅是數字基礎設施，也許還有實體基礎設施。這是早期階段，可能會比很多數字創新稍微滞後，因為處理比特 (bit) 比處理原子 (atom) 容易得多。
我想推薦另一部電影，這是我最喜歡的電影之一，叫做《我，機器人》 (I, Robot)，2004 年威爾·史密斯主演。這是一部很棒的電影，探索了未來人類機器人在社會中完成大量任務的情景。劇透警告，電影中的人類并不太順利，機器人有點接管了，但我覺得這很有趣。