陸奇：“模仿”微軟Copilot，結構性代際因邊際成本轉為固定成本

撰文｜宇婷‍‍‍‍‍‍‍‍

OpenAI一路走下來的關鍵技術

GPT-1是第一次使用預訓練方法來實作高效語言了解的訓練；

GPT-2主要采用了遷移學習技術，能在多種任務中高效應用預訓練資訊，并進一步提高語言了解能力；

DALL·E是走到另外一個模态；

GPT-3主要注重泛化能力，few-shot（小樣本）的泛化；

GPT-3.5 instruction following（指令遵循）和tuning（微調）是最大突破；

GPT-4 已經開始實作工程化。

2023年3月的Plugin是生态化。

周末下午在機場等機，恰好有時間聽了奇績創壇創始人兼CEO陸奇對話創業者，并做了幾個社群的直播。陸奇是從商業和技術角度，最為有話語權的中國創業者、高官和技術Leader。

體感上，第一陸奇效率非常之高，他會打斷創業者分享不清楚，以及重複的表達，但他非常開放，且角度是提升效率完全不帶有任何情感色彩，很純粹。第二他說話非常有力。第三他直接提出，最佳路徑就是直接模仿微軟的“副駕駛倉”Copilot，非常務實。‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍

我總結了自己記憶猶新的觀點：

如果長期基于中國業務，建議使用中國大模型

創始人未來重要能力：獨到見解，懂人性。創新需要邊做邊學，大學未來真正要培養創新的能力，培養學生學習懂社會、人的能力

在國内做OA要跟騰訊阿裡位元組pk，機會有，範式改變的時候（AI）創業公司有機會，因為創業公司可以很快把東西做出來，但必須在激烈競争的國内有獨到見解。

在AI範式改變的當下：技術隻會在很短暫時間裡成為壁壘，尤其是算法（因為聰明人太多）。核心起步是你是不是有獨有的資料，避免chatgpt淹掉（美國yc一大批公司被gpt淹沒）。資料成為模型之後，使用效果能否成為閉環。

連續創業者踩的坑是最值錢的。唯一是踩了很快爬出來，把大坑變小坑。

蓋茨提出如果用自動化替代勞工，就要交更多稅，平衡速度。以及新的教育方式，新的技能培養。第三最終5%的人工作，95%的人在更大空間的體育和電競領域這種新體驗的領域。

創始人時間配置設定：找到客戶及交流；如何在産品不ready時說清楚産品。用好社群交流，是保持産品差異化的方式。

與此同時，騰訊新聞《潛望》張小珺老師寫了一篇文章：分享了陸奇的大模型世界觀。其中有一些觀點：‍‍‍‍‍‍‍‍‍‍‍

今天大部分數字化産品和公司，包括Google、微軟、阿裡、位元組，本質是資訊搬運公司。一定要記住，我們所做的一切，一切的一切，包括在座的大部分企業都在搬運資訊。

一家偉大公司叫Google。為什麼會有這個拐點？為什麼會有爆炸式增長？把這個觀點講清楚，就能把今天的拐點講清楚。

原因是，擷取資訊的邊際成本開始變成固定成本。

一定要記住，任何改變社會、改變産業的，永遠是結構性改變。這個結構性改變往往是一類大型成本，從邊際成本變成固定成本。

Google為什麼偉大？它把邊際成本變成固定成本。Google固定成本很高，但它有個簡單商業模式叫廣告，它是世界上高盈利、改變世界的公司，這是拐點關鍵。

模型的成本開始從邊際走向固定，大模型是技術核心、産業化基礎。OpenAI搭好了，發展速度爬升會很快。為什麼模型這麼重要、這個拐點這麼重要，因為模型和人有内在關系。

這一次大模型拐點會讓所有服務經濟中的人、藍領基本都受影響，因為他們是模型，除非有獨到見解，否則你今天所從事的服務大模型都有。下一時代典型的職業，我們認為是創業者和科學家。

在未來，自動化、自主化的動作可以無處不在。

人和數字化的技術共同進化。Sam最近經常講，它必須要共同進化，才能達到通用智能（AGI）。通用智能四大要素是：湧現（emergence）+代理（agency）+功能可見性（affordence）+具象（embodiment）。

一開始比爾·蓋茨根本不相信OpenAI，大概6個月前他還不相信。4個月前看到GPT-4的demo（産品原型），目瞪口呆。他寫了文章說：It’s a shock，this thing is amazing（這太令人震驚了，這東西太神奇了）。谷歌内部也目瞪口呆。

你應該使用Transformer。Transformer是密度模型，它不光是算力問題，對帶寬要求極高，你就想GPT-4需要24000張到25000張卡訓練，試想世界上多少人能做這種系統。所有資料、data center網絡架構都不一樣。它不是一個三層的架構，必須是東西向的網絡架構。是以這裡要做大量的工作。

Token很重要。全世界可能有40-50個确定的token，就是語言的token和模态，現在有更多的token化。

他要設計一個結構，讓它不受任何股東的制約。于是，OpenAI的投資者沒有控制權，他們的協定是一種債的結構。如果賺完2萬億，接下來是non-profit（不再盈利了），一切回歸社會。這個時代需要新的結構隻要到了一定深度，bigness is betterness（大就是好）。隻要有算力，隻要有資料，越大越好。

現在OpenAI核心做的是，把推進速度變慢，每推進新版本，都有足夠時間讓使用者給他們足夠回報，找到潛在風險點，有足夠時間彌補。

每個行業也會有結構性影響，會系統性重組。這裡有一個簡單公式。今天動腦筋的人一天平均工資多少小時？減掉ChatGPT現在大概平均是15美元/小時，再過3年可能不到1美元，再過5年可能幾十美分。然後就乘一下有多少數量。降本或者增效，讓碼農能變成super碼農，醫生變成super醫生。

假定說有個大學生什麼都不懂，實體也不懂、化學也不懂，但他懂怎麼問ChatGPT，他算不算一個好的大學生？機會與挑戰并存。

B端，企業需求也一樣，降本增效。它要生産，有供應鍊、銷售、客服……有了這些需求之後，數字化看得見的體驗結構有6種：給你資訊的，二維就夠；給你三維互動體驗，在遊戲、元宇宙；人和人之間抽象的關系，包括信任關系、Web 3；人在實體世界環中自動駕駛、機器人等；人的内在的用碳機植入到裡面，今天是腦機接口，以後有更多，以後是可以用矽基；最後是給你模型。

不要浮誇，不能蹭熱。我個人最反對蹭熱，你要做大模型，想好到底做什麼，大模型真正是怎麼回事，跟你的創業方向在哪個或哪幾個次元有本質關系。蹭熱是最不好的行為，會浪費機會。

在這個階段要勤于學習。新範式有多個次元，有蠻大複雜性，該看到的論文要看，尤其現在發展實在太快，非确定性很大。我的判斷都有一定灰階，不能說看得很清楚，但大緻是看到是這樣的結果。學習花時間，我強烈推薦。

想清楚之後要行動導向，要果斷、有規劃地采取行動。如果這一次變革對你所在的産業帶來結構性影響，不進則退。你不往前走沒退路的，今天的位置守不住。如果你所在的産業被直接影響到，你隻能采取行動。