天天看點

美國國防部資助私密邊緣計算,與EnCharge AI開發超強邊緣計算晶片

作者:DeepTech深科技

由于人工智能的蓬勃發展,晶片世界正在經曆一場巨大的轉型。

我們對能夠更快地訓練人工智能模型的晶片,以及能夠在手機端運作模型的晶片的需求正在增加,後者使我們能夠在不洩露私人資料的情況下使用這些模型。

政府、科技巨頭和初創公司都想從不斷增長的半導體市場中分一杯羹。

以下是未來一年的四個趨勢,它們将定義未來的晶片是什麼樣子的,誰将制造它們,以及它們将解鎖哪些新技術。

美國國防部資助私密邊緣計算,與EnCharge AI開發超強邊緣計算晶片

(來源:AI 生成,圖文無關)

美國國防部資助私密邊緣計算,與EnCharge AI開發超強邊緣計算晶片

世界各地的晶片法案

在美國鳳凰城郊區,世界上最大的兩家晶片制造商,台積電和英特爾正在沙漠中建造工廠,它們希望這些園區能強化美國的晶片制造能力。

這些努力背後的共同點是資金。2024 年 3 月,美國總統拜登宣布,為英特爾在美國的擴張提供 85 億美元的聯邦資金和 110 億美元的貸款。幾周後,他又向台積電提供了 66 億美元。

這些資助隻是美國向晶片行業提供補貼的一部分,依據是 2022 年簽署的 2800 億美元《晶片與科學法案》。

這筆龐大的資金意味着,任何涉足半導體生态系統的公司都在思考如何重組其供應鍊,然後從補助中受益。

雖然大部分資金旨在促進美國的晶片制造業發展,但無論是裝置制造商,還是利基材料初創公司,都可以參與其中。

但美國并不是唯一一個試圖在本土打造(部分)晶片制造供應鍊的國家。日本在本國的晶片法案上撥款了 130 億美元,歐洲将拿出 470 多億美元。2024 年早些時候,印度也宣布投入 150 億美元建設晶片廠。

美國塔夫茨大學教授、《晶片戰争》一書的作者克裡斯·米勒(Chris Miller)說,這一趨勢的根源可以追溯到 2014 年。

他說:“這創造了一種動态,在這種動态中其它政府得出結論,它們别無選擇,隻能提供激勵措施。”

這種不安感,加上人工智能熱潮的興起,導緻西方政府都在為替代方案提供資金。在接下來的一年裡,這可能會産生滾雪球效應,更多的國家會因為擔心落後而開展自己的晶片項目。

米勒說,這筆錢不太可能培養出全新的晶片競争者,也不太可能從根本上動搖晶片制造行業。相反,它将主要鼓勵像台積電這樣的行業頭部企業在多個國家開枝散葉。

但僅靠資金還不足以迅速做到這一點,台積電在美國亞利桑那州建廠的努力陷入了泥潭,完工日期一再推遲,還遭遇了勞資糾紛,英特爾也同樣未能兌現此前承諾的完工期限。

目前尚不清楚這些工廠何時,甚至是否能開始運轉,以及它們的裝置和員工能否與這些公司國外最先進的工廠保持相同的水準。

米勒說:“供應鍊隻會在幾年,甚至幾十年内緩慢轉變。但情況正在發生變化。”

美國國防部資助私密邊緣計算,與EnCharge AI開發超強邊緣計算晶片

更關注邊緣人工智能

目前,我們與 ChatGPT 等人工智能模型的互動大多都是通過雲進行的。

這意味着,當你要 ChatGPT 挑選一套衣服(或成為你的男朋友)時,你的請求會被發送到 OpenAI 的伺服器,由伺服器上的模型對其進行處理,并在回複你之前完成推理(就像是得出一個結論)。

依賴雲服務有一些缺點。例如,它需要聯網,這也意味着你的一些資料要與模型營運商共享。

這就是為什麼人們和資金對人工智能的邊緣計算很感興趣。在邊緣計算中,人工智能模型的調用和運算都在你的裝置上,比如筆記本電腦或智能手機上。

該行業正在大力發展更加了解使用者的人工智能模型。OpenAI 的 CEO 山姆·奧特曼(Sam Altman)曾向我描述了他眼中的殺手級人工智能應用程式,它“完全了解我的一生,我的每一封電子郵件,每一次對話”。

是以,人們對更快的邊緣計算晶片有了需求,這種晶片可以在不共享私人資料的情況下運作模型。

這些晶片面臨着與資料中心晶片不同的限制,它們通常必須更小、更便宜、更節能。

美國國防部正在資助大量針對快速私密邊緣計算的研究。2024 年 3 月,其研究部門國防進階研究計劃局(DARPA,Defense Advanced Research Projects Agency )宣布與晶片制造商 EnCharge AI 合作,開發一種用于人工智能推理的超強邊緣計算晶片。

EnCharge AI 正在努力制造一種能夠保護隐私的晶片,也可以在非常小的功率下運作。這将使其适用于衛星和離網監視裝置等軍事應用。該公司預計将在 2025 年推出它們。

人工智能模型的某些應用将始終依賴于雲,但對改進邊緣計算的新投資和興趣可能會為我們的日常裝置帶來更快的晶片,進而帶來更多的人工智能。

如果邊緣晶片足夠小、足夠便宜,我們很可能會在家裡和工作場所看到更多人工智能驅動的智能裝置。如今,人工智能模型大多局限于資料中心。

EnCharge AI 聯合創始人納文·維爾瑪(Naveen Verma)表示:“我們在資料中心看到的許多挑戰都将被解決。我希望看到(行業)對邊緣的關注,我認為這對大規模部署人工智能至關重要。”

美國國防部資助私密邊緣計算,與EnCharge AI開發超強邊緣計算晶片

科技巨頭進軍晶片制造

無論是快時尚、還是草坪護理,更行各業的公司都在支付高昂的計算成本,為其業務建立和訓練人工智能模型。

目前的應用包括掃描和總結文檔的模型,以及面向外部的技術如虛拟代理,可以指導你如何修理冰箱。這意味着使用雲計算訓練這些模型的需求已經達到頂峰。

提供大部分雲計算服務的公司是亞馬遜、微軟和谷歌。多年來,這些科技巨頭一直希望通過在資料中心使用自主研發的晶片來提高利潤率,而不是從英偉達這樣的公司購買晶片。

英偉達幾乎壟斷了最先進的人工智能訓練晶片,其市值超過了 183 個國家的 GDP。

亞馬遜于 2015 年收購了初創公司 Annapurna Labs,開啟了自主晶片研發的旅程。

谷歌在 2018 年推出了自己的 TPU 晶片。微軟在 2023 年推出了首款人工智能晶片,Meta 則在 2024 年推出了新版人工智能訓練晶片。

這一趨勢可能會影響英偉達的份額。但在大型科技公司眼中,英偉達除了扮演競争對手的角色,還是必不可少的供應商。

無論它們自己的内部努力是否成功,雲計算巨頭的資料中心仍然需要它的晶片。

這是因為它們自己的晶片制造能力無法滿足所有需求,而且它們的客戶也希望自己能使用性能最好的英偉達晶片。

微軟 Azure 硬體部門負責人拉尼·博卡(Rani Borkar)表示:“這實際上是為了讓客戶有選擇權。”

她說,她無法想象微軟在其雲服務中全部使用自研晶片的未來:“我們将繼續維持強有力的合作夥伴關系,并部署與我們合作的所有夥伴的晶片。”

就在雲計算巨頭試圖從晶片制造商那裡搶走市場佔有率的同時,英偉達也在采取類似的行動。

2023 年,該公司推出了自己的雲服務,這樣客戶就可以繞過亞馬遜、谷歌和微軟,直接在英偉達晶片上通路雲服務。

随着這場争奪市場佔有率的激烈鬥争的展開,未來一年的問題将是,客戶如何看待大型科技公司的晶片,是與英偉達最先進的晶片旗鼓相當,還是更像它的備胎。

美國國防部資助私密邊緣計算,與EnCharge AI開發超強邊緣計算晶片

英偉達與創業公司作戰

盡管英偉達占據晶片行業的主導地位,但仍有一波投資流向初創公司,這些公司的目标是在未來晶片市場的某些領域擊敗英偉達。

這些初創公司都承諾加速人工智能的訓練,從量子到光子,再到可逆計算,它們對這些新鮮的計算技術有着不同的想法。

28 歲的穆拉特·奧南(Murat Onen)是晶片初創公司 Eva 的創始人。這家公司是從他的麻省理工學院博士工作中誕生的,他描述了現在創辦一家晶片公司是什麼感覺。

“英偉達站在山的最高處,這就是我們生活的世界。”他說。

許多初創公司,如 SambaNova、Cerebras 和 Graphcore,正試圖改變晶片的底層架構。

想象一下,一個人工智能加速器晶片不斷地在不同區域之間來回移動資料。

一條資訊存儲在存儲區,但必須移動到處理區,在那裡進行計算,然後送回存儲區進行保管。所有這些活動都需要時間和能量。

提高這一過程的效率将為客戶提供更快、更便宜的人工智能訓練條件,但前提是晶片制造商擁有足夠好的軟體,使人工智能訓練公司能夠無縫過渡到新晶片。

如果軟體轉型過于笨拙,OpenAI、Anthropic 和 Mistral 等模型制造商可能會選擇大牌晶片制造商。

這意味着采用這種方法的公司如 SambaNova,不僅要在晶片設計上花費大量時間,還要在軟體設計上花費大量時間。

奧南提出了更深層次的變革。幾十年來,傳統的半導體越來越小,效率越來越高,他使用了一種稱為質子門控半導體(proton-gated transistor)的新元件。

他表示,Eva 公司專門為人工智能訓練裡面的數學需求設計了這種元件。

它允許裝置在同一個地方存儲和處理資料,節省時間和計算能耗。使用這種元件進行人工智能推理的想法可以追溯到 20 世紀 60 年代,但當時的研究人員無法找到将其用于人工智能訓練的方法。

部分原因是材料不夠先進,它需要一種能夠在室溫下精确控制電導率的材料。

奧南說,有一天在實驗室裡,“通過優化這些數字,我們非常幸運地得到了我們想要的材料。突然之間,這個裝置變得不一樣了,不再是科研項目了。”

這增加了大規模使用這種元件的可能性。經過數月的資料确認,他創立了 Eva。這項工作的相關論文發表在 Science 上。

但在一個許多創始人都承諾但未能推翻領先晶片制造商主導地位的行業,奧南坦率地承認,他還需要幾年的時間才能知道他的設計是否能按照預想工作,以及制造商是否會同意生産。

他說,上司一家公司度過這種不确定性,需要靈活性和頂住他人的懷疑。

他說:“我認為,有時人們太執着于自己的想法了,導緻缺乏安全感。他們會想,如果這個想法失敗了,那就什麼都沒有了。我不這麼認為,我一直在尋找挑戰我們并說我們做錯了的人。”

支援:Ren

營運/排版:何晨龍

繼續閱讀