天天看點

諾貝爾實體學獎,為何授予機器學習?

澎湃新聞記者 張靜

諾貝爾實體學獎,為何授予機器學習?

辛頓開發的玻爾茲曼機成為了生成模型的早期例子。玻爾茲曼機常被用作一個大網絡的一部分,可以用來根據觀衆的喜好推薦電影或電視劇。

機器學習與傳統軟體不同,傳統軟體的工作方式就像一種配方。傳統軟體接收資料,然後根據清晰的描述進行處理并産生結果,就像有人收集原料并按照食譜處理。相反,在機器學習中,計算機通過執行個體學習,使其能夠解決模糊和複雜的問題,這些問題無法通過一步一步的指令來管理。

諾貝爾實體學獎,為何授予機器學習?

約翰·J·霍普菲爾德和傑弗裡·E·辛頓因“通過人工神經網絡實作機器學習的基礎性發現和發明”,獲得2024年諾貝爾實體學獎。

10月8日,2024年諾貝爾實體學獎出乎意料地授予機器學習研究領域,結果公布後,連獲獎者本人傑弗裡·E·辛頓(Geoffrey E. Hinton)在接受瑞典皇家科學院的電話采訪時,也直呼“沒有想到”。2024年,普林斯頓大學的約翰·J·霍普菲爾德(John J. Hopfield)和加拿大多倫多大學的傑弗裡·E·辛頓因“通過人工神經網絡實作機器學習的基礎性發現和發明”,獲得諾貝爾實體學獎。獲獎者将共享1100萬瑞典克朗(約合745萬元人民币)獎金。諾貝爾實體學獎為何花落機器學習?機器學習在過去15到20年裡爆炸式發展,它利用了一種叫做人工神經網絡的結構。是以當我們談論人工智能時,通常指的是使用人工神經網絡的機器學習。雖然計算機不能思考,但機器現在可以模拟記憶和學習等功能。這要得益于今年諾貝爾實體學獎得主的創造性工作。今年的兩位諾貝爾實體學獎得主兩位獲獎者約翰·霍普菲爾德和傑弗裡·辛頓從20世紀80年代開始就在人工神經網絡方面開展了重要工作。他們使用了實體學的工具來開發方法,這些方法是當今強大的機器學習的基礎。霍普菲爾德創造了一種聯想記憶,可以存儲和重建圖像和其他類型的資料模式。當給定一個不完整或稍微扭曲的網絡模式時,霍普菲爾德的方法可以找到最相似的存儲模式。1980年,霍普菲爾德離開了普林斯頓大學的職位,他的研究興趣把他帶出了實體學同行們工作的領域。他來到加州理工學院擔任化學和生物學教授。在那裡,他可以使用計算機資源進行免費實驗,并發展他關于神經網絡的想法。但他并沒有放棄自己的實體學基礎。磁性材料由于原子自旋而使得每個原子都能成為一個微小的磁鐵,相鄰原子的自旋互相影響。得益于對磁性材料的了解,霍普菲爾德利用描述自旋互相影響時材料如何發展的實體學原理,建立了一個具有節點和連接配接的模型網絡。霍普菲爾德等人繼續發展霍普菲爾德網絡的運作細節,例如可以存儲任何值的節點,而不僅僅是0或1。如果把節點想象成圖檔中的像素,它們可以有不同的顔色,而不僅僅是黑色或白色。改進的方法使儲存更多的圖檔成為可能,即使它們非常相似,也可以區分它們。

諾貝爾實體學獎,為何授予機器學習?

圖檔來自諾獎官網。

記住一幅圖像是一回事,但要解釋它所描繪的内容需要更多的東西。辛頓曾在英格蘭和蘇格蘭研究實驗心理學和人工智能,他想知道機器是否能像人類一樣學會處理模式,分類和解釋資訊。當霍普菲爾德1982年發表關于聯想記憶的文章時,辛頓正在卡内基梅隆大學工作。辛頓将霍普菲爾德發明的網絡作為一個新網絡的基礎,這種新網絡使用另一種方法是玻爾茲曼機,可以學習識别給定類型資料中的特征元素。這一方法發表于1985年。辛頓使用了統計實體學的工具,通過給機器輸入案例來訓練機器。玻爾茲曼機不是從指令中學習,而是從給定的例子中學習,它可對圖像進行分類,或者為它所訓練的模式類型建立新的案例。玻爾茲曼機每次更新一個節點的值,最終機器将進入一種狀态,在這種狀态下,節點的模式可以改變,但整個網絡的屬性保持不變。根據玻爾茲曼方程,每個可能的模式都有一個特定的機率,這個機率由網絡的能量決定。當機器停止時,它創造了一個新的模式,這使得玻爾茲曼機成為了生成模型的早期例子。

諾貝爾實體學獎,為何授予機器學習?

約翰·J·霍普菲爾德和傑弗裡·E·辛頓因“通過人工神經網絡實作機器學習的基礎性發現和發明”,獲得2024年諾貝爾實體學獎。

20世紀90年代,許多研究人員對人工神經網絡失去了興趣,但辛頓是繼續在該領域探索的科學家之一,他還在這項工作的基礎上幫助啟動了目前機器學習的爆炸性發展。2006年,他和同僚開發了一種預訓練網絡的方法,該網絡由一系列分層的波爾茲曼機組成。這種預訓練為網絡中的連接配接提供了一個更好的起點,進而優化了識别圖像元素的訓練。玻爾茲曼機常被用作一個大網絡的一部分,可以用來根據觀衆的喜好推薦電影或電視劇。值得一提的是,辛頓因在深度學習方面的貢獻與約書亞·本希奧和楊立昆一同被授予了2018年的圖靈獎。今天的人工神經網絡通常是巨大的,由更多層組成。它們被稱為深度神經網絡,它們的訓練方式被稱為深度學習。人工智能越來越深入各行各業、幫助科學研究。諾獎官方評價稱,實體學為機器學習的發展提供了工具,實體學作為一個研究領域如何也從人工神經網絡中受益将是有趣的。

本期編輯 邢潭

繼續閱讀