10月8日揭曉的2024年諾貝爾實體學獎,讓不少人震驚。
為表彰利用人工神經網絡實作機器學習的奠基性發現和發明,今年的諾貝爾實體學獎授予美國實體學家約翰·霍普菲爾德(John J. Hopfield)和英裔加拿大計算機科學家傑弗裡·辛頓(Geoffrey E. Hinton),他們将平分1100萬瑞典克朗(約合745萬元人民币)獎金。
辛頓在接受瑞典皇家科學院的電話采訪時停頓了很久,然後他說:“我沒有想到”。
事實上,學界幾乎沒人預料到,今年的諾貝爾實體學獎會花落機器學習領域,頒給了兩位人工智能(AI)先驅。此前,他倆幾乎從未出現在該獎項的預測名單中,而辛頓更為人所知的身份是“人工智能之父”。
解讀今年的諾貝爾實體學獎,多位學者談到,“若考慮到兩位獲獎者對世界的貢獻,這個結果也并不那麼令人震驚。”
利用實體學工具,為強大的機器學習奠基
如今,深度學習模型已成為連中學生都可熟練使用的AI工具,而這些模型正是在這兩位獲獎者的成果上不斷演進而來。
正如今年的諾獎頒獎詞所言,兩位獲獎者使用實體學工具開發了各種方法,而這些方法為當今強大的機器學習奠定了基礎。其中,霍普菲爾德創造了一種關聯記憶,它能夠存儲和重構圖像以及其他模式類型。辛頓發明了一種能夠自主發現資料中屬性的方法,并執行任務,如識别圖像中的特定元素。
現年91歲的霍普菲爾德是一位實體學家,他在1980年代首次提出了“霍普菲爾德網絡”,這一單層、全回報的網絡結構模仿生物神經元連接配接,并引入了能量函數。當能量函數達最小值,整個系統達到穩定狀态。在神經網絡中,這個穩定狀态正是對應于網絡的記憶或存儲的資訊。這一模型被證明具有廣泛的應用,涵蓋機器學習、聯想記憶、模式識别、優化計算等多個領域。
上海交通大學計算機科學與工程系教授嚴駿馳介紹,霍普菲爾德的工作不僅擴充了統計實體學的邊界,還建立了一種新的思考大腦計算的語言,對神經網絡的動力學有了更深入的了解。基于在這一領域的傑出貢獻,霍普菲爾德曾獲2022年玻爾茲曼獎。
另一位獲獎者辛頓,則是機器學習領域的領軍人物。辛頓利用統計實體學的工具,對霍普菲爾德網絡進行随機擴充,開發出了“玻爾茲曼機”。他通過輸入在運作時很可能出現的示例來訓練玻爾茲曼機,用于分類圖像等。不僅如此,辛頓還在此基礎上繼續拓展,啟動了機器學習的爆炸性發展。他曾于2018年獲得計算機領域的最高獎——圖靈獎。
上海大學理學院教授許建立介紹,辛頓的工作大大推動了人工神經網絡的發展,打破了機器學習的瓶頸。此外,包括量子人工智能領域,新型量子算法和量子計算機的設計,也都受益于他們的工作。
在“不受待見”的方向持續耕耘,挺過學術寒冬
其實,人工神經網絡并非最新的研究方向,從上世紀60年代起,科學家們就開始研究,且研究過程幾經起伏。不論是霍普菲爾德還是辛頓,他們的研究都經曆了從熱到冷、再到熱的過程。尤其是辛頓,更為業内人士熟知的是他30年坐“冷闆凳”的故事。
“早在上世紀80年代,人工神經網絡曾是熱門研究方向,但由于當時計算機算力等問題,這個領域一度被認為難有突破,很快就不再為人們所關注。但是,這兩位學者卻能持續地在神經網絡方向耕耘。神經網絡深度學習可說在他們的研究基礎上得到了爆發式發展。”複旦大學類腦科學與智能研究院院長馮建峰教授上世紀80年代時讀博士期間的研究以及博士論文,就與霍普菲爾德網絡相關,他與辛頓也有研究交集。
1986年,辛頓就和兩位學生發表了一篇關于“反向傳播算法”的論文,這一算法是訓練神經網絡的核心。但當時并未改變神經網絡研究持續走低的趨勢,直到2012年,辛頓和兩位學生提出Alexnet模型,大幅提升了視覺識别的正确率後,引起了全球科學界震動,才開啟了深度學習的熱潮。
在馮建峰看來,出生于學術世家的辛頓是那種典型的為了學問而學問的人。也正是是以,他在神經網絡研究的“寒冬”季節,一度在愛丁堡大學申請不到研究經費,但即便如此,他仍然沒有放棄,而是“輾轉”美國、加拿大繼續他的研究方向。
“難以想象辛頓當年會在神經網絡這個‘不受學界待見’的研究方向持續耕耘,直到在深度學習領域實作了巨大的突破。”上海交通大學人工智能學院特聘研究院張娅告訴記者,包括辛頓的導師在内,當時不少人都認為辛頓不該在這個方向浪費時間,甚至還勸說他轉換方向。但也正是他在這個冷門的領域耕耘,使得他獲得了2018年的圖靈獎和今年的諾貝爾實體學獎,并且為後來人工智能的發展帶來了革命性的突破。
諾獎越來越垂青交叉領域,凸顯前沿學科特性
随着今年諾貝爾實體學獎的頒出,不少學者也開始讨論一個延伸話題:近年來,這一獎項越來越垂青交叉研究。
“這無異于凸顯了前沿學科的交叉與互通性。”嚴峻馳在接受記者采訪時列舉到,2020年的諾貝爾實體學獎頒給了數學家彭羅斯,2021年的諾貝爾實體學獎則頒給了研究複雜系統的氣象學家真鍋淑郎、克勞斯·阿塞爾曼。再看今年,霍普菲爾德和辛頓兩人也同樣是“跨界高人”。霍普菲爾德是一位橫跨多個學科領域的實體學博士,在實體、化學和生物學的交叉處開發了神經網絡。辛頓就讀劍橋大學時,同時學習實體學和生理學,後來獲得實驗心理學學士學位,他通過實體、數學和計算機、神經心理學多領域的交叉,推動機器學習的發展。
複旦大學實體學系教授施郁表示,機器學習的重要研究和發展,都與實體學有着千絲萬縷的關系。一方面,實體學早已突破傳統領域,研究的範圍更廣;另一方面,随着AI工具被廣泛使用,越來越多的科研人員也正使用機器學習,繼續拓展着實體、化學、生物等研究邊界。