“ 人類隻是智慧演化過程中的一個過渡階段。
-
傑弗裡·辛頓
”
聯考出分後，無論大人、孩子都忙成一鍋粥，因為在填報志願這件事上，沒有人敢說自己十拿九穩。
特别是在當今AI大行其道的社會環境下，選擇什麼專業才能不被人工智能“淘汰”？在下定決心之前，不隻要考慮興趣和能力，恐怕還要了解人工智能已經發展到什麼程度了。在【少年中國科技·未來科學+】系列的《并不是長得像人，才叫機器人》裡，中國科學院院士陳潤生從生物醫學的角度，為我們分享了AI大模型的未來。
陳潤生 / 黃鐵軍 / 山世光 等｜演講格緻論道｜編未讀·探索家｜出品
大模型給生物醫學帶來的影響你一定知道一個最近非常熱門的話題，那就是人工智能進入了大模型時代。也就是說，人工智能已經從隻能做一件事發展成可以同時處理多件事，我們把這樣的人工智能新發展叫作搭建了人工智能“大模型”。什麼是大模型？大模型就是把寬泛的、不同的資料綜合在一起進行分析。下面我們來簡單地讨論一下現階段大模型的進展以及它對整個生物醫學發展的影響。實際上，不管是現在的人工智能還是大模型，其基本原理都是模仿人腦。人腦有很多神經元，很多神經元連起來，就構成神經回路，進而能夠做很多事。現在，我們隻是把局面做大，把事情做複雜，基本原理并沒有變。
現在的大模型在哪個方面有進展呢？主要是語言，确切地說，是自然語言。例如，各種論文、書籍、醫學病曆現在都可以用這種方式被計算機讀懂，使大模型的能力大大更新。大語言大模型出現後，馬上就轉到生物醫學領域了，因為生物醫學跟每個人都休戚相關。比如在OpenAI推出ChatGPT時，微軟推出了BioGPT，把大模型直接應用到生物醫學中；谷歌也做了一個用于生物醫學的大模型Med-PaLM——我們可以從中看出，整個大模型研發行業對生物醫學的重視。那這些大模型的水準怎麼樣？例如，美國職業醫生的執照考試及格分數是60分，BioGPT和Med-PaLM都得了80分以上。我想，像我這樣的“白丁”想要考職業醫生執照，用這個軟體一定能夠過關。是以，現在人工智能在某些生物醫學基礎領域已經學得非常好了。大陸也啟動了用于生物醫學的大模型。我覺得，最受關注、在大模型上花費精力和時間比較多的應當是百度。百度在搭建中國的大模型上花了很多精力，它的子公司百圖生科，是專門為把大模型應用到生物醫學而成立的，做了很多基礎工作。《新英格蘭醫學雜志》（NEJM）是國際上頂尖的醫學學術刊物，它在2024年成立專刊NEJM-AI。它的一篇綜述裡提到，現在的人工智能實際上可以應用到醫學當中的很多方面。是以，包括大模型在内的人工智能在生物醫學應用是一件長期發展的事，而不是突然興起的事。
未來大模型能不能達到強人工智能的水準？大模型之是以會引起全世界的廣泛注意，主要是因為在大模型出現後人們發現了一些新現象。如果模型規模做得足夠大，學習的參數足夠多，就可能會出現兩個現象。一個現象叫湧現，另一個現象叫頓悟。這不是正常計算機程式會出現的現象。什麼叫湧現？我教給你這麼多東西，學到一定程度後你會出現新的想法，而這個想法是我在教你的過程中沒有的。這個現象使業内人産生深深的擔憂和思考：湧現出來的東西會不會超越人類掌握的知識呢？頓悟是這樣的現象：大模型和人腦一樣，第一遍沒學會，第二遍沒學會，第三遍沒學會，但第四遍它開竅了，完全學會了。我們知道，計算機不會出現這種現象，它隻能運作一個程式，你向它輸入，永遠會得到輸出。大模型出現了湧現和頓悟現象，說明它和過去我們用來下圍棋、用來預測生物大分子結構的人工智能不同，這使現在的大模型除了作為一種技術之外，有更多更深入和廣泛的探讨空間。
在OpenAI剛剛釋出GPT-4後，2023年5月14日，号稱ChatGPT“最強競争對手”的Claude釋出了更新。本質上，Claude跟ChatGPT是一樣的，但是Claude一分鐘能處理将近10萬字的内容，也就是說，它的文本處理能力在短時間裡就超過了ChatGPT。這兩個模型的發展态勢太快了，你追我趕。另外，已經有人在嘗試用大模型來驅動第三方系統。換句話說，如大模型能夠驅動手術機器人，它就可以代替外科醫生做手術。這樣的發展使人們在擔心人工智能會發展到什麼程度的基礎上，還要擔心它的發展速度和它能夠調動的下遊裝置。是以，大模型格外引起人們的注意。目前人們争論的焦點是，未來大模型能不能達到強人工智能的水準？強人工智能是人工智能領域的一個專業術語。人工智能如果達到人腦的水準，能思維、能思考、能決策，就是強人工智能。當然，現在的人工智能還沒有達到這個水準，它能不能達到，就成為人們非常關注的一點。為此，很多人有深刻的擔憂。這裡，我隻提一個代表人物——傑弗裡·辛頓，他是人工智能的最早創始者之一。他曾表達了對人工智能的憂慮，特别是這句話：“人類隻是智慧演化過程中的一個過渡階段。”言外之意就是，他認為人工智能将來有可能超過人的智能。這個問題非常值得思考，正因為這個擔憂，他從谷歌辭職了。另外，2023年3月22日，生命未來研究所向全社會釋出了《暫停大型人工智能研究》的公開信，馬斯克、圖靈獎獲得者約書亞·本吉奧等專家都簽署了這封公開信。他們希望在6個月内暫停發展比GPT-4能力更強的人工神經網絡的模型。他們認為，人類沒有準備好，如果人工智能發展得太快，也許人類就不能很好地把握它。
《暫停大型人工智能研究》公開信
另外，歐盟提出了《人工智能法案》，代表整個歐盟已經制定了對人工智能的法律監管方案。2023年5月13日，美國政府成立了人工智能工作組，這個工作組的兩個組長之一是著名的華裔科學家、數學家陶哲軒，華裔女科學家李飛飛也是咨詢組的成員。以上事例都說明，目前大模型的發展不僅僅是一個科學問題，它還産生了很多包括科學哲學在内的問題，引起人們對大模型更深的思考和擔憂。我想表達一些我自己的看法，未來，人工智能當然會繼續發展，任何力量也很難阻止，因為它是一項先進的技術，前沿技術的發展是很難阻擋的。但是，人工智能能力的提高是連續的還是有壁壘的？如果是連續的，它就會一直不斷地發展下去；如果是有壁壘的，即它需要克服某些壁壘才能夠達到新的發展階段，我們就有可能在某些壁壘上暫緩它的發展。目前看來，沒有任何證據能夠證明人工智能的發展存在壁壘，是以它還是在高速地發展着。是以，如果說，人工智能能力的提高會遇到壁壘，我認為，目前人工智能神經網絡結構的複雜度還遠遠無法媲美人腦的結構。換句話說，人工智能會不斷地發展，人們擔心的新的湧現現象還是可能會出現，但是人工智能要想超過人的智能，還需要非常大的時間尺度。
上圖是人的神經網絡，你可以把它和人工神經網絡比較一下。實體學家總會問一個問題：如果現在的實體規律從三維空間變到二維空間會怎麼樣？相信，很多實體規律是不成立的。我們可以比較一下，目前的人工智能模型還是不如真正人腦空間結構複雜。 我相信，人工智能會不斷地發展，一定會對生産力的發展、社會的生産生活、醫學的發展提供很大的助力，不過，我們也要注意它可能帶來的各種影響。但至少在短期内，它要達到強人工智能的水準恐怕還有相當大的距離。
文章來源：未讀