天天看點

緊急“喊停”!千人聯名呼籲!AI發展太快,引發擔憂?

作者:央視财經

(央視财經《經濟資訊聯播》)3月14日,美國研發公司OpenAI正式釋出人工智能語言模型的最新産品GPT-4,震動全球。兩周時間過去,一封包括SpaceX首席執行官馬斯克以及1000多名行業高管和專家簽署的公開信在網上釋出,他們呼籲,在至少6個月内、暫停開發比GPT-4更強大的AI系統,并警告人工智能的發展“對社會和人類構成潛在風險”。GPT-4的發展為何會引發如此擔憂呢?

視訊加載中...

△央視财經《經濟資訊聯播》欄目視訊

AI發展太快 對社會和人類構成潛在風險引發擔憂

緊急“喊停”!千人聯名呼籲!AI發展太快,引發擔憂?

這封公開信中表達的普遍憂慮是,AI發展太快,相關的監管和法律沒有跟上,甚至連發明者也缺乏有效的控制手段。

緊急“喊停”!千人聯名呼籲!AI發展太快,引發擔憂?

英國神經學家 阿尼爾·塞斯:我認為真正使我震撼的事,是機器學習和人工智能從開發到釋出這一整個周期似乎非常之快。

日本首相首次在内閣會議上回答“ChatGPT”提問

緊急“喊停”!千人聯名呼籲!AI發展太快,引發擔憂?

29日,日本首相岸田文雄在衆議院内閣委員會會議上回答了用OpenAI公司的聊天機器人程式“ChatGPT”生成的提問。随後,ChatGPT預測了岸田文雄的回答,在答辯後用展闆進行了展示,答案的走向基本一緻。

緊急“喊停”!千人聯名呼籲!AI發展太快,引發擔憂?

日本首相 岸田文雄:我的回答列舉出了日本全國知事會、市長會等具體相關方的名稱,更能反映實際狀況。

AI模拟聲音引發所謂“深度僞造”擔憂

事實上,這還隻是ChatGPT的基本應用。美媒記者展示了自己使用AI模拟自己的聲音與父親通話的過程,而這一過程也引發了所謂“深度僞造”的擔憂。

緊急“喊停”!千人聯名呼籲!AI發展太快,引發擔憂?

美國有線電視新聞網主持人:這看起來像是個好玩的遊戲,但AI技術甚至可以用來實作所謂的“深度僞造”,這可就不好玩了。因為我們可以通過這項技術複制任何人的外貌,生成數字面具。

緊急“喊停”!千人聯名呼籲!AI發展太快,引發擔憂?

GPT-4橫空出世 能力太強引發全球熱議

緊急“喊停”!千人聯名呼籲!AI發展太快,引發擔憂?

GPT-4是美國研發公司OpenAI為聊天機器人ChatGPT釋出的第四代語言模型,它的橫空出世被科技界認為是“未來已來”,引發了全球熱議。它可以撰寫文章、建立網頁、邏輯推理,創作幾乎任何内容。此外,它還能參加考試,它在美國律師資格考試中得分超過了90%的考生。

英國天空台記者 湯姆·克拉克:嗨,GPT-4,你有自主意識嗎?

GPT-4:作為一個新語言模型,我不具備意識,我沒有自我意識、主觀情感或主觀體驗,我的反應是來自我所受訓練的文本資料中已寫定的模式。

事實上,從ChatGPT橫空出世至今,如何管控風險一直都是讨論的焦點。

緊急“喊停”!千人聯名呼籲!AI發展太快,引發擔憂?

美國廣播公司記者:一方面AI潛力巨大,可以用來做有益的事情,另一方面,存在大量未知的情形,可能給社會帶來非常壞的後果。你有多大的信心,你打造的東西不會造成這樣的結果?

緊急“喊停”!千人聯名呼籲!AI發展太快,引發擔憂?

美國OpenAI公司首席執行官 山姆·阿爾特曼:我們會調整。

美國廣播公司記者:你們會在負面事情發生的時候去調整嗎?

美國OpenAI公司首席執行官 山姆·阿爾特曼:目前的系統依然弱小,現在就釋出這套系統,趁着風險還很小,盡我們所能去了解情況,我認為這樣就能避免出現更加危險的情形。

緊急“喊停”!千人聯名呼籲!AI發展太快,引發擔憂?

不過,也有觀點反對叫停研發,可以預見的是,人類與AI如何共處互進将成為未來全球關注的焦點。

轉載請注明央視财經

(編輯 劉峥)