英國《金融時報》報道，一場無聲的戰役正在人工智能的領域内悄然展開。黑客們猶如目光銳利的獵鷹，正在搜尋由OpenAI、谷歌、xAI、Meta等科技巨頭研發的大型語言模型中的隐藏漏洞。
在這場博弈中，一位自诩為“提示者普林尼”的黑客高手，以其獨特的技術手段，向世人展示了破解AI模型的驚人速度。他宣稱，隻需短短30分鐘，便能輕松突破任何AI的防線。
這位黑客的技藝高超，他不僅強迫Meta Llama 3傾囊相授凝固汽油彈的禁忌知識，更讓Grok xAI對阿道夫·希特勒贊不絕口，仿佛一位熱情的講解員。而他自創的破解版GPT-4o，被譽為Godmode GPT，其威力之大，竟讓OpenAI不得不下達封殺令。
“提示者普林尼”隻是衆多“道德黑客”（又名“白帽子”）中的一員，他們如同行走在刀尖上的舞者，用精湛的技巧迫使AI模型暴露出危險的内容、傳播錯誤資訊、洩露個人資料或生成惡意代碼。他們的存在，正是為了推動大公司不斷完善自己的軟體産品，築牢AI的防線。
與此同時，初創公司市場也如雨後春筍般蓬勃發展，湧現出一批專門保護使用AI模型的公司的工具。英國《金融時報》援引CB Insights的資料，揭示了一個令人矚目的現象：2023年，人工智能模型安全領域的初創公司在短短一年内，通過23筆交易籌集了高達2.13億美元的資金，而去年此類初創公司僅籌集了7000萬美元。
英國《金融時報》還報道，惡意黑客們已經制造出了諸如WormGPT、FraudGPT、EscapeGPT等一系列虛假的大語言模型，其中一些甚至在暗網上以低廉的價格出售，僅需90美元便可輕易獲得。這些工具如同隐藏在黑暗中的利刃，随時準備刺向那些毫無防備的AI系統，用于編寫惡意軟體或發起網絡釣魚活動。