英国《金融时报》报道，一场无声的战役正在人工智能的领域内悄然展开。黑客们犹如目光锐利的猎鹰，正在搜寻由OpenAI、谷歌、xAI、Meta等科技巨头研发的大型语言模型中的隐藏漏洞。
在这场博弈中，一位自诩为“提示者普林尼”的黑客高手，以其独特的技术手段，向世人展示了破解AI模型的惊人速度。他宣称，只需短短30分钟，便能轻松突破任何AI的防线。
这位黑客的技艺高超，他不仅强迫Meta Llama 3倾囊相授凝固汽油弹的禁忌知识，更让Grok xAI对阿道夫·希特勒赞不绝口，仿佛一位热情的讲解员。而他自创的破解版GPT-4o，被誉为Godmode GPT，其威力之大，竟让OpenAI不得不下达封杀令。
“提示者普林尼”只是众多“道德黑客”（又名“白帽子”）中的一员，他们如同行走在刀尖上的舞者，用精湛的技巧迫使AI模型暴露出危险的内容、传播错误信息、泄露个人数据或生成恶意代码。他们的存在，正是为了推动大公司不断完善自己的软件产品，筑牢AI的防线。
与此同时，初创公司市场也如雨后春笋般蓬勃发展，涌现出一批专门保护使用AI模型的公司的工具。英国《金融时报》援引CB Insights的数据，揭示了一个令人瞩目的现象：2023年，人工智能模型安全领域的初创公司在短短一年内，通过23笔交易筹集了高达2.13亿美元的资金，而去年此类初创公司仅筹集了7000万美元。
英国《金融时报》还报道，恶意黑客们已经制造出了诸如WormGPT、FraudGPT、EscapeGPT等一系列虚假的大语言模型，其中一些甚至在暗网上以低廉的价格出售，仅需90美元便可轻易获得。这些工具如同隐藏在黑暗中的利刃，随时准备刺向那些毫无防备的AI系统，用于编写恶意软件或发起网络钓鱼活动。