日前，第39次全國計算機安全學術交流會在西安成功舉行，作為活動重要環節，本屆優秀論文評選結果在活動現場重磅揭曉。天融信科技集團李嬌、吳亞飚，中國科學院大學計算機科學與技術學院張玉清撰寫的《面向網絡安全關系抽取的大型語言模型資料增強》，從496篇論文中脫穎而出，成為本屆唯一的優秀論文，并刊登于《資訊網絡安全》2024年第10期。
目前，以人工智能為代表的新一輪科技革命和産業變革正在孕育興起，帶來新的機遇和發展空間，隻有堅定不移進行科技創新，加快培育和形成新質生産力，才能占得先機、赢得優勢。今年9月，全國網絡安全标準化技術委員會釋出《人工智能安全治理架構》1.0版，以鼓勵人工智能創新發展為第一要務，以有效防範化解人工智能安全風險為出發點和落腳點。
在第39次全國計算機安全學術交流會-網絡綜合治理分論壇上，天融信科技集團李嬌針對《面向網絡安全關系抽取的大型語言模型資料增強》論文進行了分享。她指出，随着資訊技術的持續進步，網絡威脅日益多樣。為有效掌控網絡威脅态勢并應對未知風險，收集與分析網絡威脅情報至關重要，這有助于我們迅速洞察新興的網絡威脅和漏洞。
天融信科技集團 李嬌
網絡威脅情報大多以非結構化文本形式存在，如安全分析報告和部落格，其内部關聯資訊難以直接擷取。關系抽取技術能夠有效挖掘和分析這些情報，為網絡安全防禦提供重要資訊。然而，網絡安全領域的關系抽取任務常面臨資料集稀缺的問題。
為解決這一問題，資料增強技術應運而生，它能夠在标注資料有限的情況下自動生成大量僞訓練資料。但現有的資料增強方法，例如随機删除、插入和同義詞替換等，雖然能夠生成資料，但往往存在噪聲，準确性和多樣性受限，難以完全替代人工标注資料。近年來，大型語言模型憑借卓越的文本生成能力，為資料增強提供了強大支援。基于此，我們提出一種基于大型語言模型的多粒度資料增強方法MGDA。
該方法首先基于貪心算法的基本思想，從原始标注資料集中選擇最具代表性的資料進行增強，以提高運作效率。然後，從單詞、短語、文法和語義四個粒度對采樣資料進行轉化，確定生成的新資料在符合原始訓練資料語義要求的同時，具備更高的多樣性，進而提升後續模型訓練的有效性。為了提高大型語言模型生成文本的準确性，我們采用角色扮演和思維鍊提示相結合的方式構造提示模闆，以擷取高品質的輸出。實驗結果表明，文章所提資料增強方法有效改善了網絡安全關系抽取任務上的有效性以及生成資料的多樣性。
人工智能賦能網絡攻防、開源情報等國家安全相關領域，是築牢國家安全屏障的有力抓手。近兩年來，人工智能在大模型技術上的突破讓網絡安全智能化程序加速，天融信2014年開始開展AI技術在産品中的工程化應用，融合大小模型面向全能力打造智能協同，并推出天問系列産品，提供一站式安全智能化解決方案，助力建構網絡安全新格局。