CNCC2024
論壇簡介:
探索大語言模型的潛能與局限-大語言模型的能力邊界在哪?
舉辦時間:10月26日13:30-17:30
地點:夏苑-英國館一樓教室10
注:如有變動,請以官網(https://ccf.org.cn/cncc2024)最終資訊為準
近年來,大語言模型已成為推動人工智能技術進步的關鍵動力之一,而基于Transformer架構的大語言模型在各項自然語言處理任務中表現卓越,涵蓋文本生成、情感分析、問答系統、知識推理等諸多領域。
然而,這些模型在實際領域應用中仍面臨着諸多挑戰和局限,包括模型的泛化性、魯棒性、可解釋性等。是以在不同領域應用中如何探測大語言模型的能力邊界并設計增強政策是大語言模型落地實踐的重要挑戰。
論壇将深入探讨大語言模型泛化能力邊界,針對新領域或未見資料的魯棒性,模型生成内容的可解釋性,以及檢索增強生成、大小模型協調、參數高效微調等多種不同的增強政策。論壇邀請了來自國内大語言模型研發的一線學者和技術專家,共同探讨大語言模型能力邊界探測與增強關鍵技術、前沿進展和未來方向,期待激發與會者對大語言模型潛能與局限的深入思考,共同推動大語言模型技術的發展與應用。
論壇日程
論壇主席及嘉賓介紹
論壇主席
李洋
CCF YOCSEF哈爾濱主席,東北林業大學計算機與控制工程學院副院長、副教授,博士生導師
簡介:主要研究方向為自然語言處理、人工智能與生物資訊處理。主持國家自然科學基金面上項目、青年項目,黑龍江省自然科學基金優秀青年項目、面上項目等多個國家級和省部級項目。在人工智能領域頂級國際期刊和會議發表論文30餘篇,獲得國家發明專利6項。擔任中國計算機學會生物資訊學專委會執行委員、中國中文資訊學會青年工作委員會委員、社會媒體處理專委會委員,CCF YOCSEF哈爾濱24-25主席。
吳天星
CCF YOCSEF南京主席,東南大學計算機科學與工程學院副教授、博士生導師
簡介:主要研究方向為知識圖譜、大語言模型、人工智能應用。曾獲江蘇省計算機學會優秀博士學位論文獎,CCKS 2022、WISA 2024最佳論文獎。主持國家自然科學基金面上項目、青年項目,江蘇省“雙創博士”項目等縱橫向課題多項。在人工智能領域内國際期刊及會議發表論文50餘篇,6項國家發明專利獲得授權。擔任中國中文資訊學會語言與知識計算專委會委員,中國計算機學會資訊系統專委會執行委員,CCF YOCSEF南京24-25主席。
論壇講者
秦兵
哈爾濱工業大學計算學部長聘教授
簡介:哈爾濱工業大學自然語言處理研究所副所長。國家重點研發課題、國家自然科學基金重點項目負責人。科技部科技創新2030-“新一代人工智能”重大項目管理專家組專家,中國中文資訊學會常務理事/情感計算專委會主任,黑龍江省計算機學會自然語言處理專委會主任。入選“福布斯中國2020科技女性榜”。
報告題目:大模型自我感覺能力探索
摘要:近年來,随着大語言模型的出現,知識的調用方式發生了重大轉變。大語言模型以其廣泛的知識存儲能力,成為繼資料庫、搜尋引擎之後全新的知識調用方式。但是這些模型的内在知識仍具有局限性,了解和提升大模型對知識邊界的感覺能力,對其智能化的進階至關重要。本報告圍繞“知識象限”探讨大模型的知識邊界。主要包括:大模型是否真正具備對其知識邊界的自我感覺能力?如何有效提升這種自我感覺能力?如何進一步拓展大模型的知識邊界?這些問題的探讨将有助于深入了解大模型内在的知識機制。
漆桂林
東南大學計算機與軟體工程學院教授、東南大學認知智能研究所所長
簡介:OpenKG發起人之一、中國中文資訊學會語言與知識計算專業委員會副主任、中國科學技術情報學會知識組織專業委員會副主任和江蘇省人工智能學會知識工程與智能服務專委會副主任、國際期刊Journal of Data Intelligence 主編、國際期刊 Journal of Web Semantics 副主編和 Semantic Web Journal 編委、Journal of Big Data Research的編委、愛思唯爾(Elsevier)的資料管理顧問委員會顧問、情報工程期刊編委。
報告題目:從知識工程視角內建知識圖譜與大語言模型
摘要:知識圖譜被認為是新一代的知識工程并且已經廣泛用于許多工業應用中。然而,建設和維護知識圖依賴于專家,阻礙了基于知識圖譜的産品快速複制。ChatGPT等大語言模型作為通用人工智能取得了巨大成功,其可以被認為是知識庫,支援問答等知識服務。報告首先介紹知識圖和大語言模型互相作用的工作,包括語言模型如何支援本體提取、知識圖譜建構、知識對齊和知識推理,還包括知識圖如何支援大語言模型的模型訓練和微調、知識編輯、知識融合。其次探讨從知識工程視角內建知識圖譜和大語言模型的知識服務平台。最後介紹新一代知識服務平台的領域應用。
王昊奮
同濟大學特聘研究員
簡介:長期在一線人工智能公司擔任CTO之職。他是全球最大的中文開放知識圖譜聯盟OpenKG發起人之一。他負責參與多項國家級AI相關項目,發表100餘篇AI領域高水準論文,被引用次數達到4100餘次,H-index達到30。他建構了全球首個可互動養成的虛拟偶像—“琥珀·虛顔”;所建構的智能客服機器人已累計服務使用者超過10億人次。目前,他擔任中國計算機學會術語工委副主任,自然語言處理專委秘書長,資訊系統專委常委,智能機器人專委會執委;中國中文資訊學會理事,大模型專委會指導委員會委員,語言與知識計算專委會副秘書長;中國指揮控制學會大模型專委會常務委員;上海市計算機學會自然語言處理專委會副主任等社會職位。
報告題目:世界模型角度下知識增強大模型的融合創新與展望
摘要:世界模型和知識增強大模型正逐漸成為推動新一代人工智能技術創新的核心力量。本報告将介紹相關基本概念,通過分析前沿研究案例和最新技術發展趨勢,給出世界模型角度下知識增強大模型在了解複雜實體世界機理、提升決策品質和加速知識擷取過程中的關鍵作用,最後結合垂直領域的落地應用展望未來技術範式。
東昱曉
CCF YOCSEF總部AC委員,清華大學計算機系副教授
簡介:曾工作于臉書人工智能和微軟總部研究院。研究方向為資料挖掘、圖機器學習和基礎模型,相關成果獲ECML’23, WWW’22/19, WSDM’15最佳論文獎或提名,應用于十億使用者級社交網絡和知識圖譜。獲2022年ACM SIGKDD Rising Star Award。
報告題目:了解與探索大模型能力湧現
摘要:基礎大模型在意圖感覺、指令跟随、目标規劃等方面展現出強大的泛化能力,為智能體的研究和應用提供了通用模型基座。報告将分享GLM模型能力提升研發過程中的探索,我們發現預訓練損失可以比模型大小或計算量更好地預測語言模型的湧現能力,進而合理指導模型訓練與能力提升。以GLM-4 All Tools智能體模型為列,其可實作自主了解使用者意圖,自動規劃複雜指令,自由調用網頁浏覽器、代碼解釋器以及多模态模型等,以完成複雜任務。
劉偉
小米AI實驗室大模型算法負責人
簡介:CCF YOSCEF總部學術委員,北京大學心理與認知科學學院碩士行業導師,清華大學機器學習課程答辯導師,微軟小冰初創成員。研究方向為人機對話和大模型。有超10年的人機對話從業經曆,主導和深度參與了微軟小冰、小愛同學等業界具有影響力的人機對話産品研發。曾獲23年小米百萬美金技術大獎,24年CCF計算機應用創新技術一等獎,24年數博會優秀科技成果獎等,并有十數項專利和頂會論文。
馮骁騁
哈爾濱工業大學人工智能學院副院長,中文資訊處理黑龍江省重點實驗室主任助理
簡介:中文資訊處理黑龍江省重點實驗室主任助理。研究興趣包括自然語言處理、文本生成、機器翻譯等。在多個CCF A/B類國際會議及期刊發表論文40餘篇。擔任NIPS、ICML、AAAI、IJCAI、ACL等國際會議程式委員會進階/普通成員;兼任鵬城實驗室雙聘學者、中國中文資訊學會青年工作委員會副主任、大模型與生成專委會副秘書長、2023-2024中國計算機協會YOCSEF哈爾濱分論壇主席等。
張甯豫
浙江大學智能科學與工業軟體所副所長
簡介:智能科學與工業軟體所副所長,入選副省級市高層次人才引進計劃,啟真優秀青年學者,擔任CCF計算機術語審定委員會委員、資訊系統專委執行委員,中國中文資訊學會青工委委員、語言與知識計算專委委員、情感計算專業委員會執行委員、大模型大搜尋與生成專委委員,ACM Transactions on Asian and Low-Resource Language Information Processing、Data Intelligence Associate Editor,ACL、EMMLP、ICLR領域主席,ARR Action Editor,IJCAI 進階程式委員,主要研究方向為自然語言處理、知識圖譜等。
田植良
國防科技大學助理研究員
簡介:國防科技大學計算機學院某全國重點實驗室技術骨幹。緻力于大模型、文本生成、隐私保護方面研究。發表NeurIPS、ACL、WWW、EMNLP等人工智能與自然語言處理會議發表論文三十餘篇,其中一作或通訊論文二十餘篇,獲授權國家發明專利二十餘項。獲微軟學者提名、百度最高獎、百度獎學金全球40強等獎勵。曾擔任ACL、EMNLP、NAACL領域主席,IJCAI進階程式委員等,中文資訊學會青工委執行委員。入選中國科協青年托舉人才工程。
關于CNCC2024
CNCC2024将于10月24-26日在浙江省東陽市橫店鎮舉辦,大會主題為“發展新質生産力,計算引領未來”。大會為期三天,包括18個特邀報告、3個大會論壇、138個專題論壇及34場專題活動和100餘個展覽。圖靈獎獲得者、兩院院士、國内外頂尖學者、知名企業家在内的超過800位講者在會上展望前沿趨勢,分享創新成果。預計參會者超過萬人。