▋關注
國家網信辦聯合七部門出台的《生成式人工智能服務管理暫行辦法》自2023年8月15日起施行。該辦法展現了國家對于生成式人工智能堅持發展和安全并重、促進創新和依法治理相結合的原則，對以往的政策内容進行了很好的銜接和補充，推動了人工智能治理體系的完善，也為推動AIGC在規範中開展技術創新和應用賦能提供了指引。
原文 ：生成式人工智能發展應鼓勵與監管并重
作者 | 上海人工智能研究院 王資凱
圖檔 | 網絡
随着大陸大力推動人工智能技術的發展，必須高度重視可能出現的安全風險挑戰，以確定人工智能的安全可控發展，進而提升國家競争力。為此，國家七部委共同釋出的《生成式人工智能服務管理暫行辦法》全面規範了生成式人工智能服務的提供和使用，以客觀、合理、适度的價值導向為基礎，具有前瞻性的預防和限制引導作用。
目前，生成式人工智能技術相關應用越來越多，同時也帶來了一系列的安全和隐私風險。此次《辦法》的釋出，确立了鼓勵生成式人工智能創新發展和實施包容審慎、分類分級監管的有效措施。生成式人工智能技術的快速發展為經濟社會帶來了新的機遇，但也引發了虛假資訊傳播、個人資訊權益侵害、資料安全和偏見歧視等問題。如何統籌生成式人工智能的發展與安全成為各方關注的焦點。《辦法》的出台既是促進生成式人工智能健康發展的重要要求，又是為了防範生成式人工智能服務風險的現實需要。《辦法》立足于促進生成式人工智能健康發展，提出了具體措施，鼓勵創新應用，多方協作，同時鼓勵自主創新與國際間的合作及資源共享。從産業應用到内容品質，它以鼓勵為導向，适用于各個領域的多線發展。這展現了中國對于生成式人工智能技術全球發展的前瞻性認知，也彰顯了中國的雄心壯志。
《辦法》的釋出為引導生成式人工智能的健康發展提供了政策依據和行動指南，但要實作其效果，需要監管部門和行業共同努力。各相關部門需要在貫徹執行過程中進一步完善相關規定，共同培育安全有序的發展環境，以更好地應對生成式人工智能技術帶來的挑戰，確定其在推動社會進步的同時，符合法律規範，保障公衆利益。《辦法》從促進發展和防範風險的角度，建構了相對系統和全面的管理架構。它不僅提出了總體遵循的原則，還從技術研發、資料管理、服務規範等環節制定了重要規定，并增設了監督檢查等制度設計，展現了多元度的監管思路。
為明确服務規範，《辦法》明确規定了生成式人工智能服務提供者與使用者之間應簽訂服務協定，明确雙方的權利和義務。針對生成式人工智能服務的提供方，《辦法》提出了一系列的提供方服務規範，包括保護網絡資訊安全、防止未成年人沉迷、保護使用者個人資訊等。同時，《辦法》也要求生成式人工智能服務使用方合法使用服務，不得有違法、有害、侵權等行為。
強化生成式人工智能監管手段，要通過制定法律進一步健全生成式人工智能的管理制度，提高透明度和問責性，更好地平衡科技發展和監管需求，為實作科技與社會的共同進步打下堅實的基礎。《辦法》強調了對生成式人工智能服務内容的監管，生成式人工智能服務提供者要確定提供的内容真實、合法、正當，并采取措施防止虛假資訊的傳播。生成式人工智能服務提供者需要進行風險評估，并采取必要的安全措施，確定生成式人工智能服務的安全可控。此外，對于特定領域和關鍵領域的生成式人工智能服務還要進行審查和備案，加強監督管理。同時，也要防止生成式人工智能服務産生的内容對使用者權益造成個人隐私權、知識産權等損害。
需要額外注意的是，在監管境外服務方面，《辦法》規定了對于從中國境外向中國境内提供生成式人工智能服務的違法違規行為，國家網信部門有權通知相關機構采取技術措施進行處置。這意味着，如果在跨境服務過程中發現違法違規行為，國家網信部門有權通過技術手段采取屏蔽、攔截等處置措施，為國家進一步管理來源于境外的生成式人工智能服務提供了法律依據，以保障國家技術産業和數字經濟的和諧發展。
生成式人工智能作為技術發展的全新産物，國内外都在積極探索相關的監管措施。《辦法》通過明确監管适用對象和監管紅線，以及規範生成式人工智能服務的提供方行為，可以有效維護社會秩序，保護使用者權益，推動生成式人工智能服務的健康發展。國家在加速集中資源鼓勵科技創新的同時出台相關監管政策，在發展人工智能技術的同時防範可能存在的道德、法律風險，引導生成式人工智能技術向着健康、良性的方向發展，營造安全有序的法治環境。作為人工智能從業者，我們期待更系統化的法律法規出台，完善監管體系，為國家人工智能技術産業與數字經濟社會協同創新發展保駕護航。
文章為社會科學報“思想工坊”融媒體原創出品，原載于社會科學報第1868期第4版，未經允許禁止轉載，文中内容僅代表作者觀點，不代表本報立場。
本期責編：宋獻琪
拓展閱讀
見地 | “Z世代”教育，如何擁抱生成式人工智能？
關注 | 給生成式人工智能“帶上緊箍圈”