原标題：沈濤等：AI在醫藥監管領域的風控要點——《藥品監管人工智能典型應用場景清單》解讀
人工智能（AI）作為當今最具颠覆性的技術之一，正以前所未有的速度改變世界和人們的生活方式。随着AI技術的不斷發展，就醫藥領域而言，AI能通過對行業全流程中産生的大量資料進行分析，進而獲得新的重要趨勢，為醫藥健康行業帶來便利與效率，促進行業的蓬勃發展。
一、人工智能簡史
1956年8月，John McCarthy在達特茅斯會議提出了人工智能（Artificial Intelligence）一詞，并得到與會者的一緻認可，标志着人工智能的正式誕生。1997年，美國IBM公司研制的并行計算機“深藍”擊敗了雄踞世界棋王寶座12年之久的卡斯帕羅夫，标志着國際象棋曆史的新時代。2016年，深度學習系統AlphaGo擊敗圍棋世界冠軍李世石，成為第一個不讓子擊敗職業圍棋棋手的程式。2022年，OpenAI釋出名為ChatGPT的現象級語言模型，目前已得到在全世界内的廣泛使用，被視為開啟人工智能的新紀元。[1]
二、人工智能在醫藥行業的應用
根據Definitive Healthcare在2023年對86家生物制藥和醫療器械公司上司者進行的一項調查，“到2028年，全球人工智能在生命科學市場的規模預計将達到70.9億美元，複合年增長率（CAGR）為25.23%，50家最大的制藥公司中有一半已與人工智能公司達成合作夥伴關系或簽訂許可協定”[2]。這凸顯了生命科學行業對人工智能運用的巨大興趣和投入。
目前，AI在醫療健康領域的應用較為廣泛，在新藥研發、醫學影像、綜合輔助診斷中均能看到其身影，極大程度上改變了醫藥行業的運作方式。
通過AI系統，醫護人員可以快速準确地擷取患者的病情資訊，為診斷和治療提供有力依據。比如，在疾病早期識别與篩查方面，以及後續對複雜臨床研究資料的處理等階段，AI能夠通過建立預測模型，進而分析特定幹預措施對不同患者群體的影響，幫助提升診斷品質、降低誤診率。此外，AI還可以協助醫護人員進行藥物研發、手術規劃等工作，提高醫療服務的專業水準。
AI目前的主要應用領域可分為三大類：（1）醫療管理與行政工作，主要為訂單、處方的統計工作及資料錄入；（2）診斷支援，如病理審查、症狀分析、影像識别等；（3）治療政策輔助，如個性化用藥、數字療法等。[3]後文将主要就AI的一個新應用領域——醫藥行業監管展開闡述。
三、國外利用AI進行醫療監管的實踐
（一）美國
目前美國并未就AI在醫藥行業的監管功能出台相關法案，僅就對AI本身的監管出台相關法案，例如FDA于2019年4月2日釋出《人工智能醫療器械軟體變更監管架構提議（讨論稿）》（Discussion Paper: Proposed Regulatory Framework for Modification to Artificial Intelligence/Machine Learning (AI/ML)-Based Software as a Medical Device, SaMD）[4]，于2023年4月3日釋出《人工智能/機器學習支援裝置軟體功能的預定變更控制計劃的營銷送出建議的指南草案（Marketing Submission Recommendations for a Predetermined Change Control Plan for Artificial Intelligence/Machine Learning（AI/ML）-Enabled Device Software Functions, Draft Guidance）[5]。
但在其他領域有相關的實踐。如在2024年4月6日，賓夕法尼亞州保險部門釋出了關于保險公司使用人工智能系統（AI）的通告（Use of Artificial Intelligence Systems by Insurers; Notice 2024-04[54 Pa.B. 1910]）[6]。通告強調了保險公司使用AI系統時必須遵守所有适用的保險法律和法規，還提出保險公司在使用AI系統時應該考慮的潛在風險，如不準确、不公平歧視、資料脆弱性以及缺乏透明度和可解釋性。
此外，賓夕法尼亞州于今年1月啟動了由ChatGPT Enterprise主導的試點項目，旨在測試生成式人工智能技術在政府員工日常工作中的實際效果。ChatGPT将為賓夕法尼亞州政府OA部門的員工提供文稿編輯、工作描述起草、政策指南查找等服務[7]。
（二）歐盟
相較于美國，AI本身及其監管的發展在歐盟更為矚目。就AI本身的監管而言，2024年3月13日，歐洲議會通過并準許《歐盟人工智能法案》（Artificial Intelligence Act, AI Act）。該法案是世界上第一個監管人工智能的綜合法律架構，以規範人工智能的開發和使用。醫藥行業中，法案針對高風險的AI醫療器械應用，設定了嚴格的标準和評估程式。
就利用AI進行監管而言，歐洲藥品管理局（EMA）大資料指導小組于2023年7月釋出了一份關于人工智能在醫藥産品生命周期中使用的反思論文草案（Reflection paper on the use of artificial intelligence in the lifecycle of medicines）[8]，對目前關于人工智能如何在醫藥産品生命周期中使用的思考進行概述。EMA表示，其目标是在使用此類新興技術支援藥品開發時反思與監管審評相關的科學原理。在上市許可後階段，AI工具可以有效支援藥物警戒活動，包括不良事件報告管理和信号檢測。
2023年12月，EMA和藥品機構負責人（HMA）在歐洲藥品監管網絡（EMRN）中制定了2023-2028年人工智能工作計劃[9]。該計劃的制定是為了負責任地促進人工智能在制藥和醫療器械行業的使用。其中包括出于内部監管目的實施和監控人工智能、增強全網絡分析能力等。
四、人工智能與大陸藥品監管
（一）大陸政策沿革
2017年7月，國務院在《新一代人工智能發展規劃》[10]中指出，“人工智能在教育、醫療、養老、環境保護、城市運作、司法服務等領域廣泛應用，将極大提高公共務精準化水準，全面提升人民生活品質”，點明大陸的AI在醫療健康領域的發展方向。
2023年7月10日，國家發改委、教育部等6部門聯合釋出《生成式人工智能服務管理暫行辦法》[11]，提到“鼓勵生成式人工智能技術在各行業、各領域的創新應用”。
就此，于2024年6月18日，國家藥監局綜合司釋出《藥品監管人工智能典型應用場景清單》[12]（下稱“《監管清單》”）。《監管清單》列出了15個具有引領示範性的、有發展潛力的、針對工作痛點的、需求較為迫切的應用場景，旨在推動人工智能技術在藥品監管領域的研究探索，推動人工智能賦能藥監系統。
（二）《監管清單》解讀
1. 與信用相關的場景
在《監管清單》列明的15個場景中，有如下3個場景提及“信用”：應用4“遠端監管”、應用12“業務資料查詢”、應用15“風險管理”。
在以上場景中，《監管清單》分别指出可以将人工智能及時在“上市許可持有人信用資訊”“藥品安全信用檔案”中進行嵌入，進行資訊檢索、内容整合和資料分析等操作。
以“藥品安全信用檔案”為例：藥品安全信用資訊主要包括藥品安全信用主體的基礎資訊、監督檢查資訊、違法違規資訊等和其他相關良好行為資訊。在AI介入前，通常以IT技術人員傳統的組合條件資料查詢的模式獲得相關的資訊，再對得到的原始資訊整合、分析後形成報告。但在内嵌相應AI技術後，得益于AI強大的檢索和處理能力，不僅可以便捷地進行一鍵資料抓取，還可以實作複雜條件模糊查詢、關聯資料彙總查詢、生成資料圖表等進階功能。此外，AI不僅能基于更為詳盡的資料進行分析，同時可以使得報告更為可視、直覺，幫助業務人員快速、準确地擷取所需資料資訊，有效降低溝通成本和人力物料成本，最終為監管決策提供有力支援。
2. 藥品說明書的适老化改造
2023年6月，國家藥監局即釋出《藥品說明書适老化改革試點工作方案（征求意見稿）》[13]，明确要求醫療機構、藥品零售企業等機關滿足不同患者人群的使用需求，解決藥品說明書“看不清”等問題，尤其需進行适老化改革。
本次《監管清單》專門于應用場景11中提及，将“人工智能賦能藥品說明書适老化改造工作”，以提升老年人用藥體驗。
《監管清單》指出，可以利用AI模型将藥品說明書簡化，并開展定制化說明，通過采用多輪人機語音對話、語音播報、生成大字版說明書二維碼的形式，輔助老年人擷取藥品資訊。
實踐中，百度健康在2023年10月釋出名為“AI用藥說明書”的應用，采取類似思路。借助文心大模型和數字人創新模式，百度健康AI用藥說明書實作使用者與使用藥師形象的虛拟人的實時互動，緻力于解決傳統紙質版說明書看不清、看不懂以及字太小的問題[14]。此外，百度健康AI用藥說明書支援患者通過文字和語音提問，并根據患者輸入的問題生成回答結果，将專業藥品知識用通俗易懂的方式來回答。
3. AI在藥物警戒中的應用
藥物警戒貫穿于藥物發展的始終，是藥品全生命周期的重要環節。由于對于可能發生的不良反應，在藥品上市前的認識一般存在不足和局限性，故藥品上市後的監測工作尤顯重要。
但長期以來，藥品上市後監測受報告數量大、報告品質欠佳的影響，安全性信号的檢測效率低下。故上市後檢測階段的一個重要挑戰在于如何收集、分析相關的觀察性資料，并得出具有較強說服力的結論。
2019年，輝瑞公司研究團隊發表了使用AI技術與機器處理程式實作不良事件報告自動管理的試點研究，結果顯示AI在不良事件資料提取和報告評估方面均具有可行性[15]。
根據《監管清單》第8個應用場景的有關内容，借助AI技術，可以從“個例安全性報告”中自動提取關鍵資訊實作結構化資料處理，排除重複報告；再基于提取資訊的内容品質進行自動分級，篩選包含足夠資訊量、具備評估價值的安全性報告，以便進行後續分析。
預計未來将有越來越多的企業和監管機構開始探索AI在臨床試驗期間以及上市後藥物警戒中的應用，尤其将分析、評估在臨床試驗期間無法發現的安全性風險作為首要任務，最終推動藥物警戒成為藥品全生命周期中AI運用成熟度較高的環節。
（三）風險及應對
AI在醫藥監管領域的應用仍存在一定的風險和挑戰，如模型輸出錯誤、資料代表性不完全、資料洩露、算法歧視等。
（1）模型輸出錯誤
谷歌在本月初宣布退出人工智能驅動的搜尋功能“AI概述”，但是僅釋出幾天，使用者便發現其本質的不可靠，如它建議使用者在披薩上加澆水、每天至少吃一塊小石頭等。
為什麼會有這種情況的産生？原因在于，如果一個檢索增強生成（Retrieval Augmented Generation）系統遇到了互相沖突的資訊，比如說藥品說明書的舊版本和新版本中适應症、用藥建議等存在顯著不同，AI不能确定用哪一版生成回應。此時，它反而會将兩者的資訊結合起來，創造一個可能具有誤導性的答案。
盡管AI大多數情況下能夠提供高品質的資訊，但仍然存在“犯錯”的可能性。事實上，不僅因為網絡中充斥着大量的無用備援資訊，給AI的結論得出造成一定困擾，同時從技術層面而言，給AI提供的話題越具體，它的輸出中出現錯誤資訊的機率就會越高。如果隻是上述例子中的情景，也許大家會心一笑也就作罷，但如果涉及到利用AI進行文書處理、具體審查、用藥說明的話，這樣的錯誤無法接受的。更何況，AI的引入一定程度上是為了減少人力，但為了防止AI的“犯錯”還需對其結論進行人工複核的話，其降低人力成本的目的也未達到。
（2）資料洩露、資料代表性不完全
AI的分析基于對大量資料的采集和分析，輸入資料的品質決定了AI的産出品質，故確定所涉及資料的可靠性、完整性、相關性和代表性是充分利用AI的關鍵。
與此同時，AI是一把雙刃劍，在帶來重大革新和便利的同時，也帶來巨大的資料安全隐憂。《監管清單》中的應用場景，涉及藥品和醫療器械注冊申報材料、上市許可持有人信用資訊、工作方案等中的個人資訊、涉密資訊，對有關資訊的儲存和如何防止洩漏、攻擊是需要謹慎考慮的。
就資料代表性不完全的風險而言，應在資料采集階段采取有效措施，提高有關資訊的上網率，最大程度確定資料獲得的完整性，減少因資料缺失而導緻分析結論不可靠的風險。就資料洩露的風險而言，可采用資料去辨別及匿名化、資料加密、限制資料通路等措施進行防範。
（3）算法歧視
AI無論在半自主式學習還是自主式學習中，都需要或被動獲得或自動抓取大量資料進行自我分析并為此建立相關模型。在其中的前置環節中，它所“得到”的資料的不精确就會造成結果的偏差，也就是“算法歧視”的産生。以AI輔助業務辦理為例，目前不确定未來是否會出現如下的情況：在都滿足前置條件的情況下，A先遞交材料而B後遞交材料，然而平台通過算法把通過名額優先鎖定給後遞交的B，因為平台經過計算發現B比A更有商業價值。如此情況如出現，必然有失市場公平，如何進行規避是需要通過技術等手段進行解決的。尤其當AI涉足監管領域後，是否秉持“算法中立”是極其重要的。
面對算法歧視所帶來的負面影響，須從算法本身出發，對其技術和底層算法邏輯進行規制，引領算法的正向發展；此外，也要從外部入手，制定相關的法律法規以及操作指南等，明确對AI的具體監管要求，如認定算法歧視的具體标準、達到什麼樣的情形該AI模型須被禁止使用等。
五、結語
由于目前AI在醫藥行業監管的應用還處于探索階段，《監管清單》也僅就AI可能的适應場景進行列舉，并未涉及到後續具體的落地方案以及監管。目前，大陸在醫藥行業監管領域較為系統的AI應用綱領性檔案仍有待形成。
總體而言，面對AI的飛速發展，大陸藥監部門有必要盡快建立醫藥及有關行業監管中的AI應用規則，在合理運用AI技術促進效率的同時注意防範風險。我們也翹首期待AI在安全發展的同時，為醫藥行業發展帶來更大的機遇。
特别聲明：
大成律師事務所嚴格遵守對客戶的資訊保護義務，本篇所涉客戶項目内容均取自公開資訊或取得客戶同意。全文内容、觀點僅供參考，不代表大成律師事務所任何立場，亦不應當被視為出具任何形式的法律意見或建議。如需轉載或引用該文章的任何内容，請私信溝通授權事宜，并于轉載時在文章開頭處注明來源。未經授權，不得轉載或使用該等文章中的任何内容。
