天天看點

智慧法治學術動态(2024年第37期總第111期)

智慧法治學術動态(2024年第37期總第111期)
智慧法治學術動态(2024年第37期總第111期)

學術前沿

侯東德|人工智能發展中的資料風險及治理

人工智能是通過對資料的學習以達到獨立于人類控制而産生特定輸出的技術。但其在進行資料收集、分析、儲存及傳輸時,可能會産生資料偏差、噪聲、僞相關、黑箱及安全等風險。人工智能資料風險具有關聯性與隐蔽性等特征,不同資料基礎上的風險在治理層面又存在沖突性。是以人工智能資料風險的治理十分複雜。考慮到人工智能資料風險及治理層面的特殊性,在治理資料風險時,需要通過整合創新的政策化解風險治理的沖突性,通過合理的風險配置設定理念緩解風險治理價值沖突,通過多元、分級的治理思維彌合資料風險的隐蔽性。最終,在宏觀層面确定促進與大資料融合發展的政策,在中觀層面确定風險配置設定的制度化設計,在微觀層面實作資料分級制度與多元協同治理架構,打造多元主體共擔共治風險、共建共享發展的治理機制。(全文刊《行政法學研究》2024年第6期)

侯東德,西南政法大學民商法學院教授。

陶乾|基礎模型訓練的著作權問題:理論澄清與規則适用

人工智能基礎模型訓練使用作品引發的侵權争議不斷發生,對此需要從著作權法的基本法理出發,在解釋學視角下進行行為定性和分類分級施加合規義務。從行為主體上,區分資料集建立者和模型開發者;從行為對象上,區分作為内容的作品與作為載體的資料;從行為樣态上,将模型訓練流程解構為資料準備、資料投喂與機器學習三個階段。在第一階段,資料集建立者在使用自有資料、購買第三方資料和抓取公開資料三種情形下對著作權侵權内容的注意義務程度依次減輕。資料集建立者複制作品是否侵權,需區分對待通用資料集和專門資料集,前者在公共利益原則下能夠豁免侵權責任,後者因其整體價值與作品價值的重合性,則難辭其咎;在第二階段,基礎模型開發者通過交易行為獲得資料集産品時,對資料内容的著作權合規義務有限。其将資料集投喂給模型時,對資料樣本中的作品的複制是一種過程性複制,不構成侵權;在第三階段,機器學習的對象是資料,核心目的是擷取表達符号之間的分布規律,未發生對作品的呈現式或演繹式使用。鑒于著作權法意義上的作品使用指向的是“表達性使用”,故這種“非表達性使用”不落入著作權人專有權利的控制範圍。(全文刊《政法論壇》2024年第5期)

陶乾,中國政法大學法律碩士學院教授。

喻玲|剝削性濫用的法律分析邏輯迷思與數字剝削性濫用的調适

剝削性濫用是濫用市場支配地位的典型形式之一。目前理論與實務界多主張對剝削性濫用适用競争損害理論,以排除、限制競争效果為基礎搭建其法律分析架構。從現實角度看,這雖然考慮了《反壟斷法》競争損害原則限制、剝削性濫用認定的現實困境以及排他性濫用作為優先執法事項的傳統,但是從競争損害理論的适用前提上看,有一些市場天然不存在競争,導緻不可能存在排除、限制競争效果;從适用對象上看,基于效能競争、價格要素的競争損害理論無法解釋沒有價格衡量交易公平性的新型數字剝削的損害生成問題。這不僅不能還原數字剝削性濫用行為的本真,還會導緻反壟斷執法結構失衡、反壟斷執法效能低下、反壟斷法多元價值彰顯不足等問題。确立反壟斷損害“二分說”,回歸剝削性濫用的損害本質,重塑剝削性濫用法律分析邏輯,并對數字經濟領域不同場景反壟斷損害的裁量因素作出相應調整,應是重塑數字剝削性濫用反壟斷規制理論的有效途徑。(全文刊《法學》2024年第6期)

喻玲,江西财經大學法學院教授。

樊傳明|被敞視的法官:數字司法對審判權運作的影響

數字司法與審判監督管理制度存在耦合關系。數字司法重塑了法官的審判工作環境,尤其展現在“法官—審判監管者”的關系次元上。具體變化包括從事前和事後監管到全流程事中監管、從靜态監管到動态監管、審判流程的節點化和可視化等方面的變化。監督管理者可以借助資訊化手段,全程、動态地監督法官的審判活動,法官的行為可視且留痕。數字司法單向度地導緻了司法被敞視,法官落入了一種全景敞視結構。審判場域中的權力關系呈現以下狀态:審判權具有高度可見性,審判監督管理的政策趨于細微化,審判監督管理的權力具有彌散性,在科層式結構基礎上疊加了短距式監管。審判權運作更加強調規範性,但容易導緻裁判尺度的形式化統一,展現在訴訟流程的标準化、實體裁判标準的統一、法官考核中的标準化壓力等方面。數字司法與審判管理現代化改革的核心關注應當回歸法官的實質裁判職責。(全文刊《法制與社會發展》2024年第3期)

樊傳明,上海交通大學凱原法學院副教授。

沈偉偉|人形機器人事故責任制度的困境及應對

随着人形機器人的日益普及,其引發的事故也不斷挑戰現有事故責任制度。通過對人形機器人技術的分析和類型化可知,由于開發主體多元、機器學習算法、人機混控等因素的影響,人形機器人事故的事故成因、行為判定、責任配置設定、救濟措施均變得相當複雜,這給傳統事故責任制度帶來巨大挑戰。建立在人形機器人技術分析和事故法律責任制度分析的基礎上,傳統事故責任制度僅能處理小部分過錯清晰的事故類型,對于大部分人形機器人事故,傳統事故責任制度将很難繼續适用。為了應對這些挑戰,大陸應當建構針對人形機器人的特殊責任制度,将人形機器人制造商作為最小成本規避者,同時根據工廠、醫療、家居、物流等不同場景,引入技術避風港等豁免機制,以期在法律規制和産業發展之間尋求新平衡。(全文刊《東方法學》2024年第3期)

沈偉偉,中國政法大學法學院副教授。

宋姝|智能投顧信義義務主體的責任承擔

智能投顧模式下,提供投資咨詢服務的主體正在由人工向機器轉變。同時,算法“黑箱”使得智能投顧的責任主體更具隐蔽性。智能投顧的變革使傳統投資顧問信義義務關系面臨挑戰,主要表現為信義義務主體更為多元、民事責任主體更具模糊性、利益沖突更加複雜、隐蔽。這些現象對投資者利益保護提出了新的要求。為保護投資者利益,促進智能投顧産業健康、長遠發展,有必要建構智能投顧信義義務主體責任制度。依據控制權理論、承諾理論、信賴理論、實質平等理論,智能投顧信義義務主體應當包括智能投顧機構、人工顧問與提供交易模型的金融從業人員、算法研發者。智能投顧機構對投資者應承擔先行賠付責任,人工顧問與提供交易模型的金融從業人員對投資者應承擔獨立責任,智能投顧研發者對投資者承擔過錯推定的連帶責任。(全文刊《華東政法大學學報》2024年第4期)

宋姝,四川外國語大學國際法學與社會學院講師。

新規速遞

聯合國|通過《全球數字契約》

2024年9月16日,聯合國未來峰會正式通過《全球數字契約》。《數字契約》是《未來契約》的一部分,旨在解決可持續發展、國際和平、子孫後代、技術和創新以及數字合作等緊迫的國際問題。《全球數字契約》以維護人權,消除數字鴻溝為目标,強調所有人享有開放、自由和安全的數字化未來。聯合國成員國還承諾,到2030年采取多項行動,如制定創新融資機制和激勵措施,讓剩下的26億人接入網際網路,并建立适當的保障措施,防止因使用數字和新興技術而對人權産生的任何不利影響。(聯合國)

世界經濟論壇|《推進資料公平:以行動為導向的架構》

2024年9月17日消息。世界經濟論壇釋出了《推進資料公平:以行動為導向的架構》的白皮書,該書由全球未來資料公平委員會撰寫,書中提出了推進資料公平的治理架構,為緻力于在各個行業和地區實施資料公平的利益相關者提供了一個動态工具,以在組織機構中實作資料公平。該架構從資料、目的和人員三大次元出發,列舉了10方面的問題來評估資料,并提出行動建議,以指導利益相關者在其組織中實施資料公平。(世界經濟論壇)

浙江省|《浙江省加力推動跨境電商高品質發展行動計劃(2024—2027年)》

2024年9月20日,浙江省政府網站公布《關于印發浙江省加力推動跨境電商高品質發展行動計劃(2024—2027年)的通知》。《行動計劃》共部署五方面22條主要任務:(一)實施主體引育壯大行動。開展跨境電商企業梯度引育,加快跨境電商賦能産業帶,擴大跨境電商進口優勢等。(二)實施平台提質增效行動。發展“直播+平台+跨境電商”融合模式,推動跨境電商綜合試驗區提升發展,推進跨境電商産業園建設等。(三)實施基礎設施提能行動。建構高效暢達的跨境物流網絡,完善集貨倉等倉儲物流布局。(四)實施生态體系賦能行動。(五)實施服務保障提升行動。(浙江省人民政府)

上海市監局|《車聯網資料分類分級指南》

2024年9月20日,上海市監局網站公布《關于對上海市地方标準<車聯網資料分類分級指南>公開征求意見的通知》。《指南》提供了車聯網資料分類分級管理的前提條件、基本方法、分類過程、分級過程以及特殊管理過程的實施指南,适用于車聯網資料相關的組織及個人開展車聯網資料分類分級管理工作。其中關于分級依據,《指南》提出,車聯網資料分級宜依據資料受損後客體遭受到的損害程度來判斷資料保護所需要的定級層次。客體宜包括國家安全,社會秩序、經濟運作或公共利益,企業及個人利益三類。資料受損對客體的影響程度,與客體所關聯資料具有的各類屬性要素直接相關。(上海市市場監督管理局)

美國商務部|拟禁售內建中國軟硬體的智能網聯汽車

2024年9月23日,美國商務部工業和安全局釋出拟議規則制定通知,提議禁止銷售或進口內建了來自中國或俄羅斯相關特定軟硬體的網聯車。美國商務部資訊和通信技術辦公室負責人表示,任何在中國生産并在美國銷售的汽車都将被列入禁令範圍。根據美商務部的聲明,軟體禁令将适用于2027年及以後的車型,硬體禁令将對2029年或2030年的車型生效。美國拜登政府将在30天的公衆意見征詢期後起草最終規則,并計劃在拜登明年1月20日卸任之前成為一項永久性規定。(美國白宮)

英國|将資料中心列為關鍵國家基礎設施

2024年9月29日消息。英國科技大臣宣布,為經濟提供動力的資料中心将與能源和水系統一起被指定為國家關鍵基礎設施。國家關鍵基礎設施的指定将使政府能夠在發生重大事件時為該部門提供支援,進而最大限度地減少對經濟的影響。這意味着,在英國資料中心存儲和處理的資料在斷電、網絡攻擊和惡劣天氣事件中受到損害的可能性較小。将資料中心與水、能源和應急服務系統相提并論,意味着資料中心行業在應對和預防重大事件方面将獲得政府的大力支援,進而為在英國開展業務的企業提供更大的保障,并促進經濟增長。(英國政府)

美國加利福尼亞州|州長簽署人工智能訓練資料透明度法案

2024年10月2日消息。加利福尼亞州州長簽署了人工智能訓練資料透明度的議會法案(Assembly Bill 2013 on Generative artificial intelligence),該法案于2024年1月31日送出給議會并通過成為法律。法案規定,在2026年1月1日或之前,并在此後每次釋出生成式人工智能系統或服務,或是對釋出于2022年1月1日或之後的生成式人工智能系統或服務進行實質性修改,隻要公開提供給加利福尼亞州人使用,無論在使用條款中是否包括補償約定,該系統或服務的開發者必須在開發者的網際網路網站上釋出有關用于訓練生成性人工智能系統或服務的資料的文檔,包括生成性人工智能系統或服務中使用的資料集的進階摘要。(DataGuidance)

法律适用

歐洲普通法院|駁回高通所有抗辯,認定其構成濫用市場支配地位,實施掠奪性定價行為

2024年9月18日消息。高通在2019年被歐盟委員會處以罰款,因其在2009年至2011年期間以低于成本的價格出售其晶片組,以阻止英國手機軟體制造商 Icera。委員會的結論是,高通公司濫用其支配地位,在相關期間以低于成本的價格向其兩個主要客戶(即華為和中興通訊)供應了一定數量的部分UMTS晶片組,意在淘汰當時的主要競争對手Icera,構成掠奪性定價。高通公司請求法院撤銷或大幅減少罰款數額,并為此提出15項法律抗辯。在判決中,法院詳細審查了高通公司提出的所有抗辯,全部予以駁回,隻有一項關于罰款金額計算的抗辯除外,法院認為該抗辯部分理由充分。(路透社)

公安部|公布5起打擊整治“移花接木”拼接網絡謠言違法犯罪典型案例

2024年9月22日,公安部公布打擊整治“移花接木”拼接網絡謠言違法犯罪5起典型案例。在案例一張某某拼接虛假字幕謠言案中,張某某為博流量、吸引關注,在網上下載下傳某國外名人的演講視訊,使用手機視訊剪輯軟體惡意編輯,并配以與視訊原内容無關的中文字幕,惡意制作不實視訊資訊,在網上釋出傳播,引發網民誤解,造成虛假資訊傳播擴散,影響惡劣。公安機關已依法對張某某采取刑事強制措施。(公安部)

北京市網信辦|整治連鎖超市APP、二維碼違法收集個人資訊亂象

2024年9月22日消息。北京市委網信辦會同國家網際網路應急中心北京分中心,依據《個人資訊保護法》《App違法違規收集使用個人資訊行為認定方法》,以及《北京市掃碼消費服務違規收集使用消費者個人資訊案例解析及合規指引》,對9家大型連鎖超市使用的App進行遠端測試。測試發現,部分App存在不同程度的過度收集個人資訊、隐私政策不合理、功能不健全等問題,具體表現有:強制彈窗索要位置權限,未提示使用者閱讀隐私政策,強制要求同意母公司其他産品隐私政策和服務協定,使用者無法登出賬戶等。後北京市委網信辦對整改後的App進行精準複核,均已達到驗收标準。(勞工日報)

美國司法部|對維薩卡(Visa)發起反壟斷訴訟

2024年9月24日,美國司法部在官網釋出新聞稿稱,美國司法部已對Visa提起反壟斷訴訟,指控Visa在借記卡網絡市場的行為構成壟斷行為,遏制市場創新。美國司法部認為,Visa實施了将捆綁借記卡服務與信貸服務、施加不合理價格、在Visa的借記網絡協定中剝奪競争對手的交易機會、對通過非經Visa網絡進行的借記交易收取費用等壟斷行為。(美國司法部)

廣州知識産權法院|釋出6起涉資料權益知識産權司法保護典型案例

2024年9月25日,廣州知識産權法院釋出一批涉資料權益知識産權保護典型案例,主要涉及不正當競争、著作權等内容,充分展現了廣州知識産權法院積極發揮知識産權審判職能,探索資料權益保護規則、有效厘清市場主體行為邊界,助推資料産業健康有序發展的司法實踐。此次共釋出6個案例,涉及不同類型資料權益歸屬規則等資料權益保護核心問題及資料不當擷取行為、資料不當使用行為、資料妨礙行為、資料污染行為等各類資料侵權形式。(廣州知識産權法院)

歐盟法院|禁止網絡平台無節制使用個人資料用于定向廣告

2024年10月4日,歐盟法院最新裁定認為,線上社交網絡等平台不能無限制地、不分類型地使用收集的所有個人資料用于定向廣告。涉及的C-446/21案件由奧地利隐私活動家Max Schrems針對Meta的提起。涉及Max Schrems認為Meta大量違反GDPR的行為。為了本案,奧地利最高法院将包括本案在内系列案件的四個規則模糊問題,于2021年向歐洲法院(CJEU)提出解釋法律的要求,以尋求對GDPR條款的釋明。2024年10月4日,歐洲最高法院對涉本案相關的兩個重要問題作出了解釋性裁定。歐盟法院此次認為,Meta“不得無限制和無限期地使用”其收集的所有個人資料用于定向廣告,同時也不能将在其平台之外獲得的有關使用者性取向的公開資訊用于個性化廣告。(歐盟法院)

歐盟法院|純粹的商業利益不被明确排除在合法利益之外

2024年10月4日,歐盟法院最新裁定認為,純粹的商業利益不被明确排除在合法利益之外。涉及的C-621/22案件由阿姆斯特丹荷蘭地方法院将有關通用資料保護條例第6條第1款第f項下“合法利益”一詞解釋的問題送出歐盟法院初步裁決。此前,荷蘭資料保護局對荷蘭皇家網球協會處理個人資料的行為進行了行政罰款,認為協會不能以合法利益為由與贊助商共享會員的個人資料,因為其目的純粹是商業目的。荷蘭資料保護局堅持認為純粹的商業利益不能成為通用資料保護條例第6條第1款第f項的合法利益,這引起了重大争議。歐盟法院最終裁定認為:如果處理個人資料的行為包括為了滿足資料控制者的商業利益而向第三方有償披露個人資料,并且這種處理僅在該處理嚴格必要于實作所追求的合法利益,可以視為為實作該控制者所追求的合法利益所必需的。(歐盟法院)

産業發展

聯合國|釋出全球人工智能治理架構最新報告

9月19日,聯合國秘書長人工智能進階咨詢機構(HLAB-AI)釋出一份名為“為人類治理人工智能”(Governing AI for Humanity)的報告,提出了全球人工智能治理架構。報告提出了七項核心建議:建立國際科學小組、啟動政策對話、建立标準交易所、發展全球網絡、建立全球基金、實施資料架構、在聯合國設立人工智能辦公室。這些建議旨在確定人工智能的全球合作和公平發展,同時解決其風險。報告強調了采取緊急行動的必要性,以建立一個服務于全人類的治理架構。(聯合國)

位元組跳動|釋出豆包視訊生成大模型

9月24日,位元組跳動旗下火山引擎在深圳舉辦AI創新巡展,一舉釋出了豆包視訊生成-PixelDance、豆包視訊生成-Seaweed兩款大模型,面向企業市場開啟邀測。豆包視訊生成模型能實作自然連貫的多拍動作與多主體複雜互動,其生成的視訊不僅能夠遵循複雜指令,讓不同人物完成多個動作指令的互動,人物樣貌、服裝細節甚至頭飾在不同運鏡下也保持一緻,接近實拍效果。(财新社)

美國政府|與八家科技巨頭發起“全球人工智能包容性夥伴關系”

9月24日,美國國務卿安東尼·布林肯(Antony Blinken)在紐約聯合國大會第七十九屆會議期間發起了“全球人工智能包容性夥伴關系”(PGIAI),并宣布其他旨在利用人工智能的快速發展推動全球可持續發展的倡議。PGIAI彙集美國國務院、亞馬遜、Anthropic、谷歌、IBM、Meta、微軟、英偉達和OpenAI。PGIAI将重點關注三個領域:增加對人工智能模型、計算信用和其他人工智能工具的通路;培養人員的技術能力;擴大學地資料集。(美國國務院)

谷歌|更新Gemini 1.5人工智能模型

9月24日,谷歌更新旗下Gemini1.5人工智能模型,推出了Gemini-1.5-Pro-002和Gemini-1.5-Flash-002,相比較此前版本成本更低、性能更強、響應更快。谷歌聲稱,這些模型現在能在保持内容安全标準的同時,提供更有幫助的回複。該公司根據開發人員的回報意見,改進了模型的輸出風格,旨在實作更精确、更經濟高效的使用。(Google)

PC版ChatGPT|存在可擷取使用者對話記錄的漏洞

9月24日消息,研究人員Johann Rehberger表示,PC版ChatGPT用戶端存在漏洞,黑客可借助漏洞擷取使用者對話記錄。研究人員将這項漏洞稱為SpAIware,黑客可通過釣魚形式讓受害者在PC版ChatGPT用戶端中上傳特定檔案/特定網址并讓人工智能分析,一旦分析成功,人工智能便會将使用者的後續對話内容分享給黑客,目前OpenAI已釋出新版應用對漏洞進行修補。(The Hacker News)

谷歌|公布鲸魚聲音識别人工智能模型

9月24日消息,谷歌公布可用于識别鲸魚聲音的人工智能模型,其最新的多物種鲸魚聲音模型能夠識别8種鲸魚的叫聲,并進一步細分其中兩種鲸魚的不同發聲類型。谷歌表示,這項技術主要用于海洋學術研究,能夠幫助科研團隊擷取布氏鲸等較難觀察的鲸群行為模式,目前該模型已公開供學術人員下載下傳使用。(Google)

Meta|釋出新開源模型和頭顯裝置等

9月25日,Meta在年度開發者大會上釋出了Llama3.2開源模型,其中包括了多個端側模型和輕量級模型,該模型系列主要提升了多模态能力,能夠同時了解圖像和文本。此外Meta還在該大會上釋出了新一代混合現實頭顯Quest 3S産品和AR眼鏡。(财新社)

美國網絡安全與基礎設施安全局|釋出針對學校匿名威脅的應對工具包

9月25日,美國網絡安全與基礎設施安全局(CISA)釋出一份針對K-12學校處理匿名暴力威脅的指導手冊。該手冊旨在幫助學校應對電子郵件、社交媒體、電話甚至校園牆壁塗鴉等形式的匿名威脅。工具包包括針對K-12學校的社交媒體匿名威脅研究,并強調了“swatting”(虛假報警)的趨勢。CISA建議學校建立多學科威脅評估團隊,并在保障校園安全的同時考慮某些響應措施可能對學生造成的心理創傷。此外,工具包建議學校建立應對威脅的響應協定,并進行适當的演練和教育訓練。(CISA)

微軟|與Constellation Energy合作通過重新開機核反應堆提供電力支援

9月25日,微軟與Constellation Energy宣布一項創新合作計劃,旨在通過重新開機賓夕法尼亞州三哩島核電站的1号機組反應堆,為微軟不斷擴充的資料中心提供穩定且氣候友好的電力支援。這一舉措标志着科技行業在尋求滿足日益增長電力需求的同時,積極探索核能作為清潔能源的潛力。Constellation Energy的首席執行官喬·多明格斯(Joe Dominguez)在聲明中強調,核能是少數幾種既能滿足大型科技公司大規模電力需求,又具備氣候友好特性的能源之一。(CDBC)

百度|更新千帆大模型

9月25日,百度在2024百度雲智大會上釋出千帆大模型平台3.0,更新後的千帆平台,不但可以調用包括文心系列大模型在内的近百個國内外大模型,還支援調用語音、視覺等各種傳統的小模型。(财新社)

Alphabet公司|将投資33億美元在美國南卡羅來納州建造兩個資料中心

9月26日消息,Alphabet公司首席執行官桑達爾·皮查伊宣布,計劃在美國南卡羅來納州投資33億美元建設兩個新的資料中心,以支援人工智能應用的發展。這家谷歌母公司将在多徹斯特縣的Pine Hill商業園區和Winding Woods商業園建立這兩個新的資料中心,并擴充其在伯克利縣現有的資料中心。(路透社)

微軟|将在巴西投資27億美元用于擴充其雲計算和人工智能基礎設施

9月26日消息,微軟宣布将在巴西投資27億美元用于擴充其雲計算和人工智能基礎設施,這是該公司在巴西最大的單筆投資。作為“Microsoft Mais Brasil”計劃的一部分,微軟預計此舉将助力巴西到本十年末實作4.2個百分點的經濟增長。巴西副總統傑拉爾多·阿爾克明認為,這筆投資顯示了巴西在全球人工智能領域的潛力,并強調了巴西的可再生能源對資料中心的支援。(路透社)

智慧法治學術動态(2024年第37期總第111期)