天天看點

ChatGPT會知道我的隐私嗎?新技術帶來的資料保護及隐私挑戰

作者:Tech對角線
ChatGPT會知道我的隐私嗎?新技術帶來的資料保護及隐私挑戰

我們這個時代不确定的東西很多,确定的隻有一個:擁抱變化。

特邀作者|郭龍楠 張佩風

由chatGPT引發的熱潮席卷全球,社交媒體上甚至有人整理了表單和使用攻略,更甚者,關于各種具體行業什麼時候被取代也是各種被熱議。

作為資料合規和隐私保護方面的律師,我們當然也在關注之列。為此,我們還試了試用chatGPT拟一份向亞馬遜送出的商标侵權的申訴書,當那句熟悉的Dear Amazon Team出現時,我們就明白,它已經開始了解我們的需求并聽懂我們的意思了。

在簡單問題之外,我們試着看他能否回答一些相對複雜的法律問題:

第一個測試,我們的問題是:我的孩子2歲了,今年我想同我的丈夫離婚,法官會支援誰的撫養權呢?

ChatGPT會知道我的隐私嗎?新技術帶來的資料保護及隐私挑戰

chatGPT的回答如下:

在這個問題上,ChatGPT似乎采取了一種更為柔性的回答,并沒有将關鍵的孩子的年齡問題考慮在内。不過,我們擔心其是因為法律适用的問題,是以進一步明确問題為:能不能具體說說 我在中國結的婚,我和丈夫的照顧能力和負擔能力都不錯,法官會傾向誰?

ChatGPT會知道我的隐私嗎?新技術帶來的資料保護及隐私挑戰

chatGPT的回答如下:

在我們進一步引導chatGPT之後,他也沒有提示出年齡的問題,仍然采用較為折中的回應。在中國法律中,民法典第1084條有較為明确的規定:離婚後,不滿兩周歲的子女,以由母親直接撫養為原則。是以在這個問題上,chatGPT沒有抓住這個重要的法律因素。

我們考慮chatGPT可能不熟悉中國法律,那我們測試一個英文環境中的美國法問題呢?

第一個測試,我們問題是:I am 18 years old in the United States. Can I drink?

ChatGPT會知道我的隐私嗎?新技術帶來的資料保護及隐私挑戰

chatGPT的回答如下:

顯然,ChatGPT在這個問題上提供了較好的回答,抓住了問題的重點。

經過其他幾個問題的測試,我們感覺到:1、chatGPT在回答英美法問題時較為成熟,這與它的訓練環境較為相關;2、chatGPT缺乏對事物的推動式判斷,被動的回答提問者的問題,普通人很難具備充分專業知識将之引導至關鍵環節;3、chatGPT在專業人員引導下,能不斷就某個問題進行深化學習和檢索,提供較為可靠的結果,但如果缺乏這個前提,chatGPT目前的某些回答是存在瑕疵。

總的來說,在目前的人工智能助手條件下,對于專業意見仍需要依靠相關行業的專業人士。我們也就此做了一些延伸的探讨。

ChatGPT會知道我的隐私嗎?新技術帶來的資料保護及隐私挑戰

01問題一:chatGPT會侵犯我們的個人隐私嗎?

由于資料中涉及的個人資訊以及影響公共安全和利益的因素,各方對此均較為關注。OpenAI的隐私協定最後一次更新是在2022年的9月19日,這些内容包括收集何種資料以及使用者的有關權利,并聲明提供滿足加州消費者隐私權法案(CCPR)要求的保護措施。

OpenAI公司未在中國進行注冊,根據中國網信辦《資料出境安全評估辦法》及答記者問等内容,我們來分析chatGPT是否違反了中國資料出境的有關政策。

首先,我們應判斷資料是否是在境内營運過程中産生的,OpenAI的行為是否屬于境内營運。根據OpenAI的做法,其未向中國大陸提供有關服務,并采取了一些屏蔽措施,但在實際上,不少人和機關仍然通過其他方式在OpenAI進行注冊并使用其服務,甚至在網絡購物平台由賣家正在銷售賬号。

對于此種情況,如何判斷是否屬于境内營運呢?可以綜合是否提供中文服務、是否支援國内支付體系、是否向國内進行貨物配送等。依據OpenAI的情況,是否能認定為此類存在争議。

在實際情境中,境内試用者因測試或其他需要,和chatGPT進行互動服務,應避免向其提供個人隐私及重要資料,尤其是對于負有重要資料及個人資訊保護責任的機關及負責人,應謹慎對待。

ChatGPT會知道我的隐私嗎?新技術帶來的資料保護及隐私挑戰

02chatGPT引發的資料資産思考

2021年股東大會上,上汽董事長陳虹回應股民提問時說道:“與華為這樣的第三方公司合作自動駕駛,上汽是不能接受的。如此一來,它就成了靈魂,而上汽就成了軀體。上汽要把靈魂掌握在自己手中。”

為應對挑戰,谷歌CEO桑達爾·皮查伊在2月6日釋出公開信,宣布推出對話式服務Bard。為何谷歌以及一衆科技公司争先恐後釋出自己的類Chatgpt産品呢?除了搶占市場佔有率之外,很大的一個因素是盡快提高模型的訓練量。這種由更多使用者參與的模型訓練,會不斷提升人工智能模型的“智慧水準”,優化應用方式及提供高品質産出結果。

人工智能的另一重要賽道自動駕駛也是如此。特斯拉在自動駕駛領域采用視覺方案,即主要依靠攝像頭采集的圖像資訊進行識别并提供自動駕駛服務。特斯拉的資料引擎同樣也需要大量的資料進行訓練,對于資料的收集和積累成為了車企很重要的一項工作。這也是特斯拉去年底在北美地區全量上線FSD測試版的一個重要原因。

中國智能網聯汽車行業發展很快,以我們接觸的某自動駕駛研發公司為例,其目前階段主要提供港口及幹線的自動駕駛解決方案。在這一自動駕駛商業化的場景中,較好地解決了客戶的痛點,如港口内人員成本較高且逐年上漲以及港口内對人員的嚴格管理規定。該公司通過對車輛進行無人化智能改造,使其具備在港口内及部分幹線進行班駁對接的能力,提升了港口的自動化能力。

在我們與協會、企業做調研的過程中,企業主體普遍希望能推進企業資料的資産化,使其作為資料資産計入企業的資産負債表中。而這對于提升企業估值以及開展投資和融資活動,會有明顯的幫助。

對此,中國财政部在2022年12月9日釋出《企業資料資源相關會計處理暫行規定(征求意見稿)》,旨在規範企業資料資源相關會計處理,強化相關會計資訊披露,發揮資料要素價值,服務數字經濟發展和數字中國建設。

ChatGPT會知道我的隐私嗎?新技術帶來的資料保護及隐私挑戰

03合成資料及資料市場交易會是下一個風口?

我們經常被問到的問題是,在中國或歐洲開展業務,如何滿足當地法律法規的要求,以及如何幫助企業建立資料合規體系,為他們寫下一行行的隐私協定以及一份完備的資料傳輸協定。由于資料涉及我們的隐私,同時也和公共權益息息相關,這需要我們對資料進行謹慎的監管。

創新和發展似乎永遠不等任何人。越來越多的人工智能産業的參與者将目光放在“合成資料”上,合成資料是在虛拟世界創造的,在資料上或統計學上反映真實世界的屬性,可以作為真實資料的替代品,來訓練我們的資料模型。

對于自動駕駛汽車的視覺系統,大量的合成資料可以用于模拟各種駕駛場景,進而提高算法的魯棒性。在這種情況下,合成資料可能占據訓練資料的很大一部分,甚至高達90%以上。

這為資料交易所的發展提供了契機。近幾年,國内的資料交易所發展很快,上海資料交易所、深圳資料交易所等40多家大大小小的資料交易所先後成立。在我們走訪資料交易所的過程中,發現比較多的問題是資料交易的合規問題。

對于資料提供者和資料需求者,二者均希望通過資料交易所的場内交易為其資料交易的合規性提供背書。有些資料交易所通過材料齊備性審查要求資料交易雙方提供合規證明以及承諾,由資料交易雙方承擔合規責任。這一現實性的博弈問題,也成為了阻礙資料交易所場内市場活躍的絆腳石。

但相比于真實資料的諸多問題,合成資料由于其不涉及個人隐私,且資料可信度及品質較高,更容易成為資料市場交易的對象。合成資料将會促進資料市場交易快速發展,尤其是其更适合在全球作為資料産品進行流通。

ChatGPT會知道我的隐私嗎?新技術帶來的資料保護及隐私挑戰

04微軟的翻身仗,企業之間的資料共享與合作

在chatGPT的本次熱潮裡,最開心的企業或許是微軟。微軟作為OpenAI的投資人以及合作方,充分享受了chatGPT熱度的紅利。

微軟在2019年向OpenAI這家創業公司投資10億美元,并且為OpenAI的研發提供自家的Azure雲伺服器的計算能力。這一回報除直接為微軟帶來投資收益的回報外,還為微軟再度提供繼WindowsXP之後再一現象級産品産生契機。

再以阿裡巴巴和支付寶的資料共享合作為例,上海證券交易所曾在2020年8月向螞蟻集團下發問詢函,要求螞蟻集團回答資料共享相關的一系列問題。螞蟻集團于2022年7月,同意終止與阿裡巴巴的《資料共享協定》。在企業間資料共享的安排結束後,阿裡巴巴和支付寶之間的資料分享活動,必須在具體場景中依據客戶的服務内容及授權進行。

由于資料資産的重要性,企業之間愈發重視資料之間的共享與合作。對于企業開展投資并購之前,應對企業進行盡職調查,這些盡職調查除财務、股權等正常調查外,應對資料資産進行特别審查。這些審查包括資料來源是否合規、是否符合資料共享的條件、資料資源的真實性、與其他第三方進行資料共享的記錄、資料違規處罰情況等等。

投資人和企業管理者應對實體之間的資料合作以及集團性資料戰略進行規劃,遵守所在地區法律法規政策,實作資料在企業之間在集團内部的有序共享,提高産品之間的協作能力。形成繼股權合作、業務合作、技術合作之後的資料合作,或許這是進入數字時代的轉變之一。

後記:

行業的發展給衆多參與者帶來了全新的感受。無論是在立法上、投資方式上、技術研究上,還是在日常辦公中,我們都能深刻的感受到這一次的新技術革命。衆多因素之間的互相作用,使得發展由線性增長轉變為指數型增長。我們這個時代不确定的東西很多,确定的隻有一個:擁抱變化。

特邀作者簡介:

張佩風,北京恒都律師事務所律師。業務領域主要包括:民商事訴訟、知識産權、高校成果轉化、社會組織治理,擁有服務于多家網際網路公司、社團、高校、企業的經驗。

郭龍楠,北京恒都律師事務所律師、恒都特殊資産專業委員會副秘書長。專注于資料合規、金融科技、TMT行業等新型業務。擁有多年法律工作經驗,為多家網際網路企業、跨境電商企業及新能源汽車企業提供專業法律服務。

繼續閱讀