天天看點

因言獲罪?時隔一年半谷歌AI又解雇一名提出異議的研究員

當地時間5月2日,谷歌表示最近解雇了一名進階工程經理Satrajit Chatterjee,稱其此前一直試圖诋毀他所參與的AI軟體裡程碑式研究,同時指控他有騷擾行為。這個騷擾指谷歌研究員Goldie說,Chatterjee多年來一直通過傳播關于他們的錯誤資訊來騷擾她和Mirhoseini。

這個消息在業界引起廣泛讨論,紛傳被解雇的Chatterjee是因為對研究有異議而獲罪。谷歌在一份書面聲明中也閃爍其詞,稱Chatterjee博士“因故被解雇”。

這裡所指的研究是2021年6月谷歌在《自然》上發表的著名論文“A graph placement methodology for fast chip design”,這篇研究用基于深度強化學習的晶片布局規劃方法生成晶片平面圖,且所有關鍵名額(包括功耗、性能和晶片面積等參數)都優于或與人類專家的設計圖效果相當,而且人類需要幾個月的時間完成,AI隻需要6小時。

因言獲罪?時隔一年半谷歌AI又解雇一名提出異議的研究員

據《泰晤士報》報道,在一封内部電子郵件中,Chatterjee對該研究的一些說法持保留意見,并對技術是否已經過全面測試表示質疑。後來Chatterjee團隊被允許合作撰寫一篇對《Nature》這篇論文提出異議的研究,但研究送出後被駁回。據《紐約時報》知情人士稱,“谷歌告訴他的團隊,它不會發表一篇論文來反駁《自然》雜志上的一些說法。”

谷歌研究院副總裁Zoubin Ghahramani在一份書面聲明中對原論文做了辯護,“我們徹底審查了《自然》的原始論文,并支援同行評審的結果。我們還嚴格調查了随後送出的技術聲明,它不符合我們的出版标準。”

路透社認為,這場源于晶片設計自動化努力的糾紛,有可能損害谷歌研究在學術界的聲譽。它還可能擾亂用于人工智能和晶片研究的數百萬美元政府撥款的流動。

據兩名谷歌從業人員對路透社表示,在3月份(Chatterjee也是在3月被辭退)線上釋出的一篇匿名論文(Stronger Baselines for Evaluating Deep Reinforcement Learning in Chip Placement,以下簡稱“Stronger Baselines”)中發現,其提出的基于基本軟體的兩種替代方法表現優于AI,一個在著名的測試中擊敗了它,另一個在專有的谷歌規則中擊敗了它。

谷歌拒絕對這篇洩漏的論文發表評論。谷歌表示,由于不符合其标準,它拒絕釋出“Stronger Baselines”,并在不久之後解雇了這項工作的主要推動者Satrajit Chatterjee,也拒絕說明解雇原因。

谷歌研究員、原論文第一作者Goldie表示,Chatterjee曾在2019年要求管理他們的項目,但他們拒絕了,“當他後來批評這篇論文時,他無法證明他的批評,并忽略了他們提供的證據。”

對于Goldie指控Chatterjee通過傳播關于他們的錯誤資訊進行騷擾,Chatterjee的律師Laurie M. Burgess表示否認,并補充說Chatterjee沒有洩漏“Stronger Baselines”。

Burgess說,“令人失望的是,《自然》論文的某些作者試圖通過诽謗和攻擊Chatterjee僅僅是尋求科學透明度的行為,以關閉科學讨論。”同時質疑谷歌AI的掌門人Jeff Dean,稱其壓制所有相關實驗資料的釋出,還包括支援他喜歡假設的資料,“這種行為應該會給科學界以及消費谷歌服務和産品的更廣泛群體帶來更大的麻煩。”

在網上出現“Stronger Baselines”論文後,谷歌研究部副總裁Zoubin Ghahramani在Twitter上寫道,“谷歌支援在Nature on ML for Chip Design上發表的這項工作,該工作已被獨立複制、開源和在Google的生産中使用。”《自然》還沒有發表評論。

這不是谷歌第一次面對這樣的質疑,2020年12月,谷歌就曾解雇人工智能研究團隊的著名AI學者和人工智能倫理研究員Timnit Gebru。Gebru在Twitter中表示,她在不知情的情況下被負責谷歌AI部門的Jeff Dean發了封郵件就辭退了。而在被解雇前,她曾想要發表一篇有關谷歌在當時的語言系統可能會從網站上學習到包含偏見和仇恨言論的論文。

幾個月後,該公司解雇了團隊的另一位負責人瑪格麗特·米切爾(Margaret Mitchell),後者公開譴責谷歌對Gebru的處理方式。該公司表示,Mitchell違反了其行為準則。

因言獲罪?時隔一年半谷歌AI又解雇一名提出異議的研究員

谷歌在2020年解雇了當時Ethical AI 團隊的負責人Timnit Gebru

Gebru的被解雇使谷歌遭到美國國家勞工關系委員會(NLRB)訴訟,廣被外界批評。在當時,Gebru的同僚Alex Hanna代表谷歌AI倫理研究部門向谷歌的上司呈遞了一封聯名信,提出了五個訴求:

· 公司必須進行結構性改革,以保證谷歌AI倫理研究工作可以繼續進行

· 不再向谷歌副總裁Megan Kacholia彙報工作,她和Jeff Dean需要道歉

· Gebru回歸,并為其提供比此前更高的薪資

· 公開承諾學術誠信

· 管理層進行種族素養教育訓練

信中寫道,“谷歌解雇和報複道德人工智能團隊核心成員的短視決定清楚地表明,如果這項工作要繼續下去,并且如果整個領域的合法性要堅持下去,我們需要迅速和結構性的改變。”

繼續閱讀