來源:Twitter、Reddit
轉載自:新智元,未經允許不得二次轉載
ICML 2019評審結果來了!
今天,機器學習頂會ICML的論壇可謂是炸了鍋了——送出論文的作者們陸續收到了評審結果,可謂是幾家歡喜幾家愁。
根據網友提供的郵件截圖,ICML官方描述如下:
現在,您可以檢視ICML 2019送出的論文評審結果了。我們已經盡力保證每篇論文至少有3條評審結果,但是有一部分論文的評審結果可能少于3條。有一小部分論文可能會在未來一兩天内陸續收到額外的評審,請在接下來的兩天内檢視更新情況。
但是很多作者們看到評審結果後,不禁跑到論壇上開始吐槽。Twitter網友Brandon Amos表示:
我ICML評審結果裡的其中一條評論真的非常諷刺。審稿人用了幾句極其錯誤的句子拒絕了我的論文,說我定義了|.|運算符僅用于設定基數,但在另一處用于絕對值。
而後網友Shuyu Lin跟帖表示:
ICML評審品質令人放心:一位自稱對自己高度自信的評論者不知道如何計算自動編碼器的重構錯誤......一個前途光明的社群。
實力嘲諷?
當然,這種“熱鬧”話題怎麼少得了Reddit使用者。
網友MoreDonuts回複說:
我的論文有4個強烈接受(strong accept),評論者自稱是“高度自信”,并且被推薦諾貝爾實體學獎、計算機科學獎和和平獎。你認為它有機會進入嗎?
不。你至少需要一個“拒絕”。
該死,看來我該開始為NeurIPS修改論文了。
真可謂是滿滿的諷刺,足足的戲。
ICML 2019如何評審論文?
為何評審結果一出,便遭到了衆網友的諷刺?我們先來看下ICML 2019的論文評審機制:
雙盲評審
ICML 2019論文評議采用雙盲模式; 即審稿人不知道作者的身份,作者也不知道審稿人身份。請盡可能以第三人稱的方式引用自己之前的成果,請不要在送出的論文中添加緻謝、以及公共github存儲庫連結。如果需要匿名引用,比如參考自己在其他地方正在評議中的成果,請将此成果作為補充材料上傳。匿名是強制性要求,明确或隐含地揭示作者身份的論文可能會被拒稿。審稿人可以通過外部資源來推斷出作者的身份,比如在網上釋出的技術報告。這一點并不違反雙盲審稿政策。
關于補充材料
本屆ICML大會支援送出兩種補充材料 - 補充論文和代碼/資料,這些補充内容可用于提供額外證據支援。如果作者在論文中進行匿名引用,請務必上傳參考文獻,以便審稿人可以快速檢視。請注意不要在補充材料中透露作者的身份。
關于代碼送出,我們希望作者能夠合理地以匿名形式送出代碼和所在機構。即删除作者姓名和許可資訊。ICML 2019允許通過匿名github存儲庫送出代碼。但是,這些代碼必須位于在送出截止日期後不可修改的目錄中。請在送出的zip檔案中的獨立文本檔案中輸入github連結。
請注意,送出的論文必須完全獨立。大會提倡審稿人檢視作者送出的補充材料,但審稿人并沒有此義務,我們也不希望給審稿人帶來不必要的負擔。作者不得利用輔助材料來延長論文長度。如果作者認為該材料對評估論文至關重要,則需要将其包含在論文中。補充材料可以zip檔案或pdf格式送出。
補充材料不公布、不存檔。如果要将其包含在論文的最終版本中,則必須将材料放在網站上,并在論文的最終版本中引用該網站。
審稿人比對
為了找到适合作者送出論文的合适審稿人,我們将使用多倫多論文比對系統(Toronto Paper Matching System)來進行協助篩選。
作為送出過程的一部分,作者需要允許使用“論文比對服務”的許可,向ICML2019送出論文的作者應允許使用該服務。
關于一稿多投
送出與之前已釋出或已接受的相同(或基本相似)的論文,或向其他會議同時送出相同論文是不合适的。此種行為違反了我們的一稿多投政策。
這個規則有幾個例外:
允許送出已送出給期刊、但尚未在該期刊上發表的論文的精簡版本。
作者有責任確定相關期刊允許向本會議同時送出相關論文。
下列情況下的論文允許送出:在未列入Proceeding的情況下,在會議或研讨會上送出或待送出的論文(例如ICML或NeurIPS研讨會),僅發表過摘要部分的論文。
曾作為技術報告送出的論文(或在arXiv中已送出的預印本)允許向本屆ICML送出。在這種情況下,我們建議作者不要引用該報告,以保持匿名性。
論文作者對審稿意見的回複
目前暫定3月9日到3月14日期間,作者可以檢視評議意見,并發表回複内容。
作者的回複的目的是改變審稿人對論文的判斷,回複内容最長不超過5000個字元。論文的任何一位作者都可以輸入/編輯作者回複,回複内容可以進行編輯或還原,直到截止日期為止。
論文審稿是雙盲的。請勿在回複中包含可識别出作者/共同作者的任何資訊。請勿在回複中包含任何網址。
作者在拟定回複内容時應該做好判斷。沒有必要對每個小問題或改進建議逐一回複。而應該将這些回複視作解決問題的好機會,比如針對審稿人對論文的某一點不确定、審稿人做出的錯誤假設、或者審稿人誤解了論文中的某一部分等問題進行解釋。我們建議在作者回複意見中保持禮貌和專業。
ICML 2018:接收率25%,兩篇最佳論文回顧
機器學習頂會ICML 2018于7月10日~15日在瑞典首都斯德哥爾摩舉辦,2018年ICML共收到2473篇投稿論文,比2017年的1676篇增加了47.6%。最終入選的論文一共621篇,接收率25%。
ICML 2018最佳論文獎有兩篇獲獎論文,第一篇的作者分别是來自 MIT 的 Anish Athalye 以及來自UC Berkely 的 Nicholas Carlini 和 David Wagner,另一篇的作者則全部來自UC Berkely。
最佳論文一:
Obfuscated Gradients Give a False Sense of Security: Circumventing Defenses to Adversarial Examples
Anish Athalye (MIT), Nicholas Carlini (UCB), David Wagner(UCB)
論文位址:https://arxiv.org/pdf/1802.00420.pdf
GitHub:github.com/anishathalye/obfuscated-gradients
基于神經網絡的分類器通常被用于圖像分類,它們的水準通常接近人類。但是,這些相似的神經網絡特别容易受到對抗樣本和細微的幹擾輸入的影響。下圖是一個典型的對抗樣本,對原圖增加一些肉眼看不見的擾動後,InceptionV3分類器把貓分類成了鳄梨醬。根據Szegedy等人2013年的研究顯示,這種“愚蠢的圖像”僅用梯度下降法就能合成,這類發現為物體檢測研究敲響了警鐘。
在這篇論文中,作者評估了ICLR 2018接受的9篇論文,并測試了它們面對對抗樣本的穩健性。實驗結果證明,在8篇有關對抗樣本的防禦機制的論文中,有7篇的防禦機制都抵擋不住論文提出的新型攻擊技術,防禦水準有限。
最佳論文二:
Delayed Impact of Fair Machine Learning
Lydia Liu, Sarah Dean, Esther Rolf, Max Simchowitz, Moritz Hardt (全員UCB)
論文位址:https://arxiv.org/pdf/1803.04383
部落格:bair.berkeley.edu/blog/2018/05/17/delayed-impact/
機器學習的基礎理念之一是用訓練減少誤差,但這類系統通常會因為敏感特征(如種族和性别)産生歧視行為。其中的一個原因可能是資料中存在偏見,比如在貸款、招聘、刑事司法和廣告等應用領域中,機器學習系統會因為學習了存在于資料中的曆史偏見,對現實中的弱勢群體造成傷害,因而受到批評。
那麼,你對于今年的評審結果,還算滿意嗎?