NeurIPS成立道德委員會！3%論文因倫理問題被二審，4篇直接被拒
大數據文摘出品
作者：王燁
前段時間鬧得沸沸揚揚的谷歌AI倫理團隊聯合負責人Timnit Gebru被谷歌AI負責人Jeff Dean開除事件已經告一段落。
儘管事後谷歌CEO Sundar Pichai承諾將調查此事，但是目前還沒有什麼實質性的說法。
Timnit Gebru是靠人工智能倫理研究走進大衆眼簾的，出生於斯坦福大學人工智能實驗室，其博士生導師是著名AI學者李飛飛。
獲得博士學位後，Timnit Gebru入職谷歌，僅用兩年時間便升至L6 Research Scientist。
隨着AI研究井噴式發展，AI倫理審查也受到了廣泛的重視，比如讓Timnit Gebru一戰成名的研究就是她的一項發現——面部識別軟件在35%的情況下會錯誤識別深膚色女性，而這項在白人男性身上運行得幾乎完全準確。
作爲AI界久負盛名的NeurIPS會議也邁出了倫理審查的第一步，神經信息處理系統(Neural Information Processing Systems，NeurIPS)會議受疫情影響在線舉行，會議首次要求提交論文的作者同時提交一份聲明，說明他們的研究可能對社會產生的更廣泛影響，包括任何可能的負面影響。
會議組織者還任命了一個評審小組，負責審查引發倫理問題的論文，這個過程可能導致某些論文被拒絕。
9467篇論文提交，290篇被標記，4篇因倫理原因被拒
這次的NeurIPS會議共受到了9467份論文，審查人員主要根據提交材料的研究價值進行評估，但有通過初步審覈的論文還要由 Gabriel 領導的一個單獨的道德委員會進行全面審查。
Facebook人工智能研究中心的計算機科學家馬克·奧雷里奧·蘭扎託（Marc’ Aurelio Ranzato）是這次NeurIPS會議的主席之一，他表示，在290篇被標記的論文中，有4篇最終因倫理原因被項目主席拒絕。
添加倫理審查過程的做法參考的是Future of Computing Academy的做法，該學院由布倫特 · 赫克特領導，他是微軟和美國西北大學研究技術對人類影響方面的專家。
2018年，赫克特和他的合作者提出，要求計算機科學出版物陳述其研究的潛在副作用和可能出在的意外使用。
比如Ian J. Goodfellow在2014年提出GAN的時候並不會想到這項技術會用於AI生成色情圖片，而要求作者提供陳述的舉措將迫使技術的發明者不得不去思考自己的技術可能會帶來的社會影響。
這項舉措也得到了很多技術專家的肯定。
谷歌的計算機科學家凱瑟琳海勒（Katherine Heller）表示: “總體而言，我認爲倫理程序做得很好。”
“我認爲，即使是讓人們開始思考這些問題，也有很大的價值，”加拿大多倫多行業監督機構技術調查（Tech Inquiry）的創始人傑克鮑爾森（Jack Poulson）表示。他補充說，這項政策可能有助於改變該領域的文化。
如何審查研究的倫理？很難
儘管NeurIPS算是邁出了第一步，但是如何判斷一篇文章有沒有倫理上的風險呢？
NeurIPS的倫理評審小組表示，目前這是一個難題，審查人員沒有得到關於什麼會構成對社會的危害的具體指導。
舉個例子，NeurIPS會議的主席之一Ranzato說，一些評審標記了那些利用數據庫收集未經明確同意的個人信息或照片的論文。
這類數據庫的使用廣受批評，但會議組織者並沒有將這一問題單獨提交給審查人員，也沒有提供有問題的數據庫清單。
不過，Ranzato補充說，審查政策是朝着正確方向邁出的一步。“沒有什麼是完美的，但現在比以前更好了。”
大多數有問題的問題應該已經被發現，因爲三個匿名的同行審稿人中的任何一個都可以標記一篇論文，主題領域的主席也可以。
倫理評審小組負責人Gabriel表示: “其中任何一方發出的‘信號’都足以啓動審查程序。”
不過，他承認，這一過程並非絕對可靠。例如，如果所有的評論員碰巧都是男性（在男性主導的領域並不少見） ，他們可能無法充分評估算法是否會對女性產生負面影響。
“我不能排除出現這種盲點的可能性。”Gabriel說。
倫理審查還是自查自糾？
NeurIPS會議的最後一天還舉行了一次特別會議，重點討論人工智能對社會的廣泛影響，大家一起討論瞭解決行業問題的方法。
微軟在紐約市的研究員 Hanna Wallach 呼籲研究人員從研究的早期階段評估和減輕任何潛在的對社會的危害，而不是預想開發和市場最終產品的同時會做這種道德方面的工作。
爲什麼一定要程序員自己區考慮倫理因素，而不是交給專門的倫理審查專家呢？
她表示，道德思維應該納入機器學習領域，而不是簡單地外包給道德專家，否則“其它學科可能成爲警察，而程序員則試圖逃避它們”。
但是如何能讓研究人員自發審視技術的倫理因素呢？
這恐怕還有很長的路要走。
相關報道：
https://www.nature.com/articles/d41586-020-03611-8
https://www.nature.com/articles/d41586-020-03188-2
