「我們敦促稽核委員會公開撤銷論文通過的決定，并解釋評估該論文通過的标準。Springer 需要公開聲明譴責使用刑事司法統計資料預測犯罪行為，并承認其過去在激勵這種有害學術方面的作用。所有出版商今後都不要發表類似的研究。」
在一份長長的公開信中，數千名 AI 研究人員呼籲科學出版商 Springer Nature 不要發表一篇論文。據介紹，該研究提出了一種面部識别系統，能夠預測一個人是否為犯罪分子。這篇論文由美國哈裡斯堡科技大學（Harrisburg University of Science and Technology）送出。
是什麼研究引發了如此争議？在這篇名為《A Deep Neural Network Model to Predict Criminality Using Image Processing》的論文中，研究人員稱該技術沒有種族偏見，根據照片中人的面部特征預測是否為罪犯的準确性達到了 80％，這一深度學習方法是面向執法機構開發的。
這篇論文的第一作者，哈裡斯堡科技大學在讀博士 Jonathan Korn 是一名前紐約警察。同為論文作者的 Roozbeh Sadeghian 教授在論文送出的新聞中表示：「我們知道機器學習技術在與面部識别和情感檢測有關的各種任務上可實作超過人類的水準。新研究表明，這些工具可以從圖像中提取出高度可預測犯罪的微小特征，這證明了新方法的強大。」
在原先的計劃中，這篇論文會被收錄在《自然》研究叢書「Springer Nature – Research Book Series: Transactions on Computational Science & Computational Intelligence」中。
「通過無偏見地自動識别潛在威脅，我們可以實作預防犯罪的目标，為執法部門和軍事應用提供受到隐形偏見和情感因素更小的工具，」論文作者之一的 Nathaniel Ashby 表示。「我們的下一步是尋找合作夥伴以推進這一使命。」
然而事情并不如作者所想的那樣順利。在新聞釋出之後，「AI 看人臉預測犯罪」的研究很快引發了不小的争議。在社交網絡上，業界專家就效率、隐私和道德等原則達成了共識，稱該計劃不負責任、牽強附會且「錯得離譜」，因為這可能引出 AI 判斷一些人是天生罪犯的奇怪結果。
在論文送出後，哈裡斯堡科技大學的新聞稿。在 5 月份這篇新聞因争議過大又被删除。
自 5 月論文送出的消息被曝出後，這一研究一直被科學界關注與讨論。在最近的公開信中，已經有來自哈佛大學、MIT、谷歌以及微軟的學者和 AI 領域的專家在這封公開信上簽字。他們呼籲出版公司 Springer 停止發表這篇論文：「我們是來自不同科技領域、學科和人文領域的研究者及從業人員，我們對于即将出版的論文深表關注。」
公開信的組織者之一 Audrey Beard 在一份郵件聲明中表示：「根本無法開發出不存在種族偏見的犯罪預測系統，因為刑事司法資料本身就是存在種族偏見的。」
這已經不是 AI 研究者第一次提出這樣令人質疑的研究了。
根據人的相貌來評估犯罪幾率，這讓人們想到了 2016 年 11 月上海交大送出到預印版論文平台 arXiv 上的論文《使用臉部圖像自動推斷罪犯》，研究者聲稱通過大量證件照片的訓練，神經網絡模型可以在識别罪犯時準确率達到 87%。在當年，該研究也曾引起學術界和輿論界的大量讨論。
昨晚，Nature 作出了澄清，哈裡斯堡科技大學的文章不會被《自然》雜志出版：
但還是有人繼續質問：「為什麼這樣的文章會進入 Nature 的稽核流程？」看來想要消除深度學習的偏見，避免其成為「作惡」的工具，我們還有很多事情要做。
公開信：
https://medium.com/@CoalitionForCriticalTechnology/abolish-the-techtoprisonpipeline-9b5b14366b16參考内容：
https://www.biometricupdate.com/202005/biometric-software-that-allegedly-predicts-criminals-based-on-their-face-sparks-industry-controversyWAIC 2020 黑客馬拉松由世界人工智能大會組委會主辦，張江集團、優必選科技、軟銀集團旗下軟銀機器人、Watson Build 創新中心、機器之心聯合承辦，受到新冠疫情的影響，比賽将于 7 月 8 日 - 11 日期間以遠端和小規模線下結合的方式舉辦，招募全球頂級開發者同台競技。
點選圖檔或「閱讀原文」搭乘參賽