天天看點

Deepmind成立新AI部門,意在處理AI社會和倫理問題

據外媒 The Verge 報道,近日,Google旗下AI研發公司 DeepMind 宣布成立一個AI新部門,主要負責研究AI帶來的倫理問題和社會問題,如自動化給未來經濟帶來的影響等等。

圖:DeepMind辦公室

據了解,新部門的主要目标是幫助技術人員将倫理應用于實踐,幫助社會預測AI的影響,并對其影響給予引導,確定AI造福人類。2016年,DeepMind 開發的AI系統在圍棋棋盤上打敗世界頂尖選手,因而名聲大震。

DeepMind 為新部門命名為 DMES(DeepMind Ethics & Society:倫理和社會)。新部門将于2018年開始就這些課題目标進行研究。目前,該部門已有8名全職員工。不過,按照 DeepMind 的計劃,該部門的員工規模将在一年時間内增至25名左右。

為了壯大團隊,DeepMind 還從外部學術機構和慈善機構聘請一些顧問,為新部門提供咨詢服務,包括哥倫比亞大學發展學教授 Jeffrey Sachs、牛津大學AI教授 Nick Bostrom、氣候變化活動家 Christiana Figueres。

DMES 聯合主管 Verity Harding、Sean Legassick 在公告博文中表示,這些專家不隻精通專業技術,還可以帶來多樣化的思考。同時,二位還表示,DMES将幫助 DeepMind 探索和了解AI帶給現實世界的影響。“如果AI技術要服務于這個社會,那麼,其必須經受住社會的優先事項和關注重點的重塑的過程。”

雷鋒網還了解到,新部門屆時還将與有着類似研究目标的學術團體合作,如紐約大學的 AI Now Institute和劍橋大學未來智能研究中心(Leverhulme Centre for the Future of Intelligence)等等。

事實上,2014年 DeepMind 被 Google 收購時曾承諾要建立一個“AI倫理委員會”。與新部門不一樣,該委員會主要用以監管公司的所有AI研究活動。不過,自收購以來該倫理委員會并沒有多大作為。特别是 2016年,DeepMind 在與英國國民健康服務局(NHS)合作時,受到了公衆的大肆批評,這讓其進一步認識到AI倫理問題的重要性。

2015年,DeepMind 和倫敦三家醫院達成合作,處理了其中160萬名患者的診療資料。2017年,該行為被英國的資料監督機構判定為非法,因為該公司沒有通知到個人他們的資料已被使用。DeepMind 後來表示,他們低估了“NHS的複雜性和患者資料的規則”,并聘請了新的獨立倫理審查員以監督未來的任何交易。

雖然DMES的成立主要是基于 DeepMind 對AI帶來的倫理問題的考慮和重視,但至目前為止,該公司的内部倫理審查員依然籠罩着神秘面紗。同時,據了解,新部門将與 DeepMind 的産品部門并行營運。未來,新部門聘請了哪些審查員,多久進行一次會議,主要讨論哪些要點,又有哪些形式...關于這些問題,隻能在未來慢慢尋找答案。

本文作者:李秀琴

繼續閱讀