對大資料和人工智能的冷思考

大資料和人工智能是今年最熱門的話題，在司法領域更是如火如荼，司法在大資料時代的範式革命已經到來。但利之所在弊亦随之，如果對大資料和人工智能的風險缺乏充分認識，不能在熱情之餘做一番冷思考，則可能會産生許多難以預料的後果。

首先，是大資料和人工智能的安全性問題。該問題雖屬老生常談，但在網際網路犯罪模式從攻擊計算機和網絡本身轉向徹底的虛拟犯罪的時代背景下，可能曆久彌新。目前，在網際網路犯罪中，已經大量出現了犯罪人接受他人委托，侵入政府部門與企事業機關的計算機系統修改資料以及攔截修改計算機資訊資料的案例。是以，筆者認為沒有理由認為司法大資料能獨善其身。畢竟，在網際網路犯罪海洋中，沒有哪個地方是絕對的安全島。

其次，是大資料和人工智能的可靠性問題。圍繞美國威斯康辛州法院采用的COMPAS量刑程式的争議和訴訟就是一例。有研究者認為，COMPAS傾向于高估某些特定人群的再犯可能性，而這很可能反映了設計者所固有的偏見。如果資料分析本身就受偏見的左右，那麼以此為基礎的人工智能所作出的決定還能可靠嗎?更令人擔憂的是，有相當一部分人工智能系統依靠的是機器學習算法。這種算法幾乎就是“黑盒子”，因為算法的開發者也難以解釋算法的真正運作機制和可能造成的後果。法律乃善良公正之術。當司法擁抱科技時，如果人類将公平正義的決定權交給算法，那麼就會面臨正義與科技誰會笑到最後的難題。

但對大資料和人工智能的冷思考并不意味着對它們的拒斥。大資料和人工智能在司法領域的運用是大勢所趨。如果因為它們現在所存在的缺陷就将其拒之千裡之外，無疑是因噎廢食。實際上，在未來，随着可供使用的資料越來越多，更多更好的工具被開發出來，也行大家今天所面臨的擔憂可能會得到緩解。但大家必須清醒地認識到，大資料和人工智能是一把雙刃劍。如果不能正确評價和對待它可能帶來的風險，那麼就可能造成難以預料的後果。

大資料和人工智能并不免除任何人作出判斷的責任。因為這一責任屬于人類最核心的領域——理性。大資料和人工智能歸根結底隻是人類理智的産物，盲目地迎合理性的産物而冀圖免除自己的責任是非理性的表現。正确認識理性産物中蘊含的非理性，以更好地履行自己的責任才是理性的表現。 

原文釋出時間為：2017-10-23

本文作者：聶輝華

本文來自雲栖社群合作夥伴“51CTO”，了解相關資訊可以關注。