聯名預警信發起人劍橋大學人工智能研究助理教授David Krueger：“一旦獲得通用人工智能，人類就可能會滅絕”！！！
半個月前，包括OpenAI CEO Sam Altman、圖靈獎得主Geoffrey Hinton在内的數百名人工智能頂尖人士，聯名簽署了一封關于AI對人類滅絕存在威脅的簡短聲明。
這聲明隻有一句話——“減輕人工智能的滅絕風險應該與流行病和核戰争等其他社會規模風險一起成為全球優先事項。”
劍橋大學人工智能研究助理教授David Krueger是這封信最早的發起人之一，也是簽名者。
Krueger認為，AI比人類更聰明，無序的競争，以及建構對世界産生更直接影響的AI系統——這三重因素都會極大增加人工智能系統失控的風險系數。“系統越是開放、越是自主、越是智能，并且越是旨在實作長期目标，系統失控的風險就越大。”他說。
在他看來，人工智能的安全問題就像全球氣候變化問題一樣，各方有各自的利益，會有諸多沖突與分歧，最終使之成為複雜的全球協調問題。是以必須盡早開始，通過各方努力，才能讓人類不至于淪落至被AI接管的命運。
隻有這樣，人類才能活下去。
