AI正在改變我們所熟悉的世界，它每天都在制造新的風險。不過真正的危險不在于機器，而是我們的大腦。我們已經習慣于利用捷徑、偏見和不透明的程式做出決策。正如金融利用了人類思維的弱點一樣，AI也将利用我們的生活模式，以不可抗拒和無形的方式操縱我們。在中譯出版社最新出版的《循環：AI如何影響人類，人類如何應對AI》一書中，美國的雅各布·沃德揭示了我們是如何将這些習慣融入決策技術中，這些決策如何影響我們，我們又該如何應對。
人工智能将改變我們所知的世界。但真正的危險不是某個機器人會奴役我們，而是我們自己的大腦。我們的大腦經常使用捷徑、偏見和隐藏的過程來做決定——我們正在使用同樣的方法來創造技術，為我們做出選擇。雅各布·沃德認為，人工智能對人類最大的威脅不在于機器人的反撲，我們的大腦才是最需要提防的因子。在決策時，大腦會受到偏見、情緒等因素影響。而當我們在選擇要喂養哪些資訊給智能産品時，往往也會把這些盲點和謬誤一并複制進去。
人類的思維本來就有認知偏誤，行為也受各種無形的外力牽引。而在當今模式識别科技與引導式決策的互相作用之下，智能産品幫我們寫好了一切行為的劇本，人類選擇是以受到限縮。雅各布·沃德提醒，如此一來，不僅不公不義的現象更加嚴重，人類創新的本能和思考的能力亦将大幅退化——這才是我們在面對智慧科技時真正應該擔心的事情。
雅各布·沃德，斯坦福大學行為科學進階研究員，NBC新聞的科技記者，此前曾擔任CNN、半島電視台和PBS的科技記者。沃德是《大衆科學》雜志的前任主編，他還主持了PBS電視台長達4小時的系列紀錄片《侵入你的大腦》，向電視觀衆介紹了人類決策和非理性方面的基大學學發現。《循環：AI如何影響人類，人類如何應對AI》是其最新的一本關于AI的科技圖書。
什麼是循環？著名哲學家波普爾“三個世界”的認知架構，對實體世界、心靈世界和知識世界做出了靜态的劃分。雅各布·沃德将人類認知與行為劃分為三個互相糾纏、彼此影響的循環：本書提到三個循環：第一個循環也是最核心的循環，即世代沿襲的人類本能。人類天生具有偏見，而且更傾向于使用大腦的系統1行事，在這個過程中，人類原有的偏見進一步被強化，形成第一個循環。第二個循環是來自現代的力量，如消費類技術、資本主義、營銷和政治，它們對核心循環的人類行為進行采樣，總結出模式，再将這些模式反作用于人類，最終引發了一系列問題。第三個循環，即本書書名所指的循環，是來自人工智能的影響。AI對人類偏見進行采樣，總結出規律，最後把這些規律反作用于人類，形成第三個循環。雅各布·沃德的闡釋，展現了自50年前波普爾知識劃界之後全新的思想傾向。這一傾向有兩個顯著的特點：一是強調人類的認知與行為是動态演進的，二是強調作為人造物的智能技術日益強大的生命塑造能力。這一闡釋從動态循環的角度描繪了一幅複雜交織的人類生存畫面，對駕馭這艘人與宇宙互相依存的生命飛船，無疑是深刻的思想洞察和敏銳的警醒。
關于人類世代沿襲的生命本能與性情，本書用地球與宇宙内其他星球的演繹作了直覺的解讀：“火星與地球軌道相鄰，它是太陽系中除地球以外最适宜人類生存的星球。但其實這并不能說明什麼。誠然，其他星球的環境更糟。以木星為例，火箭如果穿越木星表面30英裡厚的雲層，在大量易燃的氫氣和氦氣中，火箭發動機推力忽高忽低，然後火箭到達雲層下方約1.3萬英裡處相同成分的液态層（這個液态層的存在讓我們對這片有毒的液态海洋下面有些什麼還一無所知）後，發動機就完全失靈了。宇航員們還沒出飛船就會溺死（也可能會被燒死，這種情況在地球上是不可想象的）。火星相對來說是比較宜居的。火星上有穩定的落腳點。在火星上度過美好的一天可能真的感覺不錯。太陽高高挂在空中，氣溫大約是宜人的 68℉，就像舊金山或約翰内斯堡八月的一個晴朗的下午。但如果你剛好晚上在火星極地下了飛船，氣溫可能會低于-200℉，這個溫度會讓你立即被凍死，你的四肢會被凍得像易斷的樹枝一樣，一錘子下去就能敲個粉碎。我們不要忘了就算是在火星上最舒适的區域，也沒有可供呼吸的空氣，是以即使是在最宜人的日子裡，你也不能走遠。在低重力環境中，你大概隻能在飛船附近50碼b以内的範圍活動，否則你就無法屏住呼吸，缺氧會讓你迷失方向，不能回到飛船上吸氧。你會失去知覺，身體抽搐，心髒停止跳動，紅色的灰塵慢慢飄落到你的屍體旁邊。這就是科學家和記者都對系外行星如此感興趣的原因，作為太陽系以外的行星，系外行星似乎有着适宜人類生存的大氣層和表面。在過去幾年裡，現已退役的開普勒太空望遠鏡讓人類産生了源源不斷的樂觀幻想。開普勒太空望遠鏡其實無法看清遠太空的事物，系外行星過于遙遠不能直接對其拍攝清晰圖像，是以它會觀測遙遠恒星的光線經過行星旁時産生的彎折。根據恒星光線途經行星後産生的光線變化，天體實體學家不僅可以計算行星的大小，還可以計算它離光源多遠，這意味着我們可以根據行星體積，以及行星與恒星的距離這兩個值之間的關系，推測行星周圍是否存在着某種大氣層。”
北京智源人工智能研究院院長黃鐵軍表示，人工智能目前在我們的生活中扮演并将持續多年的角色将會加速發展。但是人工智能是什麼？它真的會使我們陷入困境嗎？雅各布·沃德結合長達十年的人工智能和行為科學前沿研究，警告我們人工智能即将放大我們最原始的一面，并利用算法推薦和模式識别技術使我們陷入一個“選擇越來越少”的循環。随着科技行業開始将有缺陷的人類習慣寫入人工智能本書呼籲我們要更加清醒地審視自己。而經濟人讀書會創始人、公衆号econhomo主理人徐瑾則評價說，當技術突飛猛進，很多人在思考AI可以做什麼的時候，本書則思考不能做什麼，這種帶有批判性的審視對當下分外珍貴，也更能代表普通人的焦慮與聲音。技術使得人類走在命運的十字路口，我們可能第一次擁有了改變進化路徑的可能性，問題在于我們有這樣的能力去承受各種結果嗎？作者指出，人性依賴于捷徑，也充滿偏見，而這些特點通過不同模式的強化，最終又會反作用于我們自身。意識到這種局限，有助于我們更好地了解AI時代的變遷，做出更有利的選擇。
“這本書揭示的人工智能真相既令我們感到恐懼，又對我們應用人工智能具有教育意義。沃德結合了大量關于人類思維的行為科學研究，融彙了來自多個領域的科學知識，分析了人工智能開發人員如何利用我們本身的偏見來兜售他們的産品，這是對人工智能及其前景和弊端的有趣、獨特的看法。”童行書院創始人郝景芳如是說道。此外，科幻作家、中國作協科幻文學委員會副主任陳楸帆表示，人工智能的發展使得它能夠在人類活動和選擇中找到極其詳細的模式，也使得企業從人工智能預測行為的能力中獲益，對人類的決策功能擁有幾乎無限的控制權。考慮到利弊，作者認為我們必須對人工智能保持警惕，意識到“陷入困境”的危險。這本書所涵蓋的資訊範圍非常廣泛，對于任何夢想更美好世界的人來說，都應該讀一讀。（讀者報全媒體記者 何建）