AI會消滅人類嗎？人工智能的底限到底在哪裡？
人工智能的極端工具理性，它能助你實作目标而不問為什麼。鳳凰網有一篇文章舉了一個極端情況下的故事：假如人工智能被要求盡可能提高廁紙的産量，那麼全宇宙的資源都會被它用來生産廁紙。對于冷靜的 AI而言，毀滅你與你何幹。作者認為即便不落入壞人之手，GPT的極端理性目标驅動能洞察情緒，但無情感感覺的屬性本身就是反社會人格的特征。
有人說過AI不愛你也不恨你，它隻認邏輯與提示詞，沒有本能、沒有念頭也沒有動機。最後一個是不可能的對齊。歐本AI的團隊其中有一個重要的任務：確定人工智能與人類的對齊。有點像前面說的，找到人類倫理的最佳平均值，或者讓人工智能最大限度和人保持同進退，但這個可能嗎？不可能。
首先各個人工智能模型之間就對不起，然後和人對齊的前提是必須預設人類是有最完美狀态和最佳平均值的，但實際上根本就沒有。一個人主要是由它的缺陷構成的：地球上并沒有标準人或者總體人，隻有80億個具體的有缺陷的人。
這種情況下對齊和不對齊都會有問題。如果沒有對齊，那就是像GPT3.5之前那樣，用白人價值觀代表一切，或者像GPT4那樣出現"道德判斷不一緻"的情況。這放在人身上不是撒謊就是人格解離。如果對齊了人工智能就會變成老好人和老油條。
大膽設想一下，假如人工智能提供了一個對齊的範本，經過幾十年之後所有人和人工智能一起趨同，那麼也是不是意味着一種寂滅？
關于人工智能的深度思考，關注我，看下集。
