每日外刊 | 0711-人工智能可能會毀滅世界的5個方式

背景知識

一位澳洲國會議員聲稱，人工智能的興起正好與教育的衰落相吻合。這是令人擔憂的原因，風險分析師将人工智能（AGI）列為全球關注的重點。

據報道，朱利安·希爾在澳洲議會的一次演講中表示：“如果你開始思考，很快就會意識到未經馴化的AGI帶來的破壞性和災難性風險是真實的、可信的，而且很容易想象。AGI有可能以我們無法想象的方式徹底改變我們的世界，但如果AGI超越人類智能，如果其目标和動機與我們自己的不一緻，可能會對人類造成重大傷害。”

正文閱讀

Five ways AI might destroy the world

人工智能可能會毀滅世界的5個方式

“If we become the less intelligent species, we should expect to be wiped out.” It has happened many times before that species were wiped out by others that were smarter. We humans have already wiped out a significant fraction of all the species on Earth. That is what you should expect to happen as a less intelligent species – which is what we are likely to become, given the rate of progress of artificial intelligence. The tricky thing is, the species that is going to be wiped out often has no idea why or how.

“如果我們淪為智力較低的物種，就應做好被淘汰的準備。”許多物種被更聰明的物種所淘汰，這在之前已經發生過很多次了。人類已經讓地球上大部分物種滅絕了。作為智力較低的物種，這就是你可能面臨的未來——而這正是人工智能進步速度所帶來的結果。棘手之處在于，即将被淘汰的物種往往不知道滅絕的原因和方式。

Take, for example, the west African black rhinoceros, one recent species that we drove to extinction. If you had asked them: “What’s the scenario in which humans are going to drive your species extinct?” what would they think? They would never have guessed that some people thought their sex life would improve if they ate ground-up rhino horn, even though this was debunked in medical literature. So, any scenario has to come with the caveat that, most likely, all the scenarios we can imagine are going to be wrong.

以西非黑犀牛為例，這是一個最近被人類滅絕的物種。如果你問它們：“在什麼情況下，人類會把你們這個物種滅絕？”他們會怎麼想？他們永遠不會想到，有些人認為吃犀角粉可以改善他們的性生活，盡管這在醫學文獻中被證明是錯誤的。是以，任何情況都必須附帶一個警告，那就（最有可能的）是，我們所能想象的所有情況很可能都是錯誤的。

We have some clues, though. For example, in many cases, we have wiped out species just because we wanted resources. We chopped down rainforests because we wanted palm oil; our goals didn’t align with the other species, but because we were smarter they couldn’t stop us. That could easily happen to us. If you have machines that control the planet, and they are interested in doing a lot of computation and they want to scale up their computing infrastructure, it’s natural that they would want to use our land for that. If we protest too much, then we become a pest and a nuisance to them.

不過，我們有一些線索。例如，在許多情況下，我們滅絕物種隻是因為我們想要資源。我們砍伐雨林是因為我們需要棕榈油；我們的目标與其他物種不一緻，但因為我們更聰明，他們無法阻止我們。這種情況很容易發生在我們身上。如果你有控制地球的機器，并且它們有興趣做大量的計算，他們想擴大他們的計算基礎設施，很自然地，他們會想要使用我們的土地。如果我們抗議太多，那麼我們就會成為他們害蟲和麻煩制造者（讨厭的東西）。

今日單詞

• destroy/dɪˈstrɔɪ/ vt. 破壞，毀滅；殺死，人道毀滅（受傷、生病或危險的動物）；
• intelligent/ɪnˈtelɪdʒənt/ adj. 聰明的；有智力的；智能的；
• species /ˈspiːʃiːz/ n. （動植物的）種，物種；種類；（具有相同特征的）一類人；
• wipe out 徹底摧毀；消滅；
• a significant fraction 相當大的一部分；
• rate of progress 進步的速度；
• tricky/ˈtrɪki/ adj. 難對付的，棘手的；狡猾的，詭計多端的；
• rhinoceros/raɪˈnɑːsərəs/ n. 犀，犀牛（栖于非洲和亞洲）；
• extinction/ɪkˈstɪŋkʃ(ə)n/ n. 滅絕，消亡；（債務的）償清；消光；
• scenario/səˈnærioʊ/ n. 設想，可能發生的情況 ；（電影、戲劇等的）劇情梗概；（藝術或文學作品中的）場景；
• ground-up/ɡraʊnd ʌp/ adj. 碾碎的；磨成粉的；
• rhino horn 犀牛角；
• debunk/diːˈbʌŋk/ vt. 揭穿…的真相，證明…是錯誤的；
• caveat/ˈkæviæt/ n. <正式>警告，限制性條款；<法律>預告登記（尤指遺囑檢驗中，非告知本人而不得進行某行為的通知）；
• clue/kluː/ n. 線索，提示；了解，想法；
• chop down 砍倒；砍下；
• rainforest /ˈreɪnfɔːrɪst/ n.（熱帶）雨林；
• palm oil 棕榈油；
• align with 與…一緻，與…保持一緻；
• scale up 擴大規模；按比例放大；按比例增加；
• computing infrastructure 計算基礎設施；
• pest/pest/ n. 害蟲，有害動物；
• nuisance /ˈnuːs(ə)ns/ n. 麻煩事，讨厭的人（或事物、情況）；損害，妨害；

素材來源

文本選自：The Guardian（衛報）

作者：Steve Rose

原文釋出時間：7 Jul. 2023

每日美句

Time heals all wounds.

時間會沖淡一切傷痛。