天天看點

硬核觀察 | 硬核觀察 #1058 OpenAI 拿出五分之一的算力來防止人工智能“叛變”

作者:硬核老王
硬核觀察 | 硬核觀察 #1058 OpenAI 拿出五分之一的算力來防止人工智能“叛變”
硬核觀察 | 硬核觀察 #1058 OpenAI 拿出五分之一的算力來防止人工智能“叛變”

OpenAI 拿出五分之一的算力來防止人工智能“叛變”

OpenAI 認為,能夠超越人類智慧并壓倒人類的計算機系統可能會在這個十年内被開發出來,“但超級智能的巨大力量也可能非常危險,可能導緻人類喪失能力,甚至人類滅絕。”OpenAI 的既定目标一直是安全地開發人工通用智能,但這項技術目前還不存在。OpenAI 希望建立一個人工智能系統在不明确依賴人類的情況下,使其他機器與人類的價值觀保持一緻。為此,他們打算拿出 20% 的處理能力,并成立一個由其首席科學家上司的新部門,以某種方式防止未來機器危害人類。其設定的目标是在四年内解決人工智能和人類行為對齊的問題。

消息來源:The Register
老王點評:那如何防止監管人工智能的人工智能叛變或合謀呢?從本質上來說,除非人工智能也具有自限性,就像大自然中的很多物種一樣,能夠和人類和其它生物形成共存條件,否則人工智能最終将是無法控制的。在這方面,我是悲觀主義者。
硬核觀察 | 硬核觀察 #1058 OpenAI 拿出五分之一的算力來防止人工智能“叛變”

Meta 向 Python 提議可選全局解釋器鎖功能

CPython 的全局解釋器鎖(GIL)阻止了多線程同時執行代碼,這事實上阻礙了在多核 CPU 上提高 Python 代碼的運作效率。Meta 正緻力于推動 Python 項目采納 PEP 703 提案,該提案将使全局解釋器鎖成為可選,并加入了必要的更改以確定解釋器線程安全。Meta 還承諾,如果 PEP 703 提案被接受,它将在 2025 年前投入三個工程師年的人力,與核心團隊合作去實作 PEP 703。

消息來源:Solidot
老王點評:Python 如果要想進一步發展,那麼打破原有的一些制約是必經之路,否則就會像其它語言一樣,逐漸老化。比如 Perl。
硬核觀察 | 硬核觀察 #1058 OpenAI 拿出五分之一的算力來防止人工智能“叛變”

谷歌建議為人工智能更新 robots.txt 檔案

人工智能公司大量使用了從網際網路上刮取的内容進行訓練,而很多内容是受版權保護的。谷歌建議網絡和人工智能社群來讨論改進 robots.txt 标準,以應對人工智能刮取内容的需要。robots.txt 是一個由社群開發的網絡标準,它誕生于近 30 年前,已被證明是網絡釋出者控制搜尋引擎抓取其内容的一種簡單而透明的方式。但 robots.txt 并不具有法律限制力,隻是一種善意的訓示。

消息來源:Slashdot
老王點評:雖然不具備法律效力,但是至少為人工智能抓取制定了一個行為準則和法律底線。

繼續閱讀