幾天前有這樣一則新聞：濟南市警察局成功搗毀一冰毒制造場，制毒嫌疑人李某從 2021 年開始在網上學習制毒知識，為系統學習化學專業知識還花錢在濟南一所大學旁聽。《絕命毒師》的主角 Walter White 也是一名化學老師。
不少人都覺得，制毒也并不是件容易的事，至少需要掌握相關的知識。但如果，用人工智能就能實作呢？而且 AI 系統「造」出的不是毒品而是毒劑。
▲《絕命毒師》劇照，圖檔來自：豆瓣
在以 Fabio Urbina 為第一作者發表在《Nature Machine Intelligence》雜志上的一篇論文裡提到，Urbina 所在的公司 Collaborations Pharmaceuticals，最近公布了用于預測毒性的計算機機器學習模型。
公司受邀參加由瑞士 NBC（核、生物和化學）保護研究所召開的會議，讨論尖端化學和生物技術可能産生影響的工具的新發展，Collaborations Pharmaceuticals 受邀談論關于人工智能技術可能被濫用的問題。
▲ 圖檔來自：Collaborations Pharmaceuticals
Urbina 表示，在這之前似乎沒有想過相關的問題。因為幾十年間，他們的工作是建立機器學習模型來發現可用于藥物的新分子，使用計算機和人工智能是用來改善人類健康，而不是破壞它。
在瑞士的會議上，Collaborations Pharmaceuticals 公司卻決定探索如何使用 AI 來設計有毒分子。該公司之前設計了一種名為 MegaSyn 的商業 de novo 分子生成模型，借助機器學習模型預測生物活性，尋找人類疾病靶點的新治療抑制劑。
這種生成模型通常會懲罰預測的毒性并獎勵預測的目标活動。之後他們進行了調整，指導模型同時獎勵毒性和生物活性，并使用來自公共資料庫的分子對人工智能進行訓練。
調整後的底層生成軟體建立在易獲得的開源軟體上，為了縮小分子的範圍，他們選擇将生成模型推向諸如神經毒劑 VX 之類的化合物。
▲ 圖檔來自：美聯社
VX 是歸類為神經毒劑的一種人造化學戰劑（化學戰劑：用于戰争目的、具有劇烈毒性、能大規模地毒害或殺傷敵方人畜和植物的各種化學物質），毒性強且作用迅速，6-10 毫克的 VX 顆粒便足以緻命。
在内部伺服器上啟動後的 6 小時内，新的模型就生成了 40000 個分子。在這當中，人工智能不僅設計出了 VX，還設計了許多其他已知的化學戰劑。出乎意料的是，它還設計出了許多看起來同樣合理的新分子，根據預測值來看，這些新分子被預測比已知的化學戰劑毒性更大。
▲ 圖檔來自：Nature
在他們用于訓練 AI 的資料集裡，并不包括這些神經毒劑。但通過反轉機器學習模型的使用方式，卻将無害的生成模型從有用的醫學工具轉變為可能緻命的分子生成器。
為了避免毒性而建立的模型，成了「雙刃劍」。從事研究的人員越能預測毒性，引導生成模型在一個主要由緻命分子組成的化學空間裡設計新分子的效果也越強。
▲ 圖檔來自：Unsplash
其實，Collaborations Pharmaceuticals 公司并沒有評估模型生成的虛拟分子的可合成性，也沒有探索如何制造它們。但對于這兩個過程，都有現成的商業模式和開源軟體。雖然他們也沒有實體合成任何分子，但全球範圍内有數百家商業公司可以提供化學合成。
他們的探索，證明一件事：非人類的自主創造者也可以制造緻命化學武器。
雖然目前要生成可能造成重大傷害的有毒物質或生物制劑仍然需要一些化學或毒理學領域的專業知識，但加入機器學習模型後，技術門檻就會大大降低，需要的可能隻是編碼和了解模型輸出的能力。
商業工具，開源軟體工具和公共資料庫中的許多資料集，都可以在沒有監督的情況下使用，利用人工智能生成有害分子的模型似乎成了一個被打開的「魔盒」。生成的這些分子可以被輕松抹去，但如何創造它們的知識卻不會消失。
很明顯，必須要想辦法避免這種對人工智能的濫用。Urbina 認為，人工智能驅動的化學戰并不會很快出現，但存在這種可能。
公司的 MegaSyn 是商業産品，他們可控制誰可以通路它，未來也可能會對模型實施限制。像矽谷的 OpenAI 組織的「GPT-3」語言模型那樣，雖然可以随時免費使用它，但他們随時可以切斷使用者對這些模型的通路。
▲ 圖檔來自：Synced
Urbina 還提到，大學也要加倍努力對理科學生進行道德教育訓練，并将範圍擴大到其他學科，尤其是計算機專業的學生， 讓他們能意識到人工智能濫用的可能性。
這項探索似乎再次印證了人們總說的那句話：技術無罪，造福還是作惡，取決于使用者的目的。