AI 生物武器警告：當藥物探索學會設計毒物

編輯披露：本文主要根據：Fabio Urbina、Filippa Lentzos、Cédric Invernizzi 和 Sean Ekins，《人工智慧驅動藥物發現的雙重用途》，《自然機器智能》，2022 年 3 月；以及 Sean Ekins、Filippa Lentzos、Max Brackmann 和 Cédric Invernizzi，《生物學也有一個「ChatGPT」。可能出什麼問題？》，《原子科學家公報》，2023 年 3 月。文中討論的實驗產生的是電腦預測的分子候選物 - 並未合成、驗證或部署實體化學製劑。本文並未聲稱特定的人工智慧化學或生物攻擊即將發生。文中引用的研究人員並未認可 CBRNMASKS.COM 或本文所述的任何產品。分析、準備工作結論與產品建議均由 David Magen 個人提出。

「最令人害怕的部分，不是人工智慧違抗了創造者，而是它完全按照他們的要求行事。」

這套軟體原本是為了拯救生命而建立。它的用途對任何從事現代藥物發現的人而言都很熟悉：搜尋人類團隊永遠無法逐一檢視的龐大分子可能性，排除危險候選物，並找出可能成為藥物的化合物。毒性是敵人。接著，為準備一場國際安全會議，研究人員詢問：如果將目標反轉，會發生什麼事？

他們並未建立新的武器實驗室。在一項受控的計算演習中，他們將一套原本為有益製藥研究而開發的系統，轉向相反的目標。在不到六小時內，模型產生了約 40,000 個符合研究人員毒性門檻的候選分子 - 其中包括已知化學戰劑，以及模型預測為高度有毒、先前未列出的結構。沒有任何物質被合成。沒有實體武器被製造出來。但這次篩選已發出警告：一套原本用於保護患者免受有毒藥物傷害的工具，竟能輕易地被指向毒性。

最好將本分析與針對生物威脅的平民呼吸防護以及人工智慧、無人機與合成生物學所構成的大規模殺傷性武器威脅一併閱讀。這些內容共同將威脅概況與其作戰及平民準備工作的影響連結起來。

畢生尋找藥物的科學家

Sean Ekins 博士是一名藥理學家、計算毒理學家，也是 Collaborations Pharmaceuticals 的創辦人 - 該公司運用機器學習進行藥物發現、罕見疾病與傳染病研究。他的專業工作包括研究伊波拉病毒等疾病及罕見兒科疾病的潛在治療方法。正是這種背景，讓這項實驗更具震撼力。危險並非源自某個惡意實驗室建立了明顯陰險的程式，而是源自一個旨在讓製藥研究更快、更安全的合法科學平台。團隊花了多年時間教導電腦預測某個分子是否可能有用、是否能抵達生物靶點，以及是否可能傷害患者。在瑞士的 Spiez Convergence 會議上 - 研究人員、軍備控制專家與安全官員於會中檢視新技術可能如何影響化學與生物武器管制 - 這項邀請迫使 Ekins 與同事從潛在濫用者的角度重新審視自己的軟體。他們的體會是：任何能夠最佳化有益特性的系統，在目標改變後，也可能具備最佳化有害特性的能力。

安全功能同時也是一張地圖

藥物開發者需要毒性模型，以便在昂貴的實驗室與臨床工作開始前識別危險分子。這表示，一個能力足夠強大的模型不只是標示危險 - 它還會學習與危險相關的模式。受訓以識別有毒化學結構的系統，可以協助科學家避開這些結構。同樣的知識也可能揭示化學空間中毒性區域所在的位置。研究人員並未聲稱模型產生了 40,000 種可立即使用的化學武器。電腦上的分子結構並不是可部署的製劑。現實世界的濫用仍需要化學技術、採購、合成、純化、處理、測試與投放 - 每一個環節都會形成障礙，也提供被偵測的機會。然而，這些障礙並非自然法則所永久規定。自動化、委託合成、機器人實驗室與更優秀的科學助理，可能會隨時間降低其中一些障礙。令人擔憂的並不是某個人工智慧輸出會立即變成武器。而是抵達危險候選物所需的時間、專業知識與搜尋工作量，可能會持續下降。

接著，生物學也有了自己的語言模型

2023 年，Ekins 與生物安全學者 Filippa Lentzos 博士，以及瑞士軍備控制專家 Maximilian Brackmann 和 Cédric Invernizzi 合作，研究他們所稱的「生物學 ChatGPT」。蛋白質語言模型會從大量胺基酸序列中學習模式 - 蛋白質就是由這種生物學字母表構成。以數千萬甚至數億條蛋白質序列訓練的人工智慧系統，可以在幾秒內提出新的序列。研究人員已運用這類模型產生蛋白質，之後加以製造並證實其功能。其有益的可能性極為驚人：人工智慧設計的蛋白質或許能協助製造藥物、疫苗、酵素，以及分解污染物的工具。但作者警告，蛋白質設計包含與藥物發現相同的雙重用途反轉 - 而且不確定性可能更高。

沒有任何監控清單能識別的毒素

傳統生物防禦部分依賴辨識 - 實驗室會尋找已知基因序列、已知毒素、已知化學特徵，以及結構與功能之間已知的關聯。作者以蓖麻毒素作為概念性例子。偵測系統可能會搜尋與已知毒素相關、容易辨識的序列或結構特徵。未來的蛋白質設計系統可能在保留有害生物功能的同時，改變周圍的大部分序列或結構。對於那些旨在辨識已編入目錄之物的系統而言，所產生的分子可能看起來並不熟悉。已知毒素可以列入管制清單。新的分子可能甚至還沒有名稱。

站在科學與安全邊界上的 Filippa Lentzos 博士

Filippa Lentzos 博士是倫敦國王學院戰爭研究系的科學與國際安全副教授，並在斯德哥爾摩國際和平研究所及 James Martin 防止核擴散研究中心擔任職務。她主持世界衛生組織生命科學與雙重用途研究負責任使用技術諮詢小組，並擔任聯合國用於調查涉嫌使用化學或生物武器事件之機制的名冊專家。她的工作提出了一個科學機構經常延後面對的問題：不只是這項研究能否完成 - 而是當能力離開原始團隊的掌握後，可能會如何被使用？軟體可以被複製。研究論文會在全球流傳。模型可以被改造。商業服務讓未曾建立底層工具的人也能取得合成與測試服務。科學家可以控制一次實驗的目的，但機器能在幾秒內產生各種可能性。

人工智慧風險對平民準備工作的意義

人工智慧生物安全疑慮不要求家庭了解蛋白質折疊或機器學習架構，而是要求人們理解一個簡單事實：從科學能力到危險應用之間的時間可能正在縮短，而能夠取得這種能力的人數可能正在增加。這不代表攻擊即將發生，而是意味著每當技術門檻逐步降低，準備工作的理由就更加充分。家庭在警報響起前做好準備，不需要猜測是哪個人工智慧系統、哪種病原體或哪座城市 - 只需要適用於每位家庭成員的有效裝備，存放在可取得的位置，並配合能夠迅速使用的訓練。

建立實用的家庭呼吸防護套件

成人：以色列 4A1 Black Diamond Simplex - 真正的以色列全罩式民防面具，配備全景視 visor、飲水管與標準 40mm 濾罐接口。適合有鬍鬚使用者：以色列 Sapphire PAPR 防護頭罩。

兒童，2-8 歲：MAMTAK / Quartz 兒童 PAPR 防護頭罩 - 適合年幼兒童使用的動力透明頭罩，讓無法可靠使用傳統密合式面具的兒童也能獲得防護。

嬰兒與幼兒，0-2 歲：Multipro 嬰幼兒防護系統。

兒童，8-14 歲：以色列 10A1 兒童防毒面具。

濾罐：以色列 PA-12 與 M80 Type 80 40mm CBRN/NBC 濾罐。機器可以在幾秒內產生各種可能性。家庭仍需要時間決定哪一款適合成人、哪一款適合兒童、有鬍鬚的使用者能佩戴哪一款，以及電池和濾罐存放在哪裡。警報響起後，這些工作無法自動完成。完成這些準備工作的最佳時機，是軟體仍被用於尋找治療方法之時。

探索以色列 CBRN 家庭套裝，或瀏覽 CBRNMASKS.COM 的完整產品系列。

保護您的家人

成人使用 4A1，有鬍鬚者使用 Sapphire，2-8 歲使用 MAMTAK / Quartz，嬰幼兒使用 Multipro。每副面具均配備密封式 40mm 濾罐。以色列 CBRN 家庭套裝，適合完整家庭。CBRNMASKS.COM - 以色列民防裝備，自 2009 年起提供服務。

主要來源

分析與準備工作結論由 David Magen 提出 - 前以色列國防軍作戰局條令與訓練處戰鬥調查官；前國家緊急事務管理局參謀官，負責地方當局連續運作規劃，涵蓋海法地區。自 2009 年起擔任 CBRNMASKS.COM 創辦人。Sean Ekins、Filippa Lentzos、《自然機器智能》、《原子科學家公報》與世界衛生組織均與 CBRNMASKS.COM 沒有關聯，也未認可該公司或其產品。

返回網誌