人工智慧與生物安全:為什麼科學家開始提出更嚴峻的問題
人工智慧已成為設計新藥和疫苗的一部分。以化學和蛋白質序列資料訓練的模型,能協助研究人員將數百萬種可能性縮小到少數值得在實驗室測試的選項。其效益確實存在:加快罕見疾病的研究、開發新型抗生素、更好的疫苗,以及能分解塑膠的酵素。
開發這些工具的一些科學家也在公開場合提出了一個更棘手的問題:如果相同的能力遭到濫用,會發生什麼事?這個問題通常稱為雙重用途風險,如今已是生物安全領域的主流議題,而非邊緣疑慮。
哪些人提出了這項議題
Sean Ekins 博士是一位藥理學家,他的公司運用機器學習尋找罕見疾病和傳染病的治療方法。他與人合著了一篇 2022 年刊登於《Nature Machine Intelligence》的論文,探討人工智慧驅動藥物探索的雙重用途潛力;該論文是為一場瑞士化學與生物武器管制會議撰寫。2023 年,他與同事在《原子科學家公報》撰文探討蛋白質設計模型,並將其形容為「生物學界的 ChatGPT」。
他的共同作者之一 Filippa Lentzos 博士是倫敦國王學院科學與國際安全領域的副教授。她主持世界衛生組織負責任使用生命科學與雙重用途研究技術諮詢小組,並列入聯合國調查涉嫌使用化學或生物武器事件的專家名冊。她的觀點著重於制度層面,而非技術層面:科學能力不會只留在開發它的團隊手中。論文會在世界各地被閱讀,軟體會被複製,而各種服務讓沒有建造相關工具的人也能使用實驗室作業。
為什麼偵測也是令人擔憂的部分
生物防禦很大程度上仰賴辨識。實驗室和篩檢系統會尋找已知的基因序列、毒素和化學特徵。有名稱的物質可以列入管制清單。這個領域的研究人員提出的疑慮是,只針對已編入目錄的項目進行搜尋,長期而言可能不像人們想像的那樣能有效防護;這也是世界衛生組織、各國人工智慧安全研究機構,以及開發這些模型的公司都開始探討防護措施的原因之一。
這對家庭來說意味著什麼,又不意味著什麼
這些都不代表即將發生攻擊,家庭也不必追蹤科學研究才能做出明智的決定。這場辯論確實顯示,生物與化學風險並非二十世紀已經翻過的一頁;醫學、安保和公共衛生領域的專業人士,都將其視為仍需正視的問題。
對一個家庭而言,實際的應對方式和面對任何空氣傳播危害時相同,而且值得在收到任何警告之前先做好準備:
- 了解避難地點,並做好準備。請參閱我們的安全室設置指南。
- 在家中備妥足以應付數天的飲用水、食物和藥物。
- 為每個人準備合身的面罩或頭罩,並備妥密封的備用濾罐:刮淨鬍鬚的成人可使用以色列 4A1,有鬍鬚或戴眼鏡者可使用Sapphire 頭罩;兒童則可使用動力頭罩或青少年口罩。
- 疫情爆發時,請遵循公共衛生指示;這比裝備重要得多。
我們的生物威脅與呼吸防護指南說明濾罐對病菌能做什麼、不能做什麼;Andy Weber 談生物防禦則介紹相關政策。
常見問題
AI 是否讓生物武器變得容易製造?
不會。製造和運送生物或化學武器仍然困難,而且受到嚴密監控。研究人員提出的疑慮,是風險的長期走向,而不是任何人今天就能做的事情。
誰負責管理這件事?
各國政府、WHO、軍備管制機構、國家 AI 安全研究所,以及與相關領域科學家合作開發這些模型的公司。
這些資訊會改變家庭應該購買的物品嗎?
不需要。同一套避難計畫、口罩和物資就能應對生物、化學與放射性危害。
關於本文:本文引用 Sean Ekins、Filippa Lentzos 及其同事在《Nature Machine Intelligence》(2022 年)與《Bulletin of the Atomic Scientists》(2023 年)發表的研究,以及 WHO 關於雙重用途研究的工作。這些研究人員與組織均與 CBRNMASKS.COM 無關聯,也未為該公司或其產品背書。本文的分析與建議由 CBRNMASKS.COM 創辦人 David Magen 提出。他曾任以色列國防軍訓練與準則部門戰鬥研究官,並曾任以色列國家緊急事務局後備軍官。
主要資料來源
- Fabio Urbina、Filippa Lentzos、Cédric Invernizzi、Sean Ekins —〈人工智慧藥物探索的雙重用途〉,《Nature Machine Intelligence》,2022 年 3 月
- Sean Ekins、Filippa Lentzos、Max Brackmann、Cédric Invernizzi —〈生物學也有「ChatGPT」:可能出什麼問題?〉,《Bulletin of the Atomic Scientists》,2023 年 3 月
- WHO —《生命科學與雙重用途研究的負責任使用》
- 英國人工智慧安全研究所 —《前沿 AI 趨勢 2025》
由 David Magen 提出分析與備災結論,他是 CBRNMASKS.COM 創辦人;曾任以色列國防軍訓練與準則部門戰鬥研究官;曾任以色列國家緊急事務局後備軍官。Sean Ekins、Filippa Lentzos、《Nature Machine Intelligence》、《Bulletin of the Atomic Scientists》及 WHO 均與 CBRNMASKS.COM 無關聯,也未為該公司或其產品背書。