正如歐盟在《人工智慧法案》中所經歷的那樣，在創新和風險之間找到平衡點需要時間。但凱文·艾斯維爾特和本·穆勒寫道，人工智慧驅動的生物恐怖主義的具體風險現在可以解決。
人工智慧監管已成為國家間競爭的領域。雖然歐盟剛就《人工智慧法案》達成協議，但美國先前已發布了影響深遠的人工智慧行政命令，英國則在人工智慧安全高峰會上召集了政界和產業領袖。
在許多此類討論中，一個風險正在受到更多關注：人工智慧輔助的生物恐怖主義，或個人透過使用人工智慧工具來獲取大流行病毒而造成災難的能力。
我們最近表明這是一個值得考慮的風險。在一項非正式實驗中，我們要求個人使用開源大語言模型，該模型已取消其保護措施，以幫助他們獲得能夠引起疫情的病原體。
在三個小時內，參與者確定了引發潛在災難性疫情爆發所需的許多步驟。
特別令人擔憂的是，模型建議參與者如何取得病毒 DNA（創造病原體的藍圖），同時避免現有的篩檢方法。目前的模型在多大程度上透過總結網路上已有的資訊來幫助生物恐怖主義，目前尚不清楚。
然而，撇開目前的能力不談，研究結果表明，在缺乏強有力的保障措施的情況下，更先進的未來模型可能會為惡意個人提供有關如何訪問、構建和釋放大流行病毒的簡化且可訪問的訊息。
對惡意行為者開放的技術
從頭開始構建病毒所需的DNA 構建體可以在線訂購：許多基因合成提供商將以不到200 歐元的價格製造出1000 個鹼基對的DNA 片段——就在幾十年前，這需要研究人員花費數千小時並獲得諾貝爾獎。
客製化基因合成的出現現已成為生物科學的支柱，使研究人員能夠快速迭代基於 mRNA 的疫苗和療法的設計，以及許多其他好處。然而，正如基因合成的進步帶來了新的發現和治療方法一樣，該技術也可能被惡意行為者濫用以獲取大流行病原體。
許多公司已採取重要步驟，篩選訂單以檢測危險病原體的 DNA。
但並非所有人都這樣做。基於語言的人工智慧模型已經可以建議個人如何識別和利用此類漏洞來獲取具有大流行能力的病原體的 DNA。
領先的人工智慧公司 Anthropic 的執行長最近警告美國立法者，兩年內，除非採取適當的防護措施，否則下一代人工智慧系統可能會引發大規模的生物恐怖主義，這也呼應了這一擔憂。
「人工智慧教父」之一約書亞·本吉奧也表達了類似的擔憂。當歐盟政策制定者考慮對人工智慧快速發展採取適當反應時，一個簡單的護欄值得更仔細的審查：篩選所有基因合成訂單中危險序列的法律要求。
提供DNA 合成服務的高度專業化公司不到100 家，這提供了理想的政策槓桿：如果歐盟要求公司根據已知流行病病原體的最新資料庫篩選所有訂單並實施「了解你的客戶」要求，那麼情況會很糟糕。
強制基因合成篩檢的案例
美國已經採取措施確保基因合成的安全。政府最近發布的人工智慧行政命令要求聯邦資助的實體遵循政府新的生物合成篩選指南。
歐盟本身尚未通過有關該問題的法規。鑑於大流行級別生物恐怖主義的風險日益增加，強制進行基因合成篩檢將是有意義的第一步。
代表超過 80% 的行業的提供者都讚成強制執行。其他人對基因合成篩選的潛在成本有合理的擔憂，並擔心潛在的智慧財產權問題，但即將發布的免費、保護隱私的篩選工具應該會緩解這個問題。
強制篩檢系統應符合幾個標準。訂單應進行加密以保護隱私，並進行專門檢測危險的篩檢，誤報率可以忽略不計，同時需要為授權實驗室提供一種方法，使其能夠毫不拖延地無縫獲取允許的 DNA 序列。
此外，所有篩檢系統都應根據危險序列資料庫來驗證訂單，該資料庫會立即更新，以檢測新發現的潛在大流行病原體，並強烈鼓勵使用由「紅隊」工作確定的最佳篩檢，以測試如何可以在不檢測的情況下獲得容易產生危險的序列。
最後，新的 DNA 合成和組裝設備，例如桌上型合成器，應包含符合上述標準的內建篩選功能。根據這些標準實施嚴格的篩選方案對於充分實現生物技術的深遠效益並確保其免受濫用至關重要。
捍衛生物學的承諾
生物技術和人工智慧的進步將推動生命科學和醫學的革命性進步。
客製化基因合成是這些顯著優勢的根本推動因素。但 SARS-CoV-2（一種歷史上溫和的大流行病毒）所造成的危害表明，它的濫用（由於生成人工智慧的進步而更有可能發生）所造成的危害可能會超過所有這些好處。
正如歐盟在《人工智慧法案》中所經歷的那樣，在促進創新和降低風險之間找到平衡點需要時間。
但行業領導者和生物安全專業人士都承認，人工智慧驅動的生物恐怖主義的具體風險現在可以解決。
透過強制進行基因合成篩檢，歐盟可以大幅降低這些風險，從而保障不斷進步的生物技術的前景。
凱文·艾斯維爾特 (Kevin Esvelt) 是麻省理工學院媒體實驗室的副教授，領導雕刻進化小組。他與他人共同創立了位於瑞士的非營利組織 SecureDNA 基金會。 Ben Mueller 是麻省理工學院的研究科學家和 SecureBio 的首席營運官，SecureBio 是一個致力於制定政策和技術以防範未來流行病的組織。
在歐洲新聞台，我們相信所有觀點都很重要。聯絡我們：查看@euronews.com發送推介或意見並參與對話。
