安全研究人員創建了一種人工智慧 (AI) 蠕蟲，它可以滲透 ChatGPT 和 Gemini 等模型，傳播惡意軟體並可能竊取資料。
總部位於美國和以色列，研究者特意建構了電腦蠕蟲作為舉報人，以防止它們在生成人工智慧（GenAI）模型中發生。
電腦蠕蟲可以自我複製並透過危害其他機器傳播。與其他蠕蟲不同，該蠕蟲不需要您點擊或開啟電子郵件來接收惡意軟體，它會在您收到受感染的電子郵件時自動執行此操作。
他們將該蠕蟲稱為 Morris II，以紀念 1988 年開發的第一個電腦蠕蟲。
它是如何運作的？
研究人員創建了一個電子郵件系統，可以使用 GenAI 回覆訊息，然後插入 ChatGPT、Gemini 和 LLaVA 模型中。
Morris II 已針對 GenAI 支援的電子郵件助理進行了演示，可以竊取個人資料並發起垃圾郵件活動。
研究人員寫道：“研究表明，攻擊者可以將此類提示插入到輸入中，當 GenAI 模型處理這些提示時，會提示模型將輸入複製為輸出（複製）並參與惡意活動（有效負載）。”
這個提示是向人工智慧模型提出的任何問題或交流，迫使人工智慧模型用另一個提示進行回應，這可以感染人工智慧助手，然後提取敏感資訊。
然後，該蠕蟲可以被發送到線上網路中的其他聯絡人，“利用 GenAI 生態系統內的連接性”，他們補充道。
研究人員警告說，雖然尚未發現人工智慧蠕蟲，但這只是時間問題。
康乃爾大學電腦蠕蟲研究人員本‧納西(Ben Nassi) 在接受《連線》雜誌採訪時表示：「這基本上意味著，現在你有能力進行一種以前從未見過的新型網路攻擊。 」
這項研究令人擔憂，因為人工智慧助理已經進入智慧型設備甚至汽車中，並且可以代表某人發送電子郵件或預約。
在上個月發布的另一篇論文中，來自新加坡和中國的研究人員表明，他們可以輕鬆獲得大型語言模型（LLM）作業系統的 root 存取權。
