兩份新報告發現，歐洲極右翼政黨已使用人工智慧（AI）產生的圖像來支持政治訊息，但很難評估這些圖像可能如何影響最近的法國和歐洲選舉。
非營利組織AI Forensics 瀏覽了31 個法國政黨的社群媒體頁面，以確定他們是否可以在5 月1 日至6 月28 日、歐盟選舉和法國第一輪立法競選期間發現生成人工智慧(genAI) 內容。
然後，他們將這些圖像放入與人工智慧相關的搜尋引擎中，以驗證人工智慧工具是否創建了它們。
團隊總共發現了 51 個法國政黨使用產生人工智慧圖像的實例，其中極右翼國家集會 (RN)、收復失地運動和愛國者運動受到的影響最大，但研究人員表示，這是一個保守的估計。
AI Forensics 研究員 Salvatore Romano 告訴 Euronews Next：“這是第一個使用（生成）AI 的選舉週期，但我們確信在未來幾年它將越來越多地使用它。”
「如果我們現在無法在規模如此之小的情況下管理這一點……當技術與真實內容無法區分時，管理就會變得更加困難，」他補充道。
極右派的 RN 在上週日的法國第一輪選舉中以 33% 的選票脫穎而出，在 6 月的歐盟選舉中獲得了 31.5% 的選票。
AI內容出現的地方
人工智慧取證報告發現，法國政黨使用的大多數人工智慧產生的競選圖像「傳達了反移民、法國缺乏安全、缺乏言論自由、司法系統有缺陷和農業保護薄弱的訊息」。
人工智慧取證研究員 Miazia Schüler 補充道：“[這些圖像]被用作散佈恐懼的手段，表明法國在歐盟不安全，這在很大程度上傷害了我們社會中的弱勢群體。”
舒勒說，這些圖像通常看起來“超現實”，普通用戶可以清楚地看到它是由人工智慧渲染的。
其他的則很微妙，例如模仿報紙上的政治漫畫。
一些政黨，例如極右派的收復失地黨，也使用生成式人工智慧來創造法國總統馬克宏和歐盟委員會主席烏蘇拉·馮·德·萊恩的圖像。
根據大西洋理事會數位取證研究實驗室(DFRLabs) 的一項研究，在歐盟競選期間，RN 在選舉前創建了一個名為「沒有他們的歐洲」的網站，該網站同樣挑戰了馬克宏和馮德萊恩的領導地位。
他們的報告發現，該網站仍在運行，至少有三張人工智慧生成的圖像：顯示了針對「歐盟蔑視人民、大規模移民和推廣頭巾」的請願書。
“只是冰山一角”
大西洋理事會研究員 Valentin Chatelet 表示，「很難」知道這類人工智慧產生的內容對 RN 在歐盟和法國選舉中的成功有多大影響。
「我認為這對黨用來傳達特定想法的材料產生了積極影響，例如巴爾德拉在某個問題上的特定立場，」夏特萊說。
「（人工智慧生成的）圖像也被用來震驚人們……直到它們成為主流，」他補充道。
歐洲新聞台聯繫了全國集會（RN）、身份與民主團體、愛國者黨和收復失地政黨，但沒有收到回應。
根據法國廣播公司報道，自 2024 年 1 月起，RN 候選人就接受了人工智慧培訓，包括如何使用 ChatGPT廣播電台。根據廣播公司報道，在他們的培訓手冊中，它舉例說明了人工智慧如何幫助政治候選人，例如製作競選海報和尋找辯論論點。
AI Forensics 的研究和大西洋理事會的 DFRLabs 都沒有調查候選人的個人貼文或政黨粉絲群所創建的內容。
羅馬諾認為，他們的研究只是社群媒體平台上流傳的未標記人工智慧選舉內容數量的「冰山一角」。
科技公司對人工智慧使用的“嚴重疏忽”
人工智慧取證報告發現，人工智慧產生的圖像都沒有被標記為此類。
報告稱：“我們的調查結果表明，政黨和平台雙方都嚴重忽視了在政治競選活動中遵守對人工智能生成圖像進行標記的承諾，這凸顯了透明度的迫切需要。”
Google、OpenAI、Meta 和TikTok 等大型科技公司在2 月簽署了一項開放技術協議，該協議「為簽署者如何在歐洲選舉前在其平台上管理…欺騙性人工智慧選舉內容設定了預期」。
該協議的第一個承諾是平台將“（識別）真實的人工智慧生成的圖像和/或（證明）內容的真實性及其來源”，符合讀。
他們還承諾審查他們的模型，以「了解它們可能對欺騙性人工智慧內容帶來的風險」。
一些政黨簽署了自己的版本協定歐盟委員會表示，他們“致力於防止故意欺騙公眾，包括透過使用人工智慧”，其中一份副本寫道。
歐洲議會的身份與民主小組 (ID) 簽署了該行為準則，RN 是該小組的成員。其他法國國家政黨則沒有。
羅馬諾表示，AI Forensics 將向歐盟委員會發送報告，希望對違反這些行為準則的各方產生某種影響。
