聯合國機構警告稱,人工智慧(AI)的發展可能會助長否認大屠殺的浪潮。
聯合國教科文組織週二發布的一份報告表明,人工智慧系統可能會歪曲有關大屠殺的訊息,因為它們可以接受訓練來回答來自否認網站的有關大屠殺的問題。
報導稱,人工智慧已被用來「歪曲與大屠殺相關的內容,製造捏造的證詞,甚至篡改歷史記錄」。聯合國教科文組織也對深度偽造品發出警告,即表明大屠殺並未發生或被誇大的真實圖像或影片。
一款應用程式已經允許用戶直接與阿道夫·希特勒等著名納粹人物交談。
當生成式人工智慧模型無法獲得足夠的數據時,它們也會發明或「幻覺」事件、人物和歷史。
報告繼續說,Google的 Bard 和 ChatGPT 製作了有關「從未發生過」的大屠殺相關事件的內容。
ChatGPT 捏造了納粹將猶太人淹死在河流和湖泊中的概念,進行所謂的「溺水大屠殺」運動。另一方面,巴德從目擊者那裡產生了虛假的引述,以支持有關大屠殺的虛假敘述。
「如果我們允許透過不負責任地使用人工智慧來淡化、歪曲或偽造大屠殺的可怕事實,我們將面臨反猶太主義爆炸性蔓延的風險,以及我們對這些暴行的原因和後果的理解逐漸減弱的風險,」奧黛麗·阿祖萊聯合國教科文組織總幹事在報告附帶的聲明中表示。
聯合國教科文組織的報告呼籲科技公司製定人工智慧開發和使用的道德規則,減少不可靠資訊的機會,並防止不良行為者利用其計畫鼓勵暴力和傳播有關大屠殺的謊言。
該報告是與世界猶太人大會合作發布的。