一段模仿美國副總統卡馬拉·哈里斯聲音的經過篡改的影片引發了人們對人工智慧 (AI) 在選舉期間誤導的能力的擔憂。
週五晚上，特斯拉和 SpaceX 首席執行官埃隆馬斯克在他的社交媒體平台 X 上分享了該視頻，但沒有指出該視頻最初是作為模仿發布的，該視頻引起了人們的關注。
此後，馬斯克轉發了該視頻，包括原始用戶的標題，指出這是一個模仿，並補充說“模仿在美國是合法的”。
該影片使用了真實的哈里斯總統競選廣告的視覺效果，但用模仿可能的民主黨總統候選人的畫外音替換了她的畫外音。
哈里斯競選發言人米婭·埃倫伯格在給美聯社的一封電子郵件中表示：「我們相信美國人民想要副總統哈里斯提供的真正的自由、機會和安全；而不是伊隆馬斯克和唐納德川普的虛假、被操縱的謊言」。
這段被廣泛分享的影片是一個例子，展示了人工智慧產生的內容變得更容易製作，如何在選舉中模仿或誤導政治。
有網友質疑馬斯克的貼文是否涉嫌違規X的政策，其中表示用戶「不得分享可能欺騙或迷惑人們並導致傷害的合成的、操縱的或斷章取義的媒體」。
該政策對迷因和諷刺有例外，只要它們不會造成「對媒體真實性的嚴重混淆」。
馬斯克在該影片的第一篇貼文中沒有明確指出這是一個模仿，只是在影片中加上了「這太棒了」的字樣。
這位科技億萬富翁本月稍早支持了共和黨提名的前總統川普。
週日，發布該影片的 YouTuber（即雷根先生）和馬斯克都沒有立即回覆透過電子郵件發送的置評請求。
“我們一直在警告這種事情”
兩位專門研究人工智慧生成媒體的專家審查了虛假廣告的音頻，並確認其中大部分是使用人工智慧技術生成的。
其中一位加州大學柏克萊分校的數位鑑識專家 Hany Farid 表示，該影片展示了生成式人工智慧和深度造假的力量。
「人工智慧生成的聲音非常好，」他在一封電子郵件中說。 “儘管大多數人不會相信這是哈里斯副總統的聲音，但當影片中的話語出現在她的聲音中時，它的力量就更加強大。”
他表示，向公眾提供語音克隆工具和其他人工智慧工具的生成人工智慧公司應該更好地確保他們的服務不會以可能損害人民或民主的方式使用。
倡導組織「公共公民」的聯合主席羅布·韋斯曼（Rob Weissman）不同意法里德的觀點，稱他認為很多人會被這段影片愚弄。
「我認為這顯然不是一個笑話，」韋斯曼在接受採訪時說道。 「我確信大多數看到它的人都不會認為這是一個笑話。品質不是很好，但也夠好了。正是因為它融入了她周圍早已存在的主題，所以大多數人都會相信它是真實的。
韋斯曼的組織一直倡導國會、聯邦機構和各州對生成型人工智慧進行監管，他表示這段影片是「我們一直在警告的事情」。
