土耳其網路用戶驚訝地發現，總統雷傑普·塔伊普·艾爾多安在周日選舉中的主要挑戰者凱末爾·基利奇達羅格魯在兩週前發佈在網路上的影片中說著一口流利的英語。
“我的掌上明珠也會說英語。我向你爺爺保證，我們會讓你成為總統，」一位 Twitter 用戶評論道，並分享了這位 74 歲候選人的影片。但兩天后，土耳其獨立事實查核網站 Teyit 透露該影片是捏造的。
Teyit（土耳其語的意思是「確認」）表示，人工智慧生成的影片無意愚弄任何人，最初發佈時附帶了免責聲明。
「我不斷嘗試人工智慧以了解新功能。我在 AI 上創建了 Kemal Kilicdaroglu 的聲音，並將其用於他的競選演講的英文版本。@ytc06，他是第一個在影片瘋傳之前與他的 11 名粉絲分享該影片的 Twitter 用戶。
深度造假專家亨利‧阿傑德 (Henry Ajder) 表示，最近人工智慧工具的普及正在助長此類情況。
「當一些旨在諷刺的東西被斷章取義時，它可能會被誤認為是真實的，特別是當你與有一定偏見的觀眾交談時，」他告訴歐洲新聞台。
「名人和政客尤其面臨風險，因為他們經常對著鏡頭講話、保持靜止、直視鏡頭。與他們四處走動並且個人資料發生變化相比，這是一種更容易操縱的視頻形式，」他解釋道。
深度假貨充斥社群媒體
同一天，他說英語的經過修改的影片被發布——主要為他贏得了支持者——基利奇達羅格魯警告他的社交媒體追隨者可能會幹擾選舉。
他對政府官員說：“孩子們，玩劍橋分析超出了你們的能力範圍”在推特上，指未經授權使用個人資料並在社群媒體上進行有針對性的競選活動，以左右 2016 年美國總統大選。
即將舉行的土耳其總統和議會投票可能會結束艾爾段20年的統治，改變該國的政治格局。這也是首次涉及此類先進人工智慧的重大選舉之一。
阿傑德說：“如果你能用一種敘述在大型網絡和不真實的帳戶上充斥複雜且非常人性化的言論，那麼這顯然可以在佔領一個領域方面發揮作用。”
這正是土耳其網路使用者一直試圖實現的目標。在過去的幾個月裡，Teyit 一直在與一波被篡改的內容作鬥爭，並揭穿了超過 150 個與選舉有關的有爭議的主張,光是 5 月 10 日就有 8 個。
土耳其人工智慧專家傑姆‧薩伊(Cem Say) 告訴《歐洲新聞台》：「很容易辨識出這類內容是假的，但對於那些不再批判性思考的人來說，就不是這樣了。 」
大多數土耳其人在埃爾多安和基利奇達羅格魯之間存在兩極分化，目前的民意調查預測，極度接近的比賽兩位候選人之間。
現任總統的正義與發展黨（AKP）多次對其競爭對手進行攻擊，最近一次是在5 月7 日伊斯坦布爾舉行的最大集會上，當時大屏幕上播放了基利奇達羅格魯競選視頻的未經公開編輯的內容。
Deepfake 版本中加入了庫德工人黨(PKK) 領導人穆拉特·卡拉伊蘭(Murat Karayılan) 與反對派的競選歌曲一起鼓掌的內容，庫德工人黨(PKK) 被其他幾個國家和歐盟列為恐怖組織，而歌詞“來吧，讓我們都去投票吧”揚聲器大聲喊道。
在社交媒體上分享的一段影片中，艾爾段向參加集會的大約 170 萬支持者詢問“我的國民和當地同胞會投票給這些人嗎？”然後添加：“看看這個，這真的很重要！”。
另一位總統候選人穆哈雷姆·因斯 (Muharrem Ince) 週四退出競選，因為他聲稱自己的性愛錄像是深度偽造的。
這位中左翼、世俗和民族主義祖國黨的創始人和領導人是艾爾段在 2018 年選舉中的主要挑戰者，他表示，他在今年的競選過程中遭受了「人格暗殺」。
因斯在他的演講中說：“我在過去 45 天裡看到的一切，是我在過去 45 年裡從未遇到過的。”辭職演講。
「假影片、假圖片……他們把我的臉放在從以色列色情網站上拍攝的影片上，」他補充道，並指責該國的記者和檢察官沒有保護他免受「誹謗的憤怒」。
薩伊等專家擔心會採取更具侵略性的最後一刻策略。他說：「深度造假可能會在選舉日被使用，其動機是阻止人們去投票或影響他們的決定。」他補充說，這將「沒有時間進行驗證」。
可以做什麼？
隨著人工智慧的進步沒有放緩的跡象，揭穿專家正在與人工智慧內容生成器展開競爭。就像在土耳其一樣，官方消息來源創建的深度偽造品已經開始進入美國的政治舞台。
在總統喬·拜登宣布競選連任後，反對派共和黨全國委員會發布了一段人工智能設計的視頻，描繪了拜登第二任期內的反烏托邦未來。專家已經警告深度偽造品將成為其中之一2024 年美國總統大選的主要挑戰。
「目前檢測方面的情況有點令人沮喪，」阿傑德說。據他說，證明內容來源的工具很有前途，但存在創建媒體層次結構的風險：如果真實內容沒有得到認證，「人們可以在方便的時候將其視為虛假內容，」他解釋道。他的建議是堅持使用知名且可以進行事實查核的媒體來源。
這在土耳其是非常棘手的，在那裡90%的國內媒體處於政府控制之下據新聞自由組織無國界記者組織。這 - 結合2022 年 10 月旨在限制「虛假資訊」的法律——意味著很少有媒體真正報道土耳其的深度造假事件。
土耳其政府通訊社阿納多盧通訊社被指控暫緩 2019 年伊斯坦堡市長選舉結果反對黨獲勝，本月，歐安組織選舉觀察團的報告對該國媒體監管機構 RTÜK 的公正性表示擔憂。
就在全國即將舉行大選的幾天前，土耳其獨立媒體 140journos 的選舉後系列節目可能是最擅長想像接下來會發生什麼的系列節目 - 再次在人工智慧的幫助下。該書於 3 月發布，使用人工智慧圖像生成器 Midjourney 和人工智慧文字產生器 ChatGPT，為土耳其的未來提供了兩種敘述。
第一個故事描繪了戰敗且剛退休的艾爾段。 「一開始，有點困難。然而，隨著時間的推移，我抓住了機會花更多的時間與家人在一起，更接近自然，花更多的時間陪伴自己。照片說明了這篇貼文。
在另一種敘述中，艾爾段從未放棄權力，土耳其已成為旨在「建立普遍和平」的星際大戰式帝國。
對於「取得這項成功的最大挑戰是什麼？」這個問題，模仿艾爾段的人工智慧回答說：「我們最大的挑戰之一是跟上世界和宇宙的新秩序，並密切關注技術發展並不斷適應它們」——這是對所有政客現在面臨的人工智慧挑戰的認可。
