諾埃爾馬丁 (Noelle Martin) 發現自己的色情照片在網路上流傳時年僅 18 歲。她不記得拍攝過親密照片，更不用說分享了。然而，那些照片中的那是她的臉——但身體卻不是她的。
她成為了後來被稱為「深度造假」的受害者。透過使用她在個人社交媒體帳戶上分享的圖像，色情圖片被修改為看起來像她。
「這是終身監禁，」馬丁告訴歐洲新聞台。 「它可以摧毀人們的生活、生計、就業能力、人際關係、戀愛關係。一旦有人成為攻擊目標，我們就無能為力」。
Deepfakes 是經過數位修改的影片或影像，用於描繪虛假場景中的某人。雖然 Deepfake 技術理論上可以用於更輕鬆、諷刺或善意的目的，但 2019 年 Deeptrace 實驗室報告發現線上 96% 的 Deepfake 內容都是未經同意的色情內容。
就在本週，紐約一名 22 歲男子被判刑因使用從社交媒體帳戶中拍攝的青少年照片發布前學校同學的深度偽造色情照片而被判處六個月監禁。
為正義而戰
早在 2013 年，當同樣的事情發生在她身上時，馬丁試圖透過報警並要求刪除這些照片來限制損失。然而，考慮到她居住的澳洲當時沒有禁止傳播親密圖像的法律，他們無能為力。
“即使你可以嘗試將內容刪除，如果你是這件事的受害者，你仍然需要追究責任人的責任。因為從公共網站、這些網站或任何地方刪除內容他們的託管只是其中的一個因素，”馬丁說。
「如果你不追究肇事者的責任，或者不追究任何負責人的責任，他們仍然可以繼續這樣做，」她補充道。
馬丁繼續從事法律職業，並花了數年時間推動澳洲立法禁止未經同意分享親密圖像。 2018 年，她的努力促成了新法律的出台，將傳播未經同意的親密圖像或「報復性色情」定為刑事犯罪。
馬丁現在是一名 28 歲的律師，也是西澳大利亞大學的法律研究員，在她自己的創傷經歷十年後，她仍然主張反對分享未經同意的性內容，尤其是那些使用 Deepfake 技術創建的內容。
她說：「作為倖存者社區，我們最終要做的就是推動制定法律，推動世界各國將這一問題定為刑事犯罪，推動基礎設施的發展，以確保受害者能夠尋求幫助。」 。
色情深度假貨的興起
深度偽造色情內容在網路上已經存在多年，然而，人工智慧 (AI) 最近的重大進步以及此類技術的日益普及，使得創建令人不安的現實且具有欺騙性的性內容變得更加容易。
當 Deepfake 首次出現時，背後的主要目標是製作以名人面孔為特色的色情影片。
「深度造假」一詞本身於 2017 年出現，當時社交平台 Reddit 上具有該別名的用戶因製作和分享斯嘉麗·約翰遜和泰勒·斯威夫特等女性名人的篡改色情影片而聞名。
最近，色情深度假貨在一月份成為頭條新聞，當時一位受歡迎的Twitch 主播布蘭登·尤因（網上暱稱“Atrioc”）在平台直播期間被發現在瀏覽器上打開了一個深度假貨色情網站。該網站展示了 Twitch 主播和朋友的經過篡改的圖像。
尤因後來含淚道歉，並暫停了他的串流媒體活動數週，而 Twitch 更新了社群指南，禁止在該平台上發布深度偽造色情內容。
尤因在道歉中表示，在一個熱門色情網站上看到深度偽造色情內容的廣告後，他感到“病態的好奇”，因此他點擊並付費觀看這些影片。
Twitch 女主播看到自己的名字被捲入了這場爭議，其中許多人表示，她們不知道網路上甚至存在此類內容。
據報道，Twitch 上的醜聞實際上導致了“deepfake Porn”、“porn deepfake”和“deepfakes”等短語的線上搜尋量激增。谷歌趨勢數據。
蘇菲康普頓，聯盟共同創辦人我的形象 我的選擇反對親密圖像濫用的組織表示，這場爭議顯示深度造假網站的使用者也是問題的一部分，也應該承擔責任。
「不僅僅是創作者，還有所有的用戶。這些都是普通男孩。這是我們學校的人，可能還有一些女性。但主要是男性。這是同學、朋友、兄弟、男朋友， 」康普頓告訴歐洲新聞台。
「他們可能沒有意識到他們的參與也是問題的一部分。它有助於驗證對女性極度、極度有害的東西」。
如何利用 Deepfake 對付受害者
雖然名人的色情深度假貨已經存在多年，但人工智慧的最新進展意味著今天幾乎任何人都可能成為此類內容的受害者。
該技術還可以用來抹黑或勒索人們，試圖壓製或破壞他們。
康普頓說：「似乎每個月都會出現一個新的深度偽造色情網站，這些網站正在發展成為商業化業務。」他補充說，這些網站的開放顯然不受懲罰。
「人們在某種程度上將自己打造成深度造假者，他們接受比特幣，接受 PayPal，他們有口號、標語和標誌」。
無論創作和分享色情深度假貨的動機是為了讓受害者難堪、誹謗或騷擾，還是只是為了賺錢，這些內容往往反映了一些男性的幻想，即使用露骨的圖像（無論是真實的還是虛假的）來貶低和物化女性。
馬丁告訴《歐洲新聞台》：“從目標人的角度來看，即使你能辨別出某些東西是假的，或者即使它不完全真實，但造成的損害仍然是無法彌補的。”
「如果你的深度偽造品被創建出來，即使你能看出來，人們仍然會將你所描繪的一切與你聯繫起來。你仍然可能被盜用。你的名譽、名字和形象仍然可能被拖入泥潭。
印度調查記者、《華盛頓郵報》撰稿人拉娜·阿尤布 (Rana Ayyub) 是一場抹黑運動的受害者，該運動利用她的色情深度假貨來試圖讓她保持沉默。
她在一篇文章中詳細描述了她的悲慘經歷柱子她解釋了身為穆斯林女性，直言不諱並被視為「反體制」如何讓她成為社群媒體上仇恨的目標。
然而，當她的一段假色情影片在網路上瘋傳時，她所習慣的網路虐待突然變得非常真實，讓她震驚得甚至無法面對家人。
「整個國家都在觀看一個自稱是我的色情視頻，但我就是無法讓自己做任何事情，」她回憶道。
「從影片發布那天起，我就不再是同一個人了。以前我很固執己見，現在我對自己在網上發布的內容更加謹慎。出於必要，我進行了相當多的自我審查，」她寫道。
「這是一個非常非常危險的工具，我不知道我們要把它帶到何處」。
有法律法規保護我們免受色情深度假貨的侵害嗎？
活動人士表示，目前透過製作深度假貨來公開羞辱一個人非常容易，而缺乏監管和問責制正在讓受害者失望。
康普頓說：“向製作這些表格的人傳達的信息是，沒有人會來抓你。你所做的事情並不違法，也不會產生任何後果。”
歐盟提出了處理有害線上內容的新法規，但這些法規尚未證明它們可以完全保護人們免受未經同意的色情深度假貨的侵害。
例如，人工智慧法案目前歐洲議會正在討論，要求創作者明確揭露內容何時被人為生成或操縱。但活動人士表示，一旦內容發布並永遠與受害者聯繫在一起，免責聲明就很難阻止深度偽造品的創造者，也很難為受害者伸張正義。
然而，另一項正在進行中的歐盟立法是關於基於性別的暴力的指令，於 2022 年提出。第 7b 條甚至特別提到了 Deepfakes。
科技公司和線上平台的作用
同時，受害者寄望於線上平台更新政策以打擊深度造假色情內容。
圖像生成工具 DALL-E 背後的公司 OpenAI 已經從其數據中刪除了露骨內容，並過濾了阻止創建名人和政客圖像的請求。
另一種受歡迎的人工智慧模式 Midjourney 會封鎖某些關鍵字，並鼓勵使用者向版主舉報有問題的圖像。
TikTok 還規定，深度偽造或操縱的內容必須被標記為偽造或更改，並禁止針對私人人物和年輕人的深度偽造。
在更新社群指南時，Twitch 警告稱，故意推廣、創作或分享深度假貨色情內容將立即被禁止。該公司在部落格文章中寫道，即使是瞥見此類內容——即使是為了表達憤怒——「也將被刪除並導致強制執行」。
同時，Meta、OnlyFans 和 Pornhub 都開始參與新的「Take It Down」工具，讓青少年從網路上舉報自己的露骨影像和影片。
「執法部門、政府、監管機構需要齊心協力來解決這個問題，因為如果我們只是讓世界各國獨立處理這個問題，他們只能做這麼多。這是一個全球性問題，需要全球性解決方案， 」馬丁說。
她補充說：「我還想說，無論何時做出有關此問題的決定，受害者和倖存者都需要參與討論，因為他們常常被排除在有關我們、為我們而做出的決定之外，但沒有我們的參與。
