一項分析發現，與 2019 年相比，今年在網路上發現的 Deepfake 影片數量增加了 550%，其中絕大多數是 Deepfake 色情影片。
生成人工智慧 (AI) 等新技術的興起導致深度偽造內容的創作大幅增加，這些內容是經過數位更改或生成的內容，旨在透過視訊、圖像或音訊來描繪真人或場景。
深度偽造色情內容的受害者描述了在這些虛構的場景中描繪自己的人如何毀掉他們的生活，有人稱其為「終身監禁」。
Deepfake 內容是透過機器學習演算法創建的，可以產生超現實的內容。壞人可以利用這一點來瞄準受害者、勒索他人，或作為犯罪或政治操縱的一種形式。
2023 年深度偽造的綜合報告發現，深度偽造色情內容佔網路上發現的所有深度偽造影片的 98%，而深度偽造色情內容的受害者中 99% 是女性。
一個旨在保護人們免受線上身分詐欺的網站（名為 homesecurityheroes.com）的分析師研究了 95,820 個 Deepfake 影片、85 個專用線上頻道以及 100 多個與 Deepfake 生態系統相關的網站，得出了其2023 年 Deepfakes 現況報告。
該報告的主要發現之一是，現在只需不到 25 分鐘，並且無需任何成本，就可以使用受害者的單一清晰面部圖像來創建任何人的一分鐘長的深度偽造色情視頻。
該網站分析的大多數深度偽造色情影片都是韓國女性的。繼韓國之後，深度造假色情受害者最多的國家是美國、日本和英國。
深度偽造色情片在韓國盛行
韓國是迄今為止深度偽造色情內容受害者最多的國家，報告分析師將其歸因於韓國流行音樂在全球的流行。 Blackpink 被視為韓國最大的女子流行樂隊，四位成員中的三人位列最受攻擊的前 10 名。
該報告的研究分析主管 Chris Nguyen 解釋說：“韓國流行偶像在韓國國內和國際上都以其廣泛的知名度和粉絲追隨者而聞名。” 「他們的公眾形象和廣泛的粉絲基礎意味著涉及他們的深度偽造色情內容的創作和傳播更有可能吸引更多受眾。
Nguyen 表示，除了知名度高之外，人們對韓國流行偶像內容的需求也「異常高」。 “有些人通過創建明確的深度偽造內容來利用這種需求，特別是在專門的成人網站上，旨在吸引註意力並產生更多流量。”
他還指出，韓國對色情內容的嚴格監管可能在推動此類內容的創作和傳播方面發揮了作用。
「這可能與『史翠珊效應』有關，這是試圖隱藏、刪除或審查資訊的意外結果。在這種情況下，結果會適得其反，因為它實際上增強了人們對該信息的認識和興趣。
Deepfakes在網路上傳播
在研究 Deepfake 色情內容的流行程度時，分析師發現，訪問量最大的十大色情網站中有 7 個包含 Deepfake 內容。
十大專門的深度造假色情網站的影片觀看次數超過 3.03 億次，分析師表示，這表明此類內容正在變得多麼普遍和流行。
他們呼籲圍繞對此類內容的態度進行對話，重點關注創建此內容的道德考慮。
研究人員將深度偽造內容的突然增加歸因於兩件事。首先，一種用於生成人工智慧的機器學習框架——生成對抗網路（GAN）的出現，為創建深度偽造內容提供了技術手段。
其次，輕鬆存取基於 GAN 構建的工具意味著幾乎任何人都可以快速、廉價地創建深度偽造內容。
報告解釋說：“這些平台提供了一系列功能，從簡單的面部交換到更複雜的視頻操作。”作者補充說，致力於深度偽造創作的線上社群的發展「促進了協作、知識共享和開源專案的開發」。
