一家監管機構週二警告說，如果不採取措施對生成深度偽造照片的人工智慧工具進行控制，網路上兒童性虐待圖片的擴散已經令人擔憂，情況可能會變得更加嚴重。
總部位於英國的網路觀察基金會 (IWF) 在一份書面報告中敦促各國政府和技術供應商迅速採取行動，以免人工智慧產生的大量兒童性虐待圖像淹沒執法調查人員並大幅擴大潛在受害者群體。
「我們並不是在談論它可能造成的危害，」該監管機構首席技術長 Dan Sexton 表示。
「這種情況現在正在發生，需要立即解決」。
IWF 在一個月內調查了暗網論壇上分享的 11,000 多張圖片。其中，超過 2,500 幅描繪了虐待兒童的畫面，五分之一的畫面被歸類為 A 類，這意味著它們描繪了最嚴重的虐待行為。
據韓國東南部釜山地方法院稱，在韓國首例此類案件中，一名男子因使用人工智慧創建 360 個虛擬虐待兒童圖像，於 9 月被判處兩年半監禁。
在某些情況下，孩子會互相使用這些工具。
西班牙西南部一所學校警方正在調查青少年涉嫌使用手機應用程式讓他們盛裝打扮的同學在照片中出現裸體。
對暗網論壇的調查
報告揭露了種族的陰暗面建立生成式人工智慧系統，使用戶能夠用文字描述他們想要生成的內容（從電子郵件到新穎的藝術品或影片），並讓系統將其吐出。
如果不加以製止，大量的深度偽造兒童性虐待影像可能會讓調查人員在營救虛擬角色的兒童時陷入困境。犯罪者也可以利用這些圖像來培養和脅迫新的受害者。
塞克斯頓說，IWF 分析師在網路上發現了著名兒童的面孔，以及「對創作更多可能在幾年前就已經遭受虐待的兒童的圖像的巨大需求」。
「他們正在利用現有的真實內容並利用它來創建有關這些受害者的新內容，」他說。 “這真是令人難以置信的震驚。”
塞克斯頓表示，他的慈善組織專注於打擊網路兒童性虐待，今年稍早首次開始收到有關人工智慧產生的虐待圖像的報告。
這導致了對所謂暗網論壇的調查，暗網是互聯網的一部分，託管在加密網絡中，只能透過提供匿名的工具來存取。
IWF 分析師發現，施虐者分享技巧，並驚訝於將他們的家用電腦變成工廠來產生各年齡層兒童的露骨色情圖像是多麼容易。
有些人還會進行交易並試圖從這些看起來越來越逼真的圖像中獲利。
「我們開始看到內容的爆炸式增長，」塞克斯頓說。
雖然 IWF 的報告旨在指出一個日益嚴重的問題，而不是提供處方，但它敦促各國政府加強法律，以便更容易打擊人工智慧產生的濫用行為。
它特別針對歐盟，那裡對監視措施存在爭議，這些監視措施可以自動掃描訊息應用程式以查找可疑的兒童性虐待圖像，即使執法部門之前並不知道這些圖像。
該組織工作的一大重點是防止以前的性虐待受害者透過重新傳播他們的照片再次受到虐待。
呼籲加強監管
報告稱，技術提供者可以採取更多措施，讓他們開發的產品更難以以這種方式使用，儘管有些工具很難放回瓶子，這讓情況變得複雜。
去年推出了一系列新型人工智慧影像產生器，它們能夠根據指令召喚出異想天開或逼真的影像，令大眾驚嘆不已。但其中大多數不受兒童性虐待材料製作者的青睞，因為它們包含阻止它的機制。
Sexton 表示，擁有封閉式 AI 模型、能夠完全控制其訓練和使用方式的技術提供者（例如 OpenAI 的圖像生成器 DALL-E）似乎在阻止濫用方面更加成功。
相較之下，受兒童性虐待圖像製作者青睞的工具是由倫敦新創公司 Stability AI 開發的開源 Stable Diffusion。
當 Stable Diffusion 在 2022 年夏天突然出現時，一部分用戶很快就學會瞭如何使用它來產生裸體和色情內容。雖然這些材料大部分描繪的是成年人，但通常是未經同意的，例如當它被用來創作名人裸照時。
Stability 隨後推出了新的過濾器，可以阻止不安全和不適當的內容，並且使用 Stability 軟體的許可證還附帶禁止非法使用的禁令。
該公司在周二發布的聲明中表示，「嚴格禁止在其平台上進行任何非法或不道德目的的濫用」。
聲明中寫道：“我們強烈支持對那些濫用我們產品用於非法或邪惡目的的人採取執法行動。”
然而，用戶仍然可以訪問未經過濾的舊版本Stable Diffusion，“對於那些創建涉及兒童的露骨內容的人來說，這是壓倒性的首選軟體”，斯坦福互聯網觀測站的首席技術專家David Thiel 說，史丹佛網路觀測站是另一個研究這個問題的監督組織。
「你無法控制人們在電腦上、臥室裡做什麼。這是不可能的，」塞克斯頓補充道。 “那麼，如何才能讓他們無法使用公開可用的軟體來創建這樣的有害內容呢？”
根據美國、英國和其他地方的現行法律，大多數人工智慧生成的兒童性虐待圖像都將被視為非法，但執法部門是否擁有打擊這些圖像的工具仍有待觀察。
IWF 的報告發佈時間早於全球下週人工智慧安全聚會由英國政府主辦，出席者包括美國副總統卡馬拉·哈里斯和科技領袖等知名人士。
國際舉聯首席執行官蘇西·哈格里夫斯在一份準備好的書面聲明中表示：“雖然這份報告描繪了一幅黯淡的景象，但我很樂觀。”
她表示，向「廣大受眾傳達問題的現實非常重要，因為我們需要討論這項令人驚嘆的技術的陰暗面」。
