一項新的調查顯示，即使大多數人都關心人工智能（AI），但大約70％的人並未意識到它已經被用來創建兒童性虐待內容。
英國一家兒童保護慈善機構露西信徒基金會（Lucy Faithfull Foundation）對英國的2500多人進行了調查，大約88％的調查人員同意，AI生成的18歲以下的性形象應該是非法的。
但是，只有40％的被調查的人不知道是這種情況，要么認為這一內容在英國是合法的。
在歐盟和英國，創建，查看或共享未成年人的性圖像是非法的，包括使用AI技術創建的材料。
英國慈善機構，也經營立即停止求助熱線一項機密服務，以幫助人們擔心他們對兒童或另一個成年人行為的思想和行為，這引起了警報。
熱線助理主任唐納德·芬德利特（Donald Findlater）強調，AI的迅速發展已經被兒童性犯罪者在線剝削。
他接下來對Euronews告訴Euronews，解釋說，每天都在英國被警察逮捕的人召集我們，包括觀看兒童的性虐待，包括越來越多的人正在觀看AI生成的圖像。”去年，有關AI生成的兒童性虐待材料的報告數量增加。
他說：“社會需要對這個問題保持警惕，”由於“公眾之間存在嚴重的知識差距”，涉及如何使用AI來創建有害內容。
“看這些圖像是不行的。這是一種性化孩子的方式。這不是一件合適的事情。孩子們應該得到我們的尊重。他們有權利。我們不能踐踏他們的權利，並且這樣做會產生後果。”他補充說，邀請人們直接或間接關心尋求幫助。
與217,000多人聯繫現在停止它在2023年，大約有80％的人擔心自己。
AI性內容的現像上升
AI生成的兒童性虐待材料的傳播是一個主題令人震驚的報告去年由Internet Watch Foundation（IWF）出版。
在由IWF分析師評估的黑暗網絡兒童性虐待論壇上，在11,000個AI生成的圖像中，有2500多個被評估為犯罪。
"We're seeing AI CSAM [child sexual abuse material] images using the faces of known, real, victims. We're seeing the 'de-ageing' of celebrities and AI CSAM using the likeness of celebrity children," said IWF CEO蘇西·哈格里夫斯（Susie Hargreaves）。
“我們看到技術是如何'nudify'的孩子的，其衣服的圖像由於完全合理的原因在線上載。我們看到所有這些內容如何被商業化。”
Findlater補充說，人們“不應該自欺欺人地認為這樣做沒有後果”。
“在技術進展的地方，濫用隨之而來。國家警察局長理事會（NPCC）兒童保護和虐待調查負責人伊恩·克里奇利（Ian Critchley）在一份聲明中說。
“創建，觀看和分享兒童的性圖像（包括AI製作的孩子）從來都不是沒有受害者，這是違法的。我們會找到你的。”克里奇利補充說。
英國警方一年使用在線臥底警察逮捕了1,700人，儘管並非所有人都與AI創建的內容有關。
AI生成的內容在確定虛擬創作中的受害者時，還為調查人員帶來了新的困難紐約時報最近的一篇文章報告說，隨著AI技術的發展，執法部門一直在掙扎。
平台做得不夠
專家還希望在此問題上看到更多對AI公司和社交媒體平台的法規。
研究人員發現去年比3200張圖像非營利組織Laion創建的數據集中的可疑兒童性虐待，用於培訓生成AI工具穩定的擴散。
幾週前，穩定的擴散被強調為“受兒童性虐待圖像的製作人青睞的工具”，因為它“實際上不能阻止其模型產生違反其使用條款的圖像”。
“我很想看到不斷增加的監管。我希望看到由AI公司開發的這些工具開發其技術，以免被濫用，因此無法創建和共享兒童性虐待圖像。” Findlater說。
X（以前為Twitter）被罰款澳大利亞在2023年10月未能充分解釋其如何解決兒童性剝削內容的366,742歐元。
最近，梅塔（Meta）決定在2023年12月推出端到端加密的決定，也擔心它將在線向虐待兒童的人提供避風港。
歐盟承認檢測過程不足，因此決定擴展一項臨時措施，以打擊兒童性虐待內容，直到2026年4月3日。
它允許互聯網提供商搜索他們的服務中的此類內容，並將其報告給當局。
