萊安農 (Rhiannon) 在網路上受到誘騙、脅迫和性虐待時年僅十三歲。
她的肇事者被指控，但他的罪行的影響深遠。
「我很長一段時間沒有談論我的虐待行為，」倖存者、瑪麗柯林斯基金會的宣傳負責人萊安農告訴歐洲新聞。 “我患有焦慮、恐慌、憂鬱、自殘和自殺企圖。”
如今，33 歲的她知道，有關她的虐待的圖像和影片仍在網路上流傳。但她大聲疾呼，呼籲加強監管以打擊性掠奪者。
週四，歐盟部長們將討論歐盟委員會提出的全面新法律，以解決網路兒童性虐待問題，並確保針對瑞安農的犯罪行為不會日復一日地在網路上重演。
身為英國公民，瑞安農表示，擬議的歐盟法規以及即將成為法律的英國線上安全法案對於全球打擊兒童性虐待的鬥爭至關重要。
歐盟計畫中的法律將使用新興技術來檢測新的和現有的兒童性虐待材料（CSAM）和兒童誘騙活動，並將賦予國家當局權力，要求數位服務掃描用戶的通信，包括加密訊息。
但一場激烈的爭吵已經爆發，兒童保護倡議者與數位權利遊說團體展開對立，他們聲稱這將煽動大規模監控制度，並終結我們所知的數位隱私。支持者表示，未能通過該法規將使犯罪分子不被發現，大型科技公司不受監管。
兩個陣營之間有一條難以行走的鋼絲：如何在不損害我們在線隱私的情況下抓住虐待兒童的人。
技術是否夠成熟？
為了偵測執法部門已知的現有兒童性虐待資料 (CSAM)，委員會提議使用所謂的感知雜湊函數，該函數會取得有害檔案的指紋或雜湊值，並偵測網路上的重複內容。
但學術專家警告說，犯罪者可以輕鬆地操縱圖像來躲避檢測，無辜的用戶可能會受到錯誤的指控：“問題是，通過改變一個像素，甚至稍微裁剪圖像，就很容易破解哈希值，”巴特教授魯汶大學的密碼學專家 Preneel 解釋說：“完全合法的圖像也有可能被標記為誤報。”
歐盟委員會希望在海牙建立一個歐盟兒童性虐待中心，僱用工作人員手動過濾被標記為非法的內容，以避免執法機構被誤報淹沒。
但民間組織 ECPAT International 表示，有足夠的證據表明感知哈希技術確實有效。
“這些技術不僅有前途，而且還具有前景。”它們已被證明。基於哈希的方法十多年來一直有效，可以更快地打擊非法內容並協助執法。例如，超過 200 家公司使用 PhotoDNA 技術來防止他們的服務被用來傳播兒童性虐待材料，」ECPAT 發言人表示。
該委員會還希望使用人工智慧 (AI) 來檢測新創建的 CSAM 並標記可能構成兒童誘騙的行為模式。普雷內爾告訴歐洲新聞台，這些方法會帶來更大的誤判風險。
「即使我們將錯誤率降低到 1%，每天在歐盟發送數十億張圖像，我們每天也可能看到數千萬個誤報，」Preneel 警告。 “我們可能會連累無辜者，指控他們犯下最嚴重的罪行。”
普雷尼爾還警告說，青少年自願合法地互相分享裸照可能會被錯誤地定為犯罪。
不過，儘管 ECPAT 認識到用於檢測儀容行為的基於語言的 AI 模型仍需成熟，但 ECPAT 表示，AI 已成功部署用於檢測新的 CSAM，且「錯誤率較低」。
「CSAM 偵測工具經過專門訓練，不會發現合法影像，」ECPAT 發言人解釋。 “這些工具針對已知的 CSAM、成人色情內容和良性圖像進行訓練，特別是為了區分它們並防止良性圖像被誤解為 CSAM。”
來自法國的倖存者、勇敢運動聯合創始人 Mié Kohiyama 和 Rhiannon 一樣，主張加強監管。
「這些圖像中有超過 60% 託管在歐洲伺服器上，因此我們有責任對其採取行動，」她解釋道。 “檢測是關鍵，清除是關鍵。”
新規定會損害隱私嗎？
委員會提案中最具爭議的方面是科技公司有義務部署客戶端掃描（CSS）技術來掃描用戶的消息，包括在 Meta 的 Whatsapp 等平台上進行端到端加密通信，當風險出現時確定。
這意味著用戶的加密訊息、圖片、電子郵件和語音筆記可能會被竊聽。
隱私權倡導者警告說，這嚴重侵犯了人們的線上隱私權，並且很容易被惡意行為者操縱。 Apple 在 2021 年短暫部署 CSS 來掃描 iCloud 上傳內容，但在系統被劫持後幾週內就被刪除。
但 ECPAT International 表示，重要的是要記住 CSS 「在資料加密之前」運行。
ECPAT 發言人表示：「它是透過在加密環境上傳和發送CSAM 之前對其進行標記來實現這一目的的，這與WhatsApp 一樣，一種端到端加密服務，已經部署了檢測惡意軟體和病毒的技術。
批評者還警告說，破壞加密可能會為獨裁政權開創一個危險的先例，獨裁政權可以操縱該技術來發現批評並針對持不同政見者。
米埃表示，這種危言聳聽只是轉移人們對真正問題的注意力的一種手段。
「這項規定會有保障措施，」她說。 「歐洲是民主國家，而不是獨裁國家。我們不要天真：在獨裁國家，當你想監視公民時，你就會監視公民。你不需要新的監管。”
歐盟部長們能否找到妥協方案？
擬議的法規引起了歐盟各國的不滿，許多人擔心技術的成熟度和對消費者隱私的威脅。部長們可能會選擇批准文本的某些方面，同時擱置其他計劃，直到技術充分成熟為止。
Mié 和 Rhiannon 告訴歐洲新聞部長應該避免屈服於大型科技和數位遊說團體的壓力。他們表示，濫用內容的急劇增加顯示科技公司檢測和刪除內容的自願措施顯然是不夠的。 WeProtect 全球聯盟週二發布的一項研究表明，自 2019 年以來，舉報的兒童性虐待材料增加了 87%。
「科技公司設計他們的產品是為了吸引兒童並盡可能長時間地吸引他們。如果這是他們的模式，那麼它必須為兒童提供一個安全的環境，」瑞安農說。
「科技公司的自我監管模式並沒有奏效，從被虐待的兒童數量就可以清楚地看出這一點。我們必須就這個問題立法，我們必須迫使科技公司採取行動來保護兒童，」她補充道。
米埃也認為，歐盟有責任保護數位輔助虐待的倖存者，使其免受因每天都會看到他們的虐待圖像而遭受的再次創傷。
「這些倖存者害怕一切。他們無法離開家園。對其中一些人來說，他們甚至害怕使用網路。這些人完全被社會邊緣化，」她說。 “我們必須保護他們。我們必須保護兒童。這必須是每個人的首要任務。”
