歐洲議會議員呼籲在沒有「大規模監視」的情況下打擊兒童性虐待

司法委員會涵蓋所有政治團體的54 名成員中,有51 名成員中的絕大多數支持這一立場,首席談判代表哈維爾·紮紮萊霍斯(Javier Zarzalejos) 稱這是一個「敏感、複雜且有爭議」的過程。

該委員會的立場需要在下週的全體會議上獲得批准,然後才能開始與歐盟成員國的談判。

2022 年 5 月,歐盟委員會提議使用新興技術掃描 Meta 的 Whatsapp 等平台上的端對端加密訊息,以偵測、通報和刪除兒童性虐待資料 (CSAM)。

該提案引發了一場苦行,讓隱私遊說團體與兒童權利倡導者對立,歐盟內政事務專員伊爾瓦·約翰遜 (Ylva Johansson) 對此做出了回應指控的不當影響。

批評者指出,這嚴重侵犯了我們的基本線上隱私權,並擔心技術不夠成熟,無法在不錯誤標記數百萬合法內容和錯誤指控用戶的情況下找出 CSAM。

議會的妥協草案要求數位平台降低其服務被用於線上性虐待和誘騙兒童的風險。它還允許司法當局向數位平台發出所謂的“檢測令”,迫使它們使用新興技術 - 例如所謂的永久雜湊函數 - 來檢測兒童性虐待材料(CSAM)。但與委員會的提議相反,這些命令需要有針對性、有時間限制,並作為存在「合理懷疑理由」的「最後手段」。

投票後,紮紮萊霍斯向歐洲新聞台發表講話,他保證議會已成功在保護上網兒童和保護數位隱私基本權利之間走鋼索。

紮紮萊霍斯說:“這是為了在保護兒童和提供確保隱私和資料保護的法律框架之間取得適當的平衡。” “從法律的角度來看,它有一些複雜性,而且從應該部署來檢測和刪除兒童性虐待材料的技術的侵入性來看,它也有一些複雜性。”

「這種平衡已經實現。我認為這份文件獲得的廣泛支持非常能說明妥協精神以及所有政治團體對該提案的重視,」他補充道

議會也支持設立歐盟兒童保護中心的提議,以與國家主管機關和總部位於海牙的歐盟執法機構歐洲刑警組織合作,協助實施新規則。

該中心將協助開發檢測技術,進行調查,並在必要時對平台處以罰款。

歐洲議會議員還提議建立一個新的協商論壇,以確保受害者的聲音得到傾聽。

「歐盟中心作為一個關鍵機構將非常重要,受害者和倖存者將第一次在歐洲中心內的協商論壇上得到認可。所以我認為總而言之,這份文件將提供必要的工具既合法又有效,”紮紮萊霍斯說。

“有針對性”的檢測命令

委員會提案中包含的備受爭議的檢測命令將迫使數位訊息服務部署用戶端掃描(CSS)技術以獲取用戶的加密訊息。

在去年五月發布的針對該提案的嚴厲意見中,歐盟理事會法律部門對偵查令及其潛在的「嚴重干擾歐盟法律規定的基本權利」提出了「嚴重的法律擔憂」。

議會的草案立場要求將加密通訊排除在偵測命令的範圍之外。妥協文本稱,CSS 技術將加密通訊的「完整性和機密性」置於危險之中。

歐洲議會議員也大大限制了偵查令的範圍,僅限於在合理懷疑的情況下法院發布的命令。

歐洲數位版權組織 EDRi 堅決反對委員會的提議,但對議會的妥協表示歡迎。

EDRi 高級政策顧問 Ella Jakubowska 表示:“公民自由歐洲議會議員正確地認識到,如果歐盟破解加密,沒有人會安全上網。”

Jakubowska 補充道:“這是確保網路監管基於證據以及法律和技術現實的關鍵一步,而不是基於人工智慧公司的承諾。”

但兒童權利捍衛者指責議會淡化了委員會的雄心壯志,目光短淺。根據終止兒童性剝削全球平台 ECPAT International 的說法,將偵查命令限制在目標嫌疑人將使肇事者繼續在執法部門的監視下實施虐待。

ECPAT 兒童保護和技術負責人 Amy Crocker 表示,議會的草案立場「對兒童的網路安全來說是一個令人震驚的挫折」。

「這完全違背了歐洲公民的期望,更重要的是,它積極破壞了我們孩子在數位空間中的安全。這是一個有利於官僚主義而不是兒童福利的決定,」她說。

修飾可能不會被發現

為了解決網路誘騙未成年人的問題,歐洲議會議員週二支持呼籲針對兒童的數位服務要求用戶同意發送未經請求的訊息,提供封鎖和靜音選項,並加強家長監護。

但委員會希望更進一步,使用基於人工智慧的語言模型來檢測可能相當於誘騙兒童的行為模式,以抓住網路掠奪者。

ECPAT 表示:“決定不檢測誘騙行為意味著我們從一開始就放棄了防止未來傷害發生的可能性。”

一個新的報告WeProtect 全球聯盟 10 月發布的報告表明,社交遊戲平台正在成為成人與兒童互動的危險新環境,其中對話可能會在短短 19 秒內升級為高風險的梳理情況,平均梳理時間為 45 分鐘。

但紮紮萊霍斯表示,針對平台的新風險緩解措施將有助於保護兒童免受此類危險。

他說:“讓我明確指出,誘騙行為屬於該法規的範圍。將會有專門針對防止誘騙行為的緩解措施。”

「我們商定的唯一改變是將美容從檢測審計中剔除,」他補充道。