艾拉·雅庫博斯卡(Ella Jakubowska)、哈吉拉·瑪麗亞姆(Hajira Maryam) 和馬特·馬哈茂迪(Matt Mahmoudi) 寫道，透過《人工智慧法案》，歐盟擁有一個獨特的機會來結束大規模監控技術助長的猖獗濫用行為。
2019 年法國一家物流公司發生入室盜竊案後，該事件的安全攝影機鏡頭中使用了臉部辨識技術 (FRT)，試圖識別肇事者。
FRT 的工作原理是嘗試將閉路電視 (CCTV) 攝影機等影像與包含數百萬張臉部影像的資料庫進行匹配，這些影像在許多情況下是在不知情和未經同意的情況下收集的。
在這起案件中，FRT系統將兩百人列為潛在嫌疑犯。
儘管缺乏物證證明他與犯罪行為有關，但警方還是從這份名單中挑出了“H 先生”並指控他盜竊。
在審判中，法院拒絕了 H 先生的律師要求分享有關係統如何編制名單的資訊的請求，而這正是 H 先生指控 H 先生的決定的核心。
法官決定依靠這種臭名昭著的歧視性技術，判處 H 先生 18 個月監禁。
透過臉部辨識進行起訴
「即時」FRT 經常成為（當之無愧的）批評的目標，因為該技術用於即時追蹤和監控個人。
然而，儘管在 H 先生這樣的案件中使用了臉部辨識技術，但在事件發生後追溯使用臉部辨識技術卻受到較少的審查。
由於安全攝影機鏡頭的廣泛可用性以及該技術已有的基礎設施，回顧性 FRT 變得更加容易和普遍。
現在，作為監管人工智慧 (AI) 新法律《人工智慧法案》談判的一部分，歐盟各國政府提議允許警察、地方政府甚至私人公司對廣大公眾常規使用追溯性臉部辨識技術。
歐盟提出的人工智慧法案的前提是，追溯性 FRT 比「即時」迭代的危害更小。
歐盟高層辯稱，透過追溯處理提供的額外時間可以減輕風險和危害。
這個論點是錯的。額外的時間不僅無法解決關鍵問題——破壞匿名性以及壓制權利和自由——而且還帶來了額外的問題。
「後」印度儲備銀行：您從未聽過的最危險的監視措施？
遠端生物辨識 (RBI) 是 FRT 等系統的總稱，這些系統可以遠距離使用人臉（或其他身體部位）掃描和識別人員。
回顧使用時，歐盟擬議的人工智慧法案將其稱為「後 RBI」。後打點意味著軟體可用於在捕獲公共場所的資訊流數小時、數週甚至數月後識別其中的人員。
例如，對閉路電視攝影機拍攝到的抗議者進行 FRT。或者，就像 H 先生的例子一樣，將閉路電視錄影與包含 800 萬張臉部影像的政府資料庫進行比較。
這些系統的使用會對社會產生寒蟬效應；我們參與抗議活動、尋求醫療保健（例如在墮胎被定為犯罪的地方）或與記者交談的感覺有多舒服。
只要知道追溯性 FRT 可能正在使用，我們就會擔心有關我們個人生活的資訊將來可能會被用來對付我們。
FRT 也會助長種族主義
研究表明，FRT 的應用對種族化社區產生了不成比例的影響。
國際特赦組織已經證明，生活在種族主義攔截搜查風險較高地區的個人（對有色人種影響最大）可能會更多地接觸到更多的數據收集和侵入性面部識別技術。
例如，來自紐約的「黑人生命也是命」抗議活動組織者德雷克·英格拉姆(Dwreck Ingram) 在沒有搜查令或合法指控的情況下，在其公寓遭到警察騷擾四個小時，僅僅因為他在參加「黑人生命也是命」活動後被印度儲備銀行(RBI) 認出。
在警方明確對他使用了這項實驗技術後，英格拉姆陷入了一場漫長的法律鬥爭，試圖撤銷對他的虛假指控。
這樣的例子還在繼續。底特律居民羅伯特·威廉斯因他人盜竊而被錯誤逮捕。
蘭德爾·里德 (Randall Reid) 被送往路易斯安那州監獄，他從未去過該州，因為警方錯誤地將他認定為 FRT 搶劫案的嫌疑人。
特別是對於種族化社群來說，臉部辨識的標準化就是他們永久虛擬陣容的標準化。
如果您有在線狀態，那麼您可能已經在 FRT 資料庫中
荷蘭足球俱樂部也使用這種反烏托邦技術來掃描被禁止的球迷，並對未參加相關比賽的支持者錯誤地處以罰款。
據報道，奧地利警方也用它來鎮壓抗議者，而法國警方則以讓城市「更安全」、更有效率為幌子，但實際上卻增加了大規模監控。
這些技術通常以低成本甚至免費提供。
Clearview AI 是提供此類服務的公司之一。該公司已為歐洲、美國和其他地區的數千名執法人員和機構提供高度侵入性的臉部辨識搜尋。
在歐洲，國家資料保護當局對這些做法採取了強硬立場，義大利和希臘監管機構對 Clearview AI 處以數百萬歐元的罰款，原因是其在沒有法律依據的情況下刮擦歐盟公民的臉部。
瑞典監管機構對國家警察處以罰款，原因是國家警察在使用 Clearview AI 識別個人身份時非法處理個人資料。
人工智慧法案可能是結束濫用大規模監控的機會
儘管採取了這些有希望的措施來保護我們的人權免受資料保護機構追溯性臉部辨識的影響，但歐盟各國政府現在正在尋求實施這些危險的做法。
全球各國的生物辨識實驗一再向我們表明，這些技術及其所需的大量資料收集侵蝕了最邊緣化人群的權利，包括種族化社區、難民、移民和尋求庇護者。
歐洲國家已開始將一系列生物辨識大規模監控做法合法化，這有可能使這些侵入性系統在整個歐盟的使用正常化。
這就是為什麼我們比以往任何時候都更需要強有力的歐盟監管，以捕捉我們社區和歐盟邊境所有形式的即時和回顧性生物識別大規模監控，包括阻止印度央行後的實施。
透過《人工智慧法案》，歐盟有一個獨特的機會來結束大規模監控技術助長的猖獗濫用行為。
它必須為新興科技的使用設定高標準的人權保障，特別是當這些科技加劇社會現有的不平等時。
Ella Jakubowska 是歐洲數位版權 (EDRi) 的高級政策顧問，該組織是一個由非營利組織、專家、倡導者和學者組成的網路集體，致力於捍衛和推進整個歐洲大陸的數位版權。
Hajira Maryam 是 Amnesty Tech 的媒體經理，Matt Mahmoudi 是 AI 和人權研究員。
在歐洲新聞台，我們相信所有觀點都很重要。聯絡我們：查看@euronews.com發送推介或意見並參與對話。
