布魯塞爾馬拉松式談判未能就歐盟人工智慧法案達成協議。但周五提供了新的機會

談判於週三下午開始,持續整晚,上午繼續,週四下午結束,據報道,議程涵蓋超過 23 個項目,反映出當前問題的極端技術性。

該法案被認為是世界上首次嘗試以全面、基於道德和環境可持續的方式監管人工智慧,這種技術具有驚人且往往不可預測的發展能力。

這次討論是在大型科技公司和新創公司積極遊說、民間社會發出嚴厲警告以及媒體密切關注的背景下進行的,因為布魯塞爾的立法很可能會影響世界各地國家主導的努力。

考慮到其中的高風險,歐洲議會和代表成員國的理事會誓言將在周五上午 9 點開始給予第二次機會。

歐盟內部市場專員蒂埃里·布雷頓 (Thierry Breton) 表示:“過去 22 小時內,《人工智慧法案》取得了很多進展。”

參與曠日持久的討論的議員們也已經取得了相當大的進展,但出於保密原因沒有提供更多細節。

這項談判是歐洲議會議員和政府之間就一系列極其複雜的問題進行的艱苦討價還價,其中最引人注目的是對為OpenAI 革命性的ChatGPT 等聊天機器人提供支持的基礎模型的監管,以及在公共場所使用即時生物辨識的有針對性的例外情況。

儘管其長度令人印象深刻,甚至可能破紀錄,週四的馬拉松式會談還不足以討論所有未決問題。

即使周五的第二次嘗試彌合了分歧並在政治層面達成臨時協議,也可能需要進行更多諮詢來微調所有技術細節。現任歐盟理事會輪值主席國西班牙的任務是讓 27 個成員國及其廣泛的觀點保持一致。

一旦這份包含數百頁文章和附件的草案被重寫並形成綜合版本,它將被發送到歐洲議會進行半週期的新投票,然後由理事會最終批准。

該法在 2026 年全面實施前將有一段寬限期。

人工智慧:一項不斷發展的技術

首次呈現2021 年 4 月《人工智慧法案》是一項突破性的嘗試,旨在確保 21 世紀最根本的變革性技術以以人為本、對道德負責的方式開發,從而防止和遏制其最有害的後果。

該法案本質上是一項產品安全法規,規定了一系列交錯的規則,公司在向歐盟單一市場任何地方的消費者提供服務之前需要遵守這些規則。

該法律提出了一個金字塔式的結構,根據人工智慧產品對公民安全及其基本權利構成的潛在風險,將人工智慧產品分為四個主要類別:最小、有限、高和不可接受。

那些屬於最低風險類別的企業將不受額外規則的約束,而那些被標記為有限風險的企業將必須遵守基本的透明度義務。

被視為高風險的系統將受到嚴格的規則的約束,這些規則將在進入歐盟市場之前及其整個生命週期內適用,包括重大更新。

該組將涵蓋對普通公民產生直接且可能改變生活影響的應用程序,例如用於求職面試的簡歷分類軟體、機器人輔助手術和大學考試評分程序。

高風險的人工智慧產品必須經過合格評定、在歐盟資料庫中註冊、簽署合格聲明並貼有 CE 標誌——所有這些才能到達消費者手中。

一旦可用,它們將受到國家當局的監督。違反規定的企業將面臨數百萬美元的罰款。

對社會造成不可接受風險的人工智慧系統,包括控制公民的社會評分和利用社會經濟脆弱性的應用程序,將在整個歐盟領土上被徹底禁止。

儘管這種基於風險的方法在 2021 年廣受好評,但在 2022 年底 OpenAI 推出 ChatGPT 和引發全球軒然大波透過聊天機器人。 ChatGPT 緊隨其後的是谷歌的 Bard、微軟的 Bing Chat 以及最近的亞馬遜的 Q。

聊天機器人由基礎模型提供支持,這些模型經過大量數據(例如文字、圖像、音樂、語音和程式碼)的訓練,以完成可以隨時間變化的廣泛且流動的任務,而不是具有特定的、不可修改的任務。

委員會最初的提案沒有引入任何關於基金會模型的規定,迫使立法者添加一篇全新的文章具有廣泛的義務清單,以確保這些系統尊重基本權利、節能並透過揭露其內容是人工智慧產生的來遵守透明度要求。

議會的這項推動遭到了成員國的懷疑,他們傾向於採取溫和的立法方式。

生物辨識技術仍有爭議

德國、法國和義大利是歐盟三大經濟體,提出反提案這有利於基金會模式「透過行為準則進行強制性自我監管」。

此舉引發了立法者的憤怒反應,並威脅要破壞立法進程。

根據路透社週四的會談幫助聯合立法者就基礎模型的臨時條款達成協議。該協議的細節尚未立即公佈。

仍需要解決的一個有爭議的問題是在公共場所使用即時遠端生物識別技術,包括臉部辨識。

生物辨識技術是指透過分析生物特徵(例如臉部特徵、眼睛結構和指紋)來確定一個人的身份的系統,通常無需徵得該人的同意。

立法者正在捍衛全面禁令基於性別、種族、民族或政治派別等敏感特徵的即時生物特徵識別和分類。

另一方面,成員國認為需要有例外情況,以便執法部門能夠追蹤犯罪分子並阻止對國家安全的威脅。