就在幾週前，28 個國家簽署了 Bletchley 的聲明，同意對前沿人工智慧、風險領域、類型和案例（包括健康、教育、勞工和人權）採取基於風險的方法。
隨後，美國發布了第一個人工智慧行政命令，要求進行安全評估、民權指導和勞動力市場影響研究，同時也成立了人工智慧安全研究所。
同時，英國推出了人工智慧安全研究所和線上安全法案，呼應了歐盟和數位服務法案的做法。
儘管達成了普遍共識，但各國仍處於部署此願景的不同階段，包括組成監督實體、所需能力、基於風險的評估和基礎設施，以及連接現有立法、指示和框架。
如何執行這種監督也有不同的方法，從歐盟更嚴格的方法（導致目前包括德國的 Aleph Alpha 和法國的 Mistral 在內的基礎模型開發商的反對）到英國的相當「軟」的方法。
還有一些更大的問題與需要更多關注的特定高風險領域有關，例如警務、司法和法律體系、健康、教育和指定群體。
這對於殘疾人、兒童和弱勢群體等群體尤其重要。
政策和技術的複雜任務
例如，眾所周知，許多法律人工智慧系統是在沒有特定人群參與的情況下進行訓練的，導致針對它們的錯誤率更高。在一些國家，政府機構被指控未經同意使用社群媒體數據來確認退休金計畫患者的殘疾狀況。
移民往往會避免進行體檢和測試，因為擔心被驅逐出境或面臨不可接受的醫療費用，因此統計數據和公共數據集根本無法反映這些情況。
最後，人工智慧可能無法正確識別缺乏四肢、臉部差異、不對稱、言語障礙、溝通方式或手勢不同的人，或使用輔助設備的人。
在另一個例子中，臉部辨識系統可以使用耳朵形狀或耳道的存在來確定影像是否包括人臉。然而，它可能不適用於患有顱顏綜合徵或缺乏這些部位的群體。
自2021 年歐盟人工智慧法案首次提出以來，歐盟委員會收到了有關人工智慧和殘疾人權利、生物識別、面部和情感識別系統的使用以及影響難民和移民的案例（包括自動風險評估和分析）的上訴和評論系統。
然而，從技術和政策角度來看，以殘疾人為中心的人工智慧系統的研發仍然是一項複雜的任務。
它包括其交叉性質、狀況、年齡、性別和頻譜特定參數，以及多個法律框架的參與以正確解決和保護它。
它正在增強非人工智慧特定框架的作用，例如《無障礙法案》、《歐盟數位服務和市場法案》、《殘疾人權利公約》、平等和兒童保護法、專門機構和多邊機構的參與，從而不僅僅是組成廣義的「人工智慧安全研究所」。
歐盟、人工智慧、指定團體和法律生態系統
重要的是要記住，針對指定群體或殘疾人的人工智慧系統監管並不局限於一份法律文件，而是由一系列法律框架、法律、公約和政策提出。
特別是，此類案件可能受到「人工智慧」特定法案、相關數據、消費者和人權框架、備忘錄和公約的監管或影響。
例如，用於支持閱讀障礙或自閉症的輔助技術可能會受到《人工智慧法案》條款、資料監管、保護兒童和指定群體的具體法律（例如《殘疾人權利公約》）以及特定國家的平等和非歧視的影響。
甚至在《人工智慧法案》全面出台之前，歐盟委員會就開始探索解決人工智慧系統及其特定風險的方法。
特別是，先前現有的 GDPR（一般資料保護規範）提出了與分析指定群體、使用基於「種族」和「性別」的資料、未成年人保護、生物辨識和臉部辨識系統和資料相關的條款。
創造更安全的數位空間
從指定群體的角度來看，《數位服務法》（與《數位市場法》平行）也扮演重要角色。
儘管不是特定於人工智慧，但它的目標是「創建一個更安全的數位空間，保護用戶的基本權利」。
特別是，它對線上平台的透明度、問責制、所用演算法的可解釋性、“黑暗模式”的使用、未成年人保護、定位和分析、隱私和同意、操縱、引入“可信舉報者”和版主提出了要求，平台和利害關係人之間的回饋循環，指定為「成員國的數位服務協調員」。
這些機制有助於更好地解決使用者保護、跨成員國合作、調查和法律框架問題，包括相關管轄法院和當局的參與。
與之配對的還有《2025 年無障礙法案》，旨在透過消除成員國不同規則所造成的障礙，改善無障礙產品和服務的內部市場運作。
最後，這些努力得到了教科文組織、世界衛生組織和經合組織等多邊機構的支持，這些機構致力於制定特定領域的指導方針，以解決教育、醫療保健、掃盲和能力導向建議中的生成人工智能問題。
它包括聯合國教科文組織針對學生和教師的人工智慧能力框架，或建議將可以使用生成式人工智慧的最低年齡設定為 13 歲。
此外，其最近針對假訊息和社群媒體危害的行動計畫收集了來自包括非洲和拉丁美洲在內的 134 個國家的回應。
專業化、合作化、前進方向
演算法反映了創造它們的社會，提出了這樣的邏輯：為了解決特定的挑戰，立法應該反映社會，而不僅僅是演算法。
減輕特定群體的演算法風險是一個相當複雜的過程，這使得非人工智慧特定立法的作用越來越大，而不僅僅是建立「人工智慧安全研究所」。
它包括建立針對這些群體的風險類別和影響評估，考慮演算法背後的社會和歷史因素，確保數據的存取以及多利益相關者的監督和參與。
Yonah Welker 是一位人工智慧專家、技術探索者和演算法多樣性公眾代言人，致力於歐盟委員會資助的研究、技術和創新計畫。
在歐洲新聞台，我們相信所有觀點都很重要。聯絡我們：查看@euronews.com發送推介或意見並參與對話。
