十個國家和歐盟將建立更多人工智慧 (AI) 安全機構，以協調機器學習標準和測試的研究。
該國際網路是在韓國首爾舉行的人工智慧安全高峰會上達成的，在峰會期間世界各國領導人進行了虛擬會面。
它將匯集來自英國人工智慧安全研究所等公共支援機構的科學家，分享有關人工智慧模型的風險、能力和局限性的資訊。
該機構還將在「特定人工智慧安全事件」發生時對其進行監控。
英國首相里希·蘇納克在一份新聞稿中表示：“人工智慧是一項非常令人興奮的技術……但為了獲得優勢，我們必須確保它的安全。”
「這就是為什麼我很高興我們今天就人工智慧安全研究所網路達成協議」。
新安全機構背後有哪些國家？
這個新的人工智慧安全研究所網路的簽署者包括歐盟、法國、德國、義大利、英國、美國、新加坡、日本、韓國、澳洲和加拿大。
英國聲稱去年 11 月創建了世界上第一個人工智慧安全研究所，初始投資為 1 億英鎊（1.174 億歐元）。
此後，美國、日本和新加坡等其他國家也推出了自己的產品。
英國政府 2023 年 11 月發布的新聞稿稱，英國人工智慧安全研究所的使命是「最大限度地減少人工智慧快速且意想不到的進步給英國和人類帶來的意外」。
歐盟現已通過《歐盟人工智慧法案》，正準備成立人工智慧辦公室。歐盟委員會此前告訴歐洲新聞一旦法律獲得完全批准，他們將聘請新辦公室的負責人。
歐盟委員會主席烏蘇拉·馮德萊恩(Ursula von der Leyen)在去年的人工智慧安全峰會上表示，人工智慧辦公室將而且應該擁有“全球使命”，以便能夠“與世界各地的類似實體合作”。
領導人還在本次會議期間簽署了更廣泛的《首爾宣言》，其中宣布了「加強國際合作」以開發以人為本、值得信賴的人工智慧的重要性。
AI安全高峰會第一天這週看到了 16Open AI、Mistral、Amazon、Anthropic、Google、Meta、Microsoft 和 IBM 等全球最大的科技公司同意一系列安全承諾。
該清單包括設定人工智慧風險過高的閾值並對其保持透明。共同主辦該活動的英國政府發表聲明稱這是「歷史性的第一次」。
法國將主辦下一次人工智慧安全使用高峰會。
