聯合國安理會召開了一次歷史性會議，討論人工智慧對國際和平與穩定的潛在威脅。
秘書長安東尼奧·古特雷斯警告安理會，生成式人工智慧的出現可能對國際和平與安全產生非常嚴重的後果，並指出恐怖分子、犯罪分子和政府可能利用它造成「可怕程度的死亡和破壞、廣泛的創傷和深刻的影響」。心理傷害達到難以想像的程度。”
古特雷斯表示，人工智慧可以幫助消除貧窮、消除飢餓、治癒癌症和刺激氣候行動，但其他「人工智慧的軍事和非軍事應用可能對全球和平與安全產生嚴重後果」。
作為第一步，秘書長呼籲需要一個全球監管機構來監控快速發展的技術，並表示聯合國將任命一個人工智慧高級顧問委員會，該委員會將報告全球人工智慧治理的選項。年底。
設想的機構將包括人工智慧領域的專家，為可能缺乏有效應對人工智慧威脅帶來的挑戰所需的技術知識的政府和行政機構提供他們的專業知識。
他表示，聯合國是採用全球標準以最大限度地發揮人工智慧優勢並降低其風險的「理想場所」。
聯合國秘書長還表示，他歡迎一些國家呼籲建立一個新機構來支持全球治理人工智慧的努力，“受到國際原子能機構、國際民用航空組織或政府間氣候變遷專門委員會等模式的啟發。 ”
中國科學院類腦認知智能實驗室主任曾毅教授在聯合國安理會的視訊簡報會上表示，聯合國應成立一個工作小組來考慮人工智慧所面臨的近期和長期挑戰。
但他也強調，最近的生成式人工智慧系統“都是看似智慧的資訊處理工具”，但沒有真正的理解能力，因此“不是真正的智慧”。
曾擔任中英人工智慧倫理與治理研究中心聯合主任的曾警告說，“人工智慧永遠不應該假裝人類”，並堅稱真正的人類必須保持控制，尤其是對所有武器系統的控制。
評估人工智慧的誤用和缺陷
人工智慧公司Anthropic 的聯合創始人、OpenAI 的前政策總監（最著名的聊天機器人ChatGPT 的實驗室創建者）傑克克拉克(Jack Clark) 也介入了該小組，警告稱大型科技公司不能被信任來保證其安全性。
「這就好像我們在不了解燃燒科學的情況下製造引擎一樣，」他指出。
這位人工智慧企業家目前正在開發一款名為Claude 的類似ChatGPT 的聊天機器人，他表示，世界團結起來並「致力於開發方法來測試這些系統的功能、誤用和潛在安全缺陷」是至關重要的。
克拉克在視訊簡報中表示：“任何明智的監管方法都將從評估人工智慧系統特定功能或缺陷的能力開始。”
他補充說，目前，對於“如何測試這些邊境系統的歧視、濫用或安全等問題”，還沒有標準，甚至沒有最佳實踐，這使得政府很難制定政策，也很難讓私營部門享有資訊優勢。
克拉克還警告說，人工智慧的潛在濫用和不可預測性「以及由如此少數參與者開發的人工智慧固有的脆弱性」對國際和平、安全和全球穩定構成潛在威脅」。
他說，如果沒有強有力的評估，“我們將面臨監管捕獲的風險，從而損害全球安全，並將未來交給少數私營部門參與者。”
OpenAI 執行長 Sam Altman 等其他人工智慧高層也呼籲監管。
但懷疑論者表示，監管最終可能會讓 OpenAI、Google和微軟等擁有大量財務資源的老牌公司受益。這些大型科技公司通常被稱為“財力雄厚的先驅”，擁有資源來處理與確保其大型語言模型符合監管要求相關的成本。
因此，人工智慧產業中規模較小的企業可能處於不利地位，並可能發現與規模更大、財務更穩健的公司競爭具有挑戰性。
英國外交大臣詹姆斯·克萊弗利(James Cleverly)在英國擔任本月理事會主席期間主持了這次會議，他宣布英國將在今年秋天召集世界領導人參加首屆人工智慧安全重大全球峰會。
「我們今天在這裡是因為人工智慧將影響本委員會的工作。它可能增強或破壞全球戰略穩定。它挑戰了我們關於防禦和威懾的基本假設，」他說，並補充說「沒有一個國家不會受到人工智慧的影響」。
他說：“我們必須讓來自各個領域的國際行動者組成最廣泛的聯盟參與其中。”
“我們的共同目標是考慮人工智慧的風險，並決定如何透過協調行動來降低風險。”
上個月，歐盟立法者成功得到正式認可的世界上第一套廣泛的人工智慧法規。
這一里程碑代表著世界各地當局努力控制和管理人工智慧技術的影響向前邁出的重要一步。
