國際政府在一次會議上簽署了「世界首個」人工智慧（AI）協議英國全球高峰會以應對該技術可能帶來的「災難性」風險。
來自 27 個國家和歐盟的技術專家、全球領導人和代表正在參加英國人工智慧安全峰會，該峰會於週三至週四在布萊奇利公園舉行，這裡曾是二戰密碼破譯者的所在地。
英國宣布將投資人工智慧超級計算機，而特斯拉和 X 的老闆馬斯克在活動間隙表示，人工智慧是「人類面臨的最大威脅之一」。
然而，科技界的許多人簽署了一封公開信，呼籲採取一系列方法——從開源到開放科學，並呼籲科學家、技術領導者和政府共同努力。
以下是此次活動的主要內容。
人工智慧協議
《布萊切利人工智慧安全宣言》是由美國、中國、歐盟等28個國家的代表和企業簽署的聲明。它旨在解決所謂的前沿人工智慧模型（OpenAI 等公司開發的大型語言模型）的風險。
英國政府稱其為簽署方之間的「世界第一」協議，旨在確定「共同關注的人工智慧安全風險」並制定「各國各自基於風險的政策」。
它警告說，前沿人工智慧是 ChatGPT 等生成模型中使用的最複雜的技術形式，「由於這些技術最重要的功能，無論是有意還是無意，都有可能造成嚴重甚至災難性的傷害」。模型」。
英國科學、創新和技術大臣米歇爾·多尼蘭表示，該協議是一項“里程碑式的成就”，並且“為今天的討論奠定了基礎”。
然而，專家認為該協議還不夠深入。
人工智慧研究公司 AMPLYFI 執行長 Paul Teather 告訴歐洲新聞台：“將主要大國聚集在一起支持道德原則可以被視為成功，但必須迅速制定具體政策和問責機制。”
「模糊的術語給誤解留下了空間，而僅依靠自願合作不足以激發全球公認的人工智慧最佳實踐」。
更多人工智慧高峰會
英國政府也宣布未來將舉辦人工智慧安全高峰會。
韓國將在未來六個月內舉辦另一場「迷你虛擬」人工智慧高峰會，法國將於明年主辦下一次面對面的人工智慧高峰會。
誰說了什麼？
億萬富翁科技企業家伊隆馬斯克抵達峰會，在會談期間保持沉默，但警告人工智慧的風險。
“我們並不比其他生物更強大或更快，但我們更聰明。而我們在這裡，在人類歷史上第一次真正擁有比我們聰明得多的東西。”
馬斯克是 ChatGPT 開發商 OpenAI 的聯合創始人，並推出了一家名為 xAI 的新公司。
「我認為我們的目標是……首先，建立裁判職能，我認為應該有。
“然後，你知道，要謹慎對待法規的應用，這樣你就不會因為法規而阻礙人工智能的積極一面。”
馬斯克將於週四晚些時候在他的 X 平台（前身為 Twitter）上與英國首相里希·蘇納克進行交談。
烏蘇拉·馮德萊恩
歐盟委員會主席烏蘇拉·馮德萊恩警告人工智慧帶來風險和機遇，並讚揚量子物理學如何帶來核能，但也帶來了原子彈等社會風險。
「我們正在進入一個完全不同的時代。我們現在正處於一個機器可以智能行動的時代的黎明。我未來五年的願望是我們吸取過去的教訓，快速行動！”她說。
馮德萊恩敦促建立一個客觀的科學制衡體系，建立一個獨立的科學界，並制定全球公認的人工智慧安全標準。
她表示，歐盟的人工智慧法案正處於立法過程的最後階段。她還表示，正在討論歐洲人工智慧辦公室的潛力，該辦公室可以“處理最先進的人工智慧模型，並負責監督”，並將與世界各地的類似實體合作。
卡瑪拉·哈里斯
美國副總統卡馬拉·哈里斯表示，現在需要採取行動解決人工智慧風險的“全方位”，而不僅僅是對網路攻擊威脅或生物武器開發的“生存”恐懼。
她在美國駐倫敦大使館表示：“還有其他威脅也需要我們採取行動，這些威脅目前正在造成傷害，而且對許多人來說也感到存在。”
國王查理三世
英國國王查理三世發表了一段視訊講話，他將人工智慧的發展與分裂原子和利用火的重要性進行了比較。
他表示，人工智慧是“人類努力歷史上最偉大的技術飛躍之一”，並表示它可以幫助“加快我們邁向淨零排放的步伐，實現一個潛在無限的清潔綠色能源的新時代”。
但他警告說：「我們也必須共同努力應對其重大風險」。
科技界的強烈反對
Meta 全球事務總裁 Nick Clegg 表示，人們對新技術存在“道德恐慌”，這表明政府監管可能會面臨科技公司的強烈反對。
「新技術總是會引發炒作，」克萊格說。 「它們常常導致倡導者的過度熱情和批評者的過度悲觀。
「我記得80年代。人們對電子遊戲產生了道德恐慌。人們對廣播、自行車和網路產生了道德恐慌。
與瀏覽器 Firefox 相關的 Mozilla 基金會總裁兼執行董事 Mark Surman 也擔心此次峰會是私人公司推動自身利益的世界級平台。
Mozilla 週四發表了一封公開信，簽署者包括學者、政治家和私人公司（尤其是 Meta）的員工，以及諾貝爾和平獎得主瑪麗亞·雷薩 (Maria Ressa)。
「我們一次又一次地看到，增加公眾訪問和審查使技術更安全，而不是更危險。認為對基礎人工智慧模型進行嚴格和專有控制是保護我們免受社會規模傷害的唯一途徑的想法充其量是天真、危險的。
「我們要求政策制定者在人工智慧安全競賽中投資從開源到開放科學的一系列方法。開放、負責任和透明的方法對於確保我們在人工智慧時代的安全至關重要，」他補充道。
新型人工智慧超級電腦
英國宣布將投資 2.25 億英鎊（2.57 億歐元）購買一台新型人工智慧超級計算機，以 19 世紀英國工程師伊桑巴德·布魯內爾 (Isambard Brunel) 的名字命名，名為 Isambard-AI。
它將在英格蘭南部的布里斯託大學建造，英國政府表示它將比英國目前最快的機器快 10 倍。
除了最近宣布的另一台名為 Dawn 的英國超級電腦外，政府希望這兩台電腦能夠在聚變能源、醫療保健和氣候建模方面取得突破。
這兩台計算機計劃於明年夏天啟動並運行。
英國的野心
蘇納克希望英國成為人工智慧領域的領導者，這已不是什麼秘密，但目前尚不清楚如何監管，而其他國家已經在製定自己的人工智慧法規。來自美國、中國和歐盟的激烈競爭。
拜登總統在 10 月 30 日簽署人工智慧行政命令後表示，「美國將在這段技術變革時期發揮引領作用」。歐盟也嘗試制定自己的一套人工智慧指南。
然而，與歐盟不同的是，英國表示不打算通過新的立法來監管人工智慧，而是要求英國現有監管機構對各自領域的人工智慧負責。
中國也一直在推行自己的生成人工智慧規則。
中國科技部副部長吳朝暉在峰會上表示，中國將致力於構建“人工智能國際機制，擴大參與範圍，構建基於廣泛共識的治理框架，造福人民，構建命運共同體”為了人類。
儘管存在競爭，前Google DeepMind 和英國政府顧問、現任 Arup 公司全球數位主管的 Will Cavendish 認為，英國可以在世界人工智慧舞台上佔有一席之地。
「英國已經擁有世界第三大人工智慧領域，因此英國有理由渴望成為這個令人興奮的領域的全球領導者之一，」他告訴 Euronews Next。
但他也表示，各國需要團結起來「為所有人創造未來」。
