週二,一位關鍵創新者在訪問阿拉伯聯合大公國期間警告說,人工智慧(AI)對人類構成“生存風險”,並建議成立國際原子能機構(IAEA)等國際機構來監督這一突破性進展。 。
OpenAI 執行長 Sam Altman 是廣受歡迎的聊天機器人 ChatGPT 的創建者,他正在進行全球巡演,討論人工智慧的重要性。
「我們面臨著嚴重的風險。我們面臨生存風險,」奧特曼說。
「世界面臨的挑戰是我們如何管理這些風險並確保我們仍然能夠享受這些巨大的好處。沒有人想毀滅世界」。
OpenAI 的 ChatGPT 吸引了全世界的關注,因為它針對用戶的提示提供了類似文章的答案。微軟已向 OpenAI 投資約 10 億美元(9.35 億歐元)。
ChatGPT 的成功讓我們一窺人工智慧如何改變人類工作和學習的方式,但也引發了人們的擔憂。
包括奧特曼在內的數百名行業領袖在五月簽署了一封信,警告“減輕人工智慧帶來的滅絕風險應該與流行病和核戰爭等其他社會規模的風險一起成為全球優先事項” 。
“作為一個地球儀聚集在一起”
奧爾特曼特別提到了聯合國核子監督機構國際原子能機構,作為世界如何齊心協力監督核電的例子。該機構是在第二次世界大戰結束後美國向日本投下原子彈後的幾年內成立的。
奧爾特曼說:“讓我們確保我們作為一個地球人團結在一起——我希望這個地方能夠在這方面發揮真正的作用。”
“我們將國際原子能機構視為一個典範,全世界都在說‘好吧,這是非常危險的技術,讓我們都設置一些護欄吧。’”我認為我們可以兩者兼得。
「我認為在這種情況下,這是一個微妙的訊息,因為它說今天沒有那麼危險,但它可能很快就會變得危險。但我們可以穿針引線」。
世界各地的立法者也在研究人工智慧。
歐盟正在製定一項人工智慧法,該法可能成為人工智慧事實上的全球標準。
奧特曼五月向美國國會表示,政府乾預對於治理人工智慧帶來的風險至關重要。
但阿聯酋這個由七個世襲統治的酋長國組成的獨裁聯邦卻帶來了人工智慧風險的另一面。言論仍然受到嚴格控制。人權組織警告阿聯酋和波斯灣其他國家經常使用間諜軟體來監視活動人士、記者和其他人。這些限制影響了準確資訊的流動——ChatGPT 等人工智慧程式依賴機器學習系統為使用者提供答案的相同細節。
在阿布達比全球市場的活動中,Altman 的開幕演講嘉賓之一是人工智慧新創研究所(Inception Institute of AI) 的首席執行官安德魯·傑克遜(Andrew Jackson),該研究所被描述為G42 旗下公司。
G42 與阿布達比強大的國家安全顧問兼副統治者謝赫·塔農·本·扎耶德·阿勒納哈揚 (Sheikh Tahnoun bin Zayed Al Nahyan) 息息相關。 G42 的執行長是肖鵬,他多年來經營 DarkMatter 的子公司 Pegasus,DarkMatter 是一家阿聯酋安全公司,因聘用前 CIA 和 NSA 員工以及其他以色列人而受到審查。
G42 還擁有一款視訊和語音通話應用程序,據報該應用程式是阿聯酋政府的間諜工具。
傑克森在演講中稱自己代表「阿布達比和阿聯酋人工智慧生態系統」。
「我們是一個政治強國,我們將成為全球人工智慧監管的核心,」他說。