人工智慧帶來了大量的創新機會，有助於解決一些社會最關鍵的挑戰。
但這項技術也可能帶來錯誤訊息、武器發展和經濟不平等等危險。因此，正確的監管對於確保人工智慧得到良好利用至關重要。
作為 CGTN 和 Euronews 聯合製作的辯論的一部分，一個國際專家小組深入研究了這些問題。
該小組成員包括北京科學院人工智慧倫理與永續發展目標教授曾毅、生成式人工智慧搜尋平台 Vectara 執行長兼聯合創始人 Amr Awadallah 博士、人工智慧聯合創始人兼聯合執行長 Srikant Chakravarti新聞公司Curio AI 和倫敦大學學院知識實驗室以學習者為中心的設計教授Rose Luckin。
人工智慧的好處和恐懼是什麼？
人工智慧的用途之一是透過分析來幫助生物多樣性，而生物多樣性反過來也可以幫助人類。北京科學院人工智慧倫理與永續發展目標教授曾毅在 CGTN 和 Euronews 組織的人工智慧小組會議上表示：“我認為這只是人工智慧如何用於公益的開始。”
在可能沒有最好系統的地方，人工智慧對於教育和醫療保健也至關重要。
他警告說，他擔心的是人工智慧如何在戰爭中使用，因為有人擔心該技術可以找到製造化學武器的新方法。
「我想看到的一件事是人工智慧如何預防戰爭，」他說。
「科技不是我們遇到問題的原因，如果我們以錯誤的方式使用技術，人類就會出現問題，」他補充道。
正確監管
世界各國政府都在努力透過監管確保該技術以正確的方式使用。歐盟已在《歐盟人工智慧法案》中製定了自己的規則，美國和中國正在製定自己的法規。
9 月24 日，聯合國也發布了一份報告，其中提出了一系列人工智慧建議，其中包括設立一個人工智慧基金，該基金也將使發展中國家能夠從該技術中受益，以及成立一個國際人工智慧科學小組，該小組將發布年度報告關於人工智慧相關「能力、機會、風險和不確定性」的報告。
然而，讓全世界都遵守一項法規也面臨挑戰。
「對一個地方可能有利的事情可能對另一個地方不利，」他告訴專家小組。
Chakravarti 認為獲得監管的最佳方式是監管應用程序，並解釋說，例如，健康人工智慧技術將透過健康標準進行監管，而健康標準已經在全球範圍內達成共識。
對他來說，最重要的是增加資料中心等基礎設施，以便欠發達國家能夠建立自己的人工智慧技術。
然而，曾慶紅提出了全球監管的理由，認為“你不可能在所有事情上都達成一致，但你可以在基本原則上達成一致。”
他警告說：“我們必須對長期挑戰保持謹慎，因為晚了就為時已晚。”
大科技壟斷與開源技術
人工智慧的經濟和社會效益在地理上集中，主要集中在北半球。
美國大型科技公司正在主持人工智慧秀，微軟對 ChatGPT 製造商 OpenAI 進行了大量投資，而Google、Meta 和伊隆馬斯克則推出了自己的生成式人工智慧平台。
普華永道表示，到 2030 年，人工智慧將為全球經濟貢獻高達 15.7 兆美元。 2023 年報告發現，雖然全球經濟所有地區都將從人工智慧中受益，但北美和中國的 GDP 增幅將最大。
令人擔憂的是，更多已開發國家將創造這些技術，這意味著他們將為世界制定規則並擴大全球經濟鴻溝。
但該小組一致認為開源人工智慧可能是更公平系統的解決方案。
開源人工智慧意味著可以出於任何目的修改模型，包括更改其輸出以及共享系統以供其他人在修改或不修改的情況下使用。
這將允許任何人修改和查看模型並創建自己的人工智慧系統。
阿瓦達拉幾年前曾表示，他會擔心誰控制著人工智慧。但他表示他很樂觀，因為“開源人工智慧可以防止一兩家公司控制人工智慧系統。”
倫敦大學學院知識實驗室以學習者為中心的設計教授 Rose Luckin 表示，開源人工智慧「對於欠發達國家來說是一個跨越的巨大機會。我認為這是一個真正的機會，但各國需要了解[這項技術]。
「我認為我們會看到一些真正創新的東西，並且可能來自一個想法不同的小國家，」她補充道。
