人工智慧（AI）領域的著名專家一直對該領域最新進展的速度和規模發出警報，警告它們對人類構成了威脅。
其中包括被稱為「人工智慧教父」的屢獲殊榮的電腦科學家傑弗裡·辛頓 (Geoffrey Hinton)，他上個月辭去谷歌的工作，分享他的擔憂關於新人工智慧工具不受限制的開發。
「我突然改變了對這些東西是否會比我們更聰明的看法，」75 歲的 Hinton 在本週接受《麻省理工科技評論》採訪時說道。
“我認為他們現在已經非常接近這個目標了，未來他們會比我們聰明得多……我們如何才能生存下來？”
辛頓並不是唯一一個有這種擔憂的人。今年 2 月，就連 ChatGPT 開發商 OpenAI 的執行長 Sam Altman 也表示，世界可能「離我們並不遙遠」。潛在的可怕人工智慧工具——監管至關重要，但需要時間來弄清楚。
在這家微軟支持的新創公司於 3 月發布其最新的人工智慧模型 GPT-4 後不久，1000 多名研究人員和技術人員簽署了一封信，呼籲六個月的暫停他們表示，人工智慧的發展「為社會和人類帶來了巨大的風險」。
以下是辛頓和其他專家表達的最大擔憂。
1.人工智慧可能已經比我們更聰明了
我們的人腦能夠解方程式、駕駛汽車和追蹤 Netflix 連續劇，這要歸功於他們組織和儲存資訊以及推理出棘手問題解決方案的天賦。
我們的頭骨中約有 860 億個神經元，更重要的是，這些神經元之間建立了 100 兆個連接，使這一切成為可能。
Hinton 表示，相較之下，ChatGPT 的底層技術擁有 5,000 億到 1 兆個連接。 Hinton 指出，儘管這似乎使其相對於我們處於重大劣勢，但 OpenAI 的最新人工智慧模型 GPT-4 的知識比任何人類「多數百倍」。他認為，也許它擁有比我們“更好的學習演算法”，使其在認知任務上更有效率。
研究人員早就注意到，人工神經網路比人類需要更多的時間來吸收和應用新知識，因為訓練它們需要大量的能量和數據。
Hinton 認為，現在情況已不再如此，並指出，一旦經過研究人員的適當訓練，像 GPT-4 這樣的系統就可以非常快速地學習新事物。這與受過訓練的專業物理學家比典型的高中理科生更快地理解新實驗結果的方式沒有什麼不同。
這讓 Hinton 得出這樣的結論：人工智慧系統可能已經比我們更聰明了：它們不僅可以更快地學習東西，而且幾乎可以立即相互共享知識的副本。
「這是一種完全不同的智力形式，」他告訴《麻省理工科技評論》。 「一種新的、更好的情報形式」。
2.人工智慧可以「加速」錯誤訊息的傳播
比人類更聰明的人工智慧系統會做什麼？一種令人不安的可能性是，惡意的個人、團體或民族國家可能只是拉攏他們來達到自己的目的。
數十個假新聞網站根據 NewsGuard 的一份新報告，這些內容已經以多種語言在網路上傳播，有些每天發布數百篇人工智慧生成的文章，該報告評估網站的可信度並追蹤線上錯誤訊息。
Hinton 特別擔心人工智慧工具可能被訓練來影響選舉甚至發動戰爭。
例如，透過人工智慧聊天機器人傳播的選舉錯誤訊息可能是透過 Facebook 和其他社群媒體平台傳播的選舉錯誤訊息的未來版本。
這可能只是一個開始。
辛頓在文章中說：“不要以為普丁不會製造出以殺死烏克蘭人為目標的超智能機器人。” 「他不會猶豫」。
3.人工智慧會讓我們變得裁員嗎？
OpenAI 估計，美國 80% 的工人的工作可能會受到人工智慧的影響，高盛的一份報告稱，這項技術可能會讓全球 3 億個全職工作面臨風險。
辛頓表示，當「智慧事物比我們更聰明」時，人類的生存就會受到威脅。
週三，辛頓在家中透過影片在《麻省理工科技評論》舉行的 EmTech 數位會議上表示：“這可能會讓我們在一段時間內保持發電站的運作。” 「但在那之後，也許不會」。
辛頓說：“通過閱讀所有的小說和馬基雅維利寫過的所有東西，我們會學到如何操縱人們。” 「即使他們不能直接拉動槓桿，他們也一定能讓我們拉動槓桿」。
4.我們不太知道如何阻止它
「我希望我有一個可以推動的簡單的解決方案，但我沒有，」Hinton 補充道。 「我不確定是否有解決方案」。
然而，各國政府正密切關注人工智慧的崛起。白宮已召集谷歌、微軟和 ChatGPT 製造商 OpenAI 的首席執行官於週四與副總統卡瑪拉·哈里斯會面，官員們稱此次會議是關於如何減輕近期和長期風險的坦率討論他們的技術。
歐洲立法者也在加速談判，以透過全面的新人工智慧規則，英國競爭監管機構計劃研究人工智慧對消費者、企業和經濟的影響，以及是否需要對 ChatGPT 等技術實施新的控制。
目前尚不清楚的是，如何才能阻止像俄羅斯這樣的國家利用人工智慧技術來統治其鄰國或本國公民。
Hinton 表示，類似 1997 年《化學武器公約》的全球協議可能是建立反對武器化人工智慧國際規則的良好開端。
但同樣值得注意的是，化學武器契約並沒有阻止調查人員發現敘利亞在 2017 年和 2018 年血腥內戰期間可能使用氯氣和神經毒劑沙林針對平民的攻擊。
