你會說人工智慧嗎?法語學者警告不要讓英語主導人工智慧

法語學者對英語在人工智慧(AI)發展中的主導地位發出警報,警告「全球文化多樣性」和「國家主權」的潛在風險。

在一個開放的在生命未來研究所周五發布的報告中,專家表示,人工智慧模型和安全評估缺乏語言和文化多樣性。

他們認為這些缺陷「對分發國家的國家主權和使用者的安全構成威脅」。

專家呼籲全球領導人和科技巨頭在人工智慧開發中優先考慮多語言,不要將其視為事後的想法,而是創建安全、公平和真正全球人工智慧的基本面向。

一月份,布朗大學的研究人員發現,當 OpenAI 的 GPT-4 收到祖魯語或蘇格蘭蓋爾語等語言的請求時,旨在阻止 OpenAI 的 GPT-4 回答危險提示的安全措施失敗了。這使得研究人員能夠獲得人工智慧生成的關於如何製造自製炸彈的答案。

這個漏洞之所以成為可能,是因為向人工智慧發出的指令是用其訓練資料中大多不存在的語言進行的。翻譯是透過谷歌翻譯完成的。

這封信的發表恰逢法語國家高峰會開幕以及法國準備在二月主辦人工智慧行動高峰會的同一天。

法國毫不掩飾地希望成為人工智慧中心,政府投資了科技和生成式人工智慧新創公司超級明星 MistralAI 和 H Company。

然而,主要科技公司卻用英語發布和開發他們的人工智慧模型。

儘管人工智慧模型有許多其他語言版本,但許多當地語言並未包含在內,且資料集通常以英語進行訓練。

學者表示,人工智慧以英語為中心的方法可能會在不同的語言環境中導致嚴重的誤解和錯誤的決策。

這封信的簽署人包括非洲網路治理論壇(AFIGF)多利益相關方諮詢小組(MAG)副主席穆罕默德·法拉哈特(Mohamed Farahat)以及瑞士洛桑聯邦理工學院和突尼斯教育部等代表。

未來生命研究所人工智慧安全高峰會負責人伊馬內·貝洛(Imane Bello) 表示:「這封信呼籲制定國際標準,以確保系統安全且對所有用戶有利,並滿足多語言和多文化評估的關鍵需求。

不過,她表示這對英語國家也很重要。

「如果不考慮與多語言人工智慧安全相關的考慮因素,那麼當前和正在進行的圍繞評估科學的工作可能會錯過一個非常重要的部分,」她說。

「第二件事是,沒有這個特別重要的部分可能會導致弱勢社區受到傷害,」她補充道。