ChatGPT 製作者開放人工智慧概述了一項防止其工具被用來傳播選舉的計劃誤傳50多個國家的選民準備在今年的全國選舉中投票。
這家總部位於舊金山的人工智慧(AI) 新創公司在本週的一篇部落格文章中闡述了保護措施，其中包括現有政策和新舉措的結合，以防止濫用其廣受歡迎的生成人工智慧工具。
他們可以在幾秒鐘內創建新穎的文字和圖像，但也可以用來炮製誤導性資訊或令人信服的虛假照片。
這些步驟將專門適用於 OpenAI，在不斷擴大的開發先進生成人工智慧工具的公司中，OpenAI 只是其中之一。
該公司週一宣布了這些舉措，並表示計劃「透過提高準確的投票資訊、執行謹慎的政策和提高透明度來繼續我們的平台安全工作」。
AI說服力研究
該公司表示，將禁止人們使用其技術創建冒充真實候選人或政府、歪曲投票方式或阻止人們投票的聊天機器人。
該公司表示，在對其技術的說服力進行更多研究之前，它不會允許用戶出於政治競選或遊說的目的建立應用程式。
OpenAI 表示，從「今年年初」開始，它將為使用 DALL-E 影像生成器創建的 AI 影像添加數位浮水印。
這將用有關其來源的資訊永久標記內容，從而更容易識別出現在網路其他位置的圖像是否是使用 AI 工具創建的。
該公司還表示，它正在與全國國務卿協會合作，引導那些詢問有關投票的後勤問題的 ChatGPT 用戶在該組織的無黨派網站 CanIVote.org 上獲取準確資訊。
布倫南司法中心民主項目顧問 Mekela Panditharatne 表示，OpenAI 的計劃是打擊選舉錯誤訊息的積極一步，但這將取決於它們的實施方式。
“例如，在標記有關選舉過程的問題時，過濾器的詳盡程度和全面性如何？”她說。 “會有物品從縫隙中溜走嗎？”
OpenAI 的 ChatGPT 和 DALL-E 是迄今為止最強大的生成式人工智慧工具之一。但有許多擁有類似先進技術的公司卻沒有那麼多的選舉錯誤資訊保護措施。
採用產生人工智慧指南
雖然 YouTube 和 Meta 等一些社群媒體公司已經推出了人工智慧標籤政策，但它們是否能夠持續抓獲違規者還有待觀察。
布魯金斯學會技術創新中心高級研究員達雷爾·韋斯特（Darrell West）表示：「如果其他生成式人工智慧公司也採用類似的指導方針，那麼這將很有幫助，這樣就可以在全行業範圍內執行實際規則。
如果整個行業不自願採取此類政策，監管人工智慧在政治中產生的虛假資訊將需要立法。在美國，儘管得到了一些兩黨的支持，國會尚未通過旨在規範該行業在政治中角色的立法。
同時，隨著聯邦立法的停滯，美國超過三分之一的州已經通過或提出了解決政治競選中深度造假問題的法案。
OpenAI 執行長 Sam Altman 表示，即使公司的所有保障措施都已到位，他的心情仍不放心。
「我認為我們有很多焦慮是件好事，我們將盡一切努力讓事情盡可能正確，」他在周二的彭博活動中接受采訪時說道。達沃斯世界經濟論壇， 瑞士。
「今年我們必須非常密切地關注這一點。超嚴格的監控。超嚴格的回饋循環」。
