大型技術公司週五簽署了一項公約，以自願採取“合理的預防措施”，以防止人工智能（AI）工具被用來破壞世界各地的民主選舉。
來自Adobe，Amazon，Google，IBM，Meta，Microsoft，OpenAI和Tiktok的高管聚集在慕尼黑安全會議上AI生成的深擊那是故意欺騙選民。
包括埃隆·馬斯克（Elon Musk）的X在內的其他十二家公司也正在簽署協議。
“每個人都認識到，沒有一家科技公司，沒有一個政府，沒有一個民間社會組織能夠獨自處理這項技術的出現及其可能的邪惡用途。” Facebook和Instagram的母公司在峰會之前的一次採訪中。
該協議在很大程度上是像徵性的，但針對越來越現實的AI產生的圖像，音頻和視頻“欺騙性地偽造或改變了民主選舉中政治候選人，選舉官員和其他主要利益相關者的外表，聲音或行動向選民提供有關何時，何時以及如何合法投票的虛假信息”。
兩家公司不承諾禁止或刪除深層。取而代之的是，雅閣概述了他們將在創建或分佈在其平台上時試圖檢測和標記欺騙性AI內容的方法。
它指出，當該內容開始傳播時，公司將分享最佳實踐，並提供“迅速而相稱的響應”。
缺乏約束力要求
承諾的模糊性和缺乏約束力的要求可能有助於贏得各種各樣的公司，但失望的擁護者正在尋找更強有力的保證。
兩黨政策中心選舉項目高級副主任雷切爾·奧雷（Rachel Orey）說：“這種語言並不像人們預期的那樣強大。”
“我認為我們應該在應得的信貸的情況下給予信貸，並承認這些公司確實對他們的工具確實有既得利益的興趣。關於他們是否遵循”。
克萊格說，每家公司都“正確地有自己的內容政策”。
他說：“這並不是要試圖對所有人施加緊身衣。”
“無論如何，沒有人在業內人士認為，您可以通過將地毯下的東西掃描，試圖玩whack-a-mole並找到您認為可能會誤導某人的一切來處理一個全新的技術範式。”
來自歐洲和美國的幾位政治領導人也加入了周五的公告。歐盟委員會副主席Vera Jourova說，儘管這項協議不能全面，但“它包含非常有影響力和積極的要素”。
她還敦促政治人物負責不使用AI工具，並警告說，AI造成的虛假信息可能會帶來“民主的終結，不僅在歐盟成員國中”。
人工智能選舉干預已經在進行
德國城市年度安全會議的協議是在2024年舉行全國選舉的，孟加拉國，台灣，巴基斯坦和最近的印度尼西亞已經這樣做。
AI生成的選舉干預的嘗試已經開始，例如AI Robocall模仿時美國總統喬·拜登的聲音試圖阻止人們上個月在新罕布什爾州的初選中投票。
就在斯洛伐克11月大選的前幾天，AI生成的錄音模仿了候選人，討論了提高啤酒價格並挖掘選舉的計劃。事實檢查者爭先恐後地將它們識別為散佈在社交媒體上的錯誤。
政客還嘗試了這項技術，從使用AI聊天機器人與選民進行交流到向廣告添加AI生成的圖像。
協議呼籲平台“關注上下文，尤其是保護教育，紀錄片，藝術，諷刺和政治表達”。
它說，兩家公司將專注於用戶有關其政策的透明度，並致力於教育公眾如何避免為AI假貨墜落。
大多數公司此前曾表示，他們正在將保障措施放在自己的生成AI工具上，這些工具可以操縱圖像和聲音，同時還致力於識別和標記AI生成的內容，以便社交媒體用戶知道他們所看到的是否真實。但是，大多數擬議的解決方案尚未推出，這些公司面臨著做更多的壓力。
在美國，國會尚未通過規範政治中的AI的法律，使公司在很大程度上統治自己。
聯邦通信委員會最近確認在Robocalls中生成的AI生成的音頻剪輯違反了法律，但是當他們在社交媒體上或競選廣告中散發時，這並不能涵蓋音頻的深擊。
許多社交媒體公司已經制定了製定政策來阻止有關選舉程序的欺騙性職位 - AI生成與否。
梅塔表示，它消除了關於“投票，選民註冊或人口普查參與的日期，地點，時間和方法”以及其他旨在干擾某人公民參與的虛假帖子的錯誤信息。
與協定的缺席者
Integrity Institute的聯合創始人，前Facebook數據科學家Jeff Allen表示，該協議似乎是“積極的一步”，但他仍然希望看到社交媒體公司採取其他行動來打擊錯誤信息，例如建立內容建議建議沒有優先考慮參與的系統。
倡導集團公民執行副總裁麗莎·吉爾伯特（Lisa Gilbert）週五辯稱，該協議是“不夠”的，AI公司應該“阻止技術”，例如超現實的文本到視頻發電機，直到有實質性和實質性有足夠的保障措施，以幫助我們避免許多潛在的問題”。
除了幫助經紀人周五協議的公司外，其他簽署者還包括聊天機器人開發人員人道和拐點AI；語音克隆初創公司Elevenlabs；芯片設計師手臂持有；安全公司McAfee和TrendMicro；和穩定性AI，以使圖像生成器穩定擴散而聞名。
值得注意的是另一個流行的AI圖像生成器Midjourney。這家總部位於舊金山的初創公司沒有立即回應週五的置評請求。
包括X的包含 - 在較早的關於待處理協議的公告中未提及 - 是周五協議的驚喜之一。
馬斯克（Musk）接管了以前的Twitter之後，削減了內容調整團隊，並將自己描述為“言論自由專家”。
X首席執行官Linda Yaccarino在周五的一份聲明中說：“每個公民和公司都有責任維護免費和公正的選舉”。
她說：“ X致力於發揮自己的作用，與同齡人合作以應對AI威脅，同時也保護言論自由並最大程度地提高透明度。”
