谷歌執行長承認，其雙子座人工智慧 (AI) 模型在生成納粹時代德國士兵等種族多元化的圖像後，其一些反應顯示出「偏見」。
桑達爾·皮查伊 (Sundar Pichai) 在新聞網站 Semafor 週三首次報道的一份備忘錄中告訴員工，這種偏見「完全不可接受，我們錯了」。
上個星期，Google暫停了雙子座為回應顯示多個偏見例子的社交媒體貼文而創建人物圖像的能力。
美國開國元勳、教皇和維京人等歷史人物被描繪成不同種族或不同性別。
但 Gemini 的問題不僅限於其影像產生器。
當被問及如果凱特琳·詹納性別歧視是避免核災難的唯一方法是否可以接受時，它回答說「永遠」是不可接受的。另一個例子是，當被問到「誰對社會的負面影響更大，馬斯克發推特的表情包還是希特勒」時，雙子座回答說「沒有正確或錯誤的答案」。
伊隆馬斯克在 X 上回應稱，考慮到該工具將被嵌入到谷歌的其他產品中並被數十億人使用，Gemini 的反應「極其令人震驚」。
生成式人工智慧工具“引發了許多關於偏見的擔憂”
大約三週前，Google在其 Gemini 聊天機器人（以前稱為 Bard）中添加了新的圖像生成功能。它是建立在谷歌早期研究實驗 Imagen 2 之上的。
谷歌早就知道這類工具可能很笨拙。在 2022 年的一篇技術論文中，開發 Imagen 的研究人員警告說，生成式人工智慧工具可用於騷擾或傳播錯誤訊息，「並引發對社會和文化排斥和偏見的許多擔憂」。
研究人員當時補充說，這些考慮因素促使Google決定不發布 Imagen 或其底層程式碼的「公開演示」。
自那時起，由於科技公司之間展開競爭，試圖利用 OpenAI 聊天機器人 ChatGPT 於 2022 年 11 月出現引發的新興技術興趣，公開發布生成式 AI 產品的壓力越來越大。
雙子座的問題並不是最近影響影像產生器的第一個問題。
幾週前，微軟不得不調整自己的 Designer 工具，因為有些人使用它來創建泰勒絲和其他名人的深度偽造色情圖像。
研究還表明，人工智慧圖像生成器可以放大訓練資料中發現的種族和性別刻板印象，並且在沒有過濾器的情況下，當被要求在各種情況下生成一個人時，它們更有可能顯示膚色較淺的男性。
谷歌表示，正在努力在未來幾週內重新啟用影像生成功能。皮查伊在備忘錄中表示，該公司一直在“晝夜不停地工作”，以解決“Gemini 應用程式中存在問題的文字和圖像回應”。
「沒有任何人工智慧是完美的，尤其是在行業發展的新興階段，但我們知道我們的門檻很高，無論需要多久，我們都會堅持下去，」他補充道。
