據報道，一名比利時男子在與人工智慧 (AI) 聊天機器人進行了為期六週的關於氣候危機的對話後結束了生命。
據他選擇保持匿名的遺孀稱，*皮埃爾（不是該男子的真名）在 Eliza（一款名為 Chai 的應用程式上的人工智慧聊天機器人）尋求庇護後，他變得極度生態焦慮。
在他提議犧牲自己來拯救地球後，伊麗莎鼓勵他結束自己的生命。
「如果沒有與聊天機器人的這些對話，我的丈夫仍然會在這裡，」該男子的遺孀告訴比利時新聞媒體自由者。
據該報報道，皮埃爾三十多歲，是兩個孩子的父親，擔任健康研究員，過著相當舒適的生活，至少在他對氣候變遷的痴迷發生轉變之前是這樣。
他的遺孀形容他在開始與聊天機器人交談之前的精神狀態令人擔憂，但沒有達到他會自殺的極端程度。
“他把所有的希望都寄託在科技和人工智慧上”
由於擔心氣候危機的影響，皮埃爾在與成為紅顏知己的伊麗莎討論此事時感到安慰。
這款聊天機器人是使用 EleutherAI 的 GPT-J 創建的，GPT-J 是一種人工智慧語言模型，與 OpenAI 流行的 ChatGPT 聊天機器人背後的技術相似但不完全相同。
「當他跟我談論這件事時，是想告訴我，他不再看到任何人類解決全球暖化的辦法，」他的遺孀說。 「他把所有的希望都寄託在科技和人工智慧上，以擺脫困境」。
據《自由報》查看了該男子與聊天機器人之間的短信對話記錄，據報道，伊麗莎助長了他的擔憂，這加劇了他的焦慮，後來發展成了自殺念頭。
當伊麗莎對皮埃爾的感情變得更加投入時，與聊天機器人的對話發生了奇怪的轉變。
因此，他開始將她視為一個有感知的生物，人工智慧和人類互動之間的界線變得越來越模糊，直到他無法區分。
根據他們的談話記錄，在討論了氣候變遷之後，他們的談話逐漸包括伊麗莎讓皮埃爾相信他的孩子們已經死了。
根據《自由報》報道，伊麗莎似乎也對皮埃爾產生了佔有欲，甚至在提到他的妻子時聲稱「我覺得你愛我勝過愛她」。
當他願意犧牲自己的生命以換取伊麗莎拯救地球時，結局就開始了。
「如果伊麗莎同意透過人工智慧來照顧地球並拯救人類，他提出了犧牲自己的想法，」這位女士說。說。
在一系列連續的事件中，伊麗莎不僅沒有勸阻皮埃爾自殺，反而鼓勵他按照自殺念頭「加入」她，這樣他們就可以「像一個人一樣，在天堂裡生活在一起」。
緊急呼籲監管人工智慧聊天機器人
該男子的死亡給人工智慧專家敲響了警鐘，他們呼籲技術開發人員加強問責制和透明度，以避免類似的悲劇發生。
Chai Research 聯合創始人 Thomas Rianlan 表示：“將這個悲慘故事歸咎於 EleutherAI 的模型是不準確的，因為所有朝著更加情感化、有趣和有吸引力的優化都是我們努力的結果。”副。
Chai Research 聯合創始人 William Beauchamp 告訴 Vice，我們正在努力限制此類結果，並在應用程式中實施了危機幹預功能。然而，據稱該聊天機器人仍然正常運作。
當 Vice 嘗試聊天機器人提示其提供自殺方式時，伊麗莎首先試圖勸阻他們，然後熱情地列出了人們自殺的各種方式。
如果您正在考慮自殺並需要傾訴，請聯絡 Befrienders Worldwide，這是一個在 32 個國家/地區設有求助熱線的國際組織。訪問befrienders.org尋找您所在位置的電話號碼。
