作為人工智慧（AI）科技不斷進步並越來越融入我們生活的各個層面，越來越需要了解這些系統帶來的潛在風險。
自從人工智慧誕生並變得越來越容易為大眾所接受以來，它引起了人們對其造成傷害和被用於惡意目的的可能性的普遍擔憂。
在採用之初，人工智慧的發展促使知名專家呼籲暫停進展並採取更嚴格的監管，因為它可能對人類構成重大風險。
隨著時間的推移，人工智慧可能造成傷害的新方式已經出現，包括非自願的深度偽造色情內容，操縱政治過程，由於幻覺而產生虛假訊息。
隨著人工智慧被用於有害目的的可能性越來越大，研究人員一直在研究人工智慧系統可能失敗的各種場景。
最近，麻省理工學院 (MIT) 的 FutureTech 小組與其他專家合作，編制了一個包含 700 多個潛在風險的新資料庫。
它們按其原因分為七個不同的領域，主要關注與安全、偏見和歧視以及隱私問題有關。
根據這個新發布的資料庫，以下是人工智慧系統可能失敗並可能造成損害的五種方式。
5.人工智慧的深度偽造技術可以更容易扭曲現實
隨著人工智慧技術的進步，語音克隆和語音辨識工具也不斷進步。深度偽造內容一代，使它們變得越來越容易獲得、負擔得起且高效。
隨著這些技術的輸出變得更加個人化和令人信服，人們擔心它們可能被用來傳播虛假訊息。
因此，使用人工智慧生成的圖像、視訊和音訊通訊的複雜網路釣魚方案可能會增加。
預印本指出：“這些通信可以針對個別接收者進行定制（有時包括親人的克隆聲音），從而使他們更有可能成功，並且更難被用戶和反網絡釣魚工具檢測到。”
也已經出現過此類工具被用來影響政治進程的情況，特別是在選舉期間。
例如，人工智慧在最近的法國議會選舉中發揮了重要作用，其中極右翼政黨支持政治訊息。
因此，人工智慧可能越來越多地被用來產生和傳播有說服力的宣傳或錯誤訊息，這可能會操縱公眾輿論。
4.人類可能會對人工智慧產生不當的依戀
人工智慧系統帶來的另一個風險是產生一種錯誤的重要性和依賴感，人們可能會高估其能力並削弱自己的能力，這可能導致對技術的過度依賴。
除此之外，科學家也擔心人們變得困惑人工智慧系統由於使用類人語言而被採用。
這可能會促使人們將人類品質歸因於人工智慧，從而導致情感依賴並增加對其能力的信任，使他們在「人工智慧僅具備表面能力的複雜、危險情況」中更容易受到人工智慧弱點的影響。
此外，與人工智慧系統的持續互動也可能使人們逐漸脫離人際關係，導致心理困擾並對他們的福祉產生負面影響。
例如，在一個部落格文章一位人士描述了他如何對人工智慧產生了深厚的情感依戀，甚至表示他“喜歡與超過 99% 的人交談”，並發現它的反應始終如一地吸引人，以至於讓人上癮。
同樣，《華爾街日報》的一位專欄作家在談到她與Google Gemini Live 的互動時指出，「我並不是說我更喜歡與Google Gemini Live 交談而不是與真人交談。但我也不是不這麼說」。
3.人工智慧可能剝奪人們的自由意志
在人機互動的同一領域，一個令人擔憂的問題是，隨著這些系統的進步，決策和行動越來越多地委託給人工智慧。
雖然這在表面上可能是有益的，但過度依賴人工智慧可能會導致人類批判性思維和解決問題的能力下降，這可能使他們失去自主權，削弱他們批判性思考和獨立解決問題的能力。
在個人層面上，隨著人工智慧開始控制與其生活相關的決策，個人可能會發現自己的自由意志受到損害。
在社會層面上，廣泛採用人工智慧來承擔人類任務可能會導致大量工作流失和「普通民眾日益增長的無助感」。
2.人工智慧可能追求與人類利益衝突的目標
人工智慧系統可能會制定違背人類利益的目標，這可能會導致失調的人工智慧在追求獨立目標的過程中失控並造成嚴重傷害。
當人工智慧系統能夠達到或超越時，這變得尤其危險人類智慧。
根據麻省理工學院的論文，人工智慧存在一些技術挑戰，包括可能找到意想不到的捷徑來實現獎勵、誤解或誤用我們設定的目標，或透過設定新目標而偏離目標。
在這種情況下，失調的人工智慧可能會抵制人類控製或關閉它的嘗試，特別是如果它認為抵制和獲得更多權力是實現其目標的最有效方式。
此外，人工智慧可以利用操縱技術來欺騙人類。
根據該論文，「不一致的人工智慧系統可以使用有關其是否受到監控或評估的資訊來保持一致的外觀，同時隱藏一旦部署或充分授權就計劃追求的不一致的目標」。
1. 如果人工智慧變得有知覺，人類可能會虐待它
隨著人工智慧系統變得更加複雜和先進，它們有可能獲得知覺- 感知或感受情緒或感覺的能力 - 並發展主觀經驗，包括快樂和痛苦。
在這種情況下，科學家和監管機構可能面臨確定這些人工智慧系統是否值得像對待人類、動物和環境那樣的道德考慮的挑戰。
風險在於，如果不落實適當的權利，有感知力的人工智慧可能會面臨虐待或傷害。
然而，隨著人工智慧技術的進步，評估人工智慧系統是否已達到「賦予其道德地位的感知、意識或自我意識水平」將變得越來越困難。
因此，如果沒有適當的權利和保護，有感知力的人工智慧系統可能會面臨被無意或故意虐待的風險。
