上週，人工智慧生成的泰勒絲 (Taylor Swift) 深度偽造色情圖片瘋傳後，社群媒體平台 X 暫時阻止了泰勒絲 (Taylor Swift) 名字的搜尋。
在該帳戶被暫停之前，該平台上發布的一張斯威夫特的假照片被瀏覽了 4700 萬次。
在 X 的安全團隊回應之前，該資料已被分享數萬次：「我們對此類內容採取零容忍政策。我們的團隊正在積極刪除所有已識別的圖像，並對負責發布這些圖像的帳戶採取適當的行動。
現在，在 X 上搜尋 Swift 的名字和「AI Taylor Swift」將引導用戶進入一個頁面，上面寫著：「出了點問題。嘗試重新加載。
X 的業務營運主管 Joe Benarroch 在 Variety 的一份聲明中表示：“這是一項臨時行動，我們在這個問題上將安全放在首位，因此非常謹慎。”
與此同時，Meta 在一份聲明中表示，它強烈譴責“不同網路服務中出現的內容”，並已努力將其刪除。
該公司表示：“我們將繼續監控我們平台上的違規內容，並將根據需要採取適當行動。”
又是網路上的一天，但我們談論的是 Swift，所以事情很快就升級了...
迅速動員
這位歌手的“Swifties”動員起來，在以前稱為 Twitter 的平台上發起反擊，並使用 #ProtectTaylorSwift 標籤，在該平台上發布更多這位流行歌星的正面形象。
然後賭注就提高了…
白宮介入，稱這起事件「令人震驚」。
白宮新聞秘書卡琳·讓-皮埃爾在一份聲明中表示：「我們知道，執法不嚴對女性造成了不成比例的影響，不幸的是，她們也影響到了女孩，她們是壓倒性的目標。
讓-皮埃爾甚至建議應該制定一項立法來處理人工智慧在社群媒體上的濫用問題。
如果這種快速反應適用於對深度假貨、濫用假圖像、報復性色情和其他形式的有害網路騷擾有類似投訴的非億萬富翁…
儘管如此，還是在力所能及的地方取得進展，這一事件似乎讓事情發生了一些變化。提醒一下，美國目前沒有聯邦法律禁止共享或創建深度偽造圖像——儘管州一級採取了一些措施來解決這個問題。
生成式人工智慧的弊病
聯邦立法者提出了更多限製或將深度偽造色情內容定為犯罪的法案，他們表示，這一事件表明美國需要實施更好的保護措施。
來自紐約的民主黨眾議員伊維特·D·克拉克(Yvette D. Clarke) 表示：「多年來，女性一直是未經同意的深度造假的受害者，因此泰勒·斯威夫特(Taylor Swift) 的遭遇比大多數人意識到的更為普遍。
「生成式人工智慧正在幫助以極低的成本創造出更好的深度贗品，」克拉克說。
美國眾議員喬·莫雷爾（Joe Morelle）是另一位紐約民主黨人，他正在推動一項法案，將在線分享深度偽造色情內容定為犯罪，他表示，斯威夫特身上發生的事情令人不安，並且在網路上變得越來越普遍。
莫雷爾在聲明中說：「這些圖像可能是假的，但它們的影響是非常真實的。」「在我們日益數位化的世界裡，深度偽造品每天都在發生在世界各地的女性身上，是時候制止它們了。
Deepfakes 使用人工智慧透過操縱某人的臉部或身體來製作某人的影片。
研究人員表示，在過去幾年中，明顯的深度偽造的數量有所增加，因為用於生成此類影像的技術變得更容易獲得和使用。 2019 年，人工智慧公司 DeepTrace Labs 發布的一份報告顯示，這些影像絕大多數都是針對女性的武器。據稱，大多數受害者是好萊塢演員和韓國流行歌手。
滾石雜誌的資深作家布列塔尼·斯帕諾斯（Brittany Spanos）在紐約大學教授有關斯威夫特的課程，她在談到最近的斯威夫特事件時表示：「如果她真的將此事告上法庭，這可能是一件大事。
斯帕諾斯表示，深層的假色情問題與斯威夫特過去遇到的其他問題是一致的，並指出她在 2017 年對一名據稱對她進行猥褻的廣播電台 DJ 提起訴訟；陪審團判給斯威夫特1 美元的損害賠償金，她的律師道格拉斯·鮑德里奇(Douglas Baldridge) 稱這筆金額是「具有像徵意義的一美元，對於處於這種情況的所有女性來說，其價值是無法估量的」。
