ChatGPT 是有史以來成長最快的應用程序，它為人們提供了智慧大型語言模型人工智慧 (AI) 的強大功能——在互聯網上的大量資訊資料庫上進行訓練——觸手可及。
這種新的力量已經改變了許多人的工作方式或在網路上搜尋資訊的方式，OpenAI 的技術既激發了人們對人工智慧未來前景的興奮，也激發了人們對它正在發生的變化的擔憂。迎來.
圍繞 ChatGPT 等人工智慧技術的擔憂之一是犯罪分子和其他不良行為者會利用這種能力做什麼。
這就是歐盟執法機構歐洲刑警組織在最近題為「ChatGPT」的報告中所調查的內容。大型語言模式對執法的影響'。
報告指出，ChatGPT 基於 OpenAI 的 GPT3.5 大語言模型技術構建，可以使「惡意行為者更容易更好地理解並隨後實施各種類型的犯罪」。
這是因為，雖然 ChatGPT 訓練的資訊已經可以在網路上免費取得，但如果使用者提出正確的上下文問題，該技術就能夠提供有關各種主題的分步說明。
歐洲刑警組織警告說，聊天機器人（LLM）可能會協助犯罪分子執行以下犯罪類型。
欺詐、冒充和社會工程
ChatGPT 和其他聊天機器人（例如 Google 的 Bard）能夠根據用戶提示就任何主題提供類似人類的寫作，這讓用戶感到驚訝。
他們可以模仿名人的寫作風格，並從輸入的文本中學習寫作風格，然後以所學的風格創作更多的寫作。這使得該系統有可能被想要冒充某人或組織的寫作風格的犯罪分子所利用，這可能會被用於網路釣魚詐騙。
歐洲刑警組織也警告說，ChatGPT 可能被用來為各種類型的網路詐騙提供合法性，例如透過創建大量虛假社群媒體內容來宣傳詐騙投資要約。
電子郵件或社群媒體通訊中潛在詐欺的明確跡象之一是犯罪分子編寫內容時犯下的明顯拼字或文法錯誤。
憑藉法學碩士的力量，即使是不懂英語的犯罪分子也能夠產生不再有這些危險信號的內容。
這項技術也已經成熟，可以被那些想要創造和傳播宣傳和虛假訊息的人使用，因為它擅長以極快的速度提出論點和敘述。
初學者的網路犯罪
ChatGPT不僅擅長寫字，也精通多種程式語言。根據歐洲刑警組織的說法，這意味著它可能會對網路犯罪產生影響。
報告警告說：“利用當前版本的 ChatGPT，已經可以創建用於各種惡意目的的基本工具。”
例如，這些將是生成網路釣魚頁面的基本工具，但它使幾乎沒有編碼知識的犯罪分子能夠創建他們以前無法創建的東西。
法學碩士能力的不可避免的提高意味著未來幾年來自犯罪分子的剝削「前景黯淡」。
事實上，OpenAI 的最新版本變壓器 GPT-4 能夠更好地理解程式碼上下文並糾正錯誤，這對於缺乏技術知識的犯罪分子來說意味著「這是一個無價的資源」。
歐洲刑警組織警告說，隨著人工智慧技術的不斷進步，它可能會變得更加先進，「因此很危險」。
Deepfakes 已經對現實世界產生了影響
歐洲刑警組織警告的 ChatGPT 用例只是可能被犯罪分子利用的人工智慧領域之一。
已經出現了人工智慧深度造假被用來欺騙和傷害人們的案例。在一個案例中，一名女性表示，當她發現自己的色情照片在網路上流傳時，她才 18 歲，儘管她從未拍攝或分享過這些照片。
她的臉已被數字添加到另一個人身體的圖像中。她告訴歐洲新聞台，這是「終身監禁」。 Deeptrace Labs 2019 年的一份報告發現，線上 96% 的 Deepfake 內容都是未經同意的色情內容。
在另一個案例中，人工智慧被用來模仿某人的聲音，透過音訊深度偽造技術來欺騙其家人。
歐洲刑警組織在報告的最後指出，執法部門「保持在這些發展的最前沿」並預測和防止人工智慧的犯罪使用非常重要。
