週四，美國一名聯邦法官對兩名律師和一家律師事務所處以 5,000 美元（4,600 歐元）的罰款，這是前所未有的案例，ChatGPT 因在航空傷害索賠中提交虛假法律研究而受到指責。
法官凱文卡斯特爾 (P Kevin Castel) 表示，他們的行為是惡意的。但他讚揚了他們的道歉和採取的補救措施，解釋了為什麼沒有必要採取更嚴厲的製裁來確保他們或其他人不會再次讓人工智慧工具促使他們在論點中製造虛假的法律歷史。
卡斯特寫道：“技術進步是司空見慣的，使用可靠的人工智慧工具提供幫助並沒有本質上的不當之處。”
「但現有規則對律師施加了把關作用，以確保他們提交的文件的準確性」。
法官表示，律師和他們的律師事務所Levidow, Levidow & Oberman, PC「提交了不存在的司法意見，其中包含人工智慧工具ChatGPT 創建的虛假引文和引文，從而放棄了自己的責任，然後繼續堅持這些虛假意見」在司法命令對它們的存在提出質疑之後」。
該律師事務所在聲明中表示，將遵守卡斯特的命令，但補充說：「我們非常不同意我們公司任何人存在惡意行為的調查結果。
「我們已經向法院和我們的客戶道歉。我們仍然相信，面對法院承認的前所未有的情況，我們犯了一個善意的錯誤，沒有相信一項技術可以彌補用整布製成的箱子」。
該公司表示正在考慮是否上訴。
“胡言亂語”和“無稽之談”
卡斯特表示，這種惡意是由於律師們未能對法官及其法律對手作出適當回應，因為他們注意到列出的支持他們3月1日書面論點的六個法律案件並不存在。
法官引用了律師史蒂文·A·施瓦茨(Steven A Schwartz)提供的「不斷變化且相互矛盾的解釋」。他說，律師彼得·洛杜卡謊稱正在度假，並且在確認提交給卡斯特的陳述的真實性方面不誠實。
在本月稍早的一次聽證會上，施瓦茨表示，他使用人工智慧驅動的聊天機器人幫助他找到支持客戶針對哥倫比亞阿維安卡航空公司 2019 年航班受傷案件的法律先例。
微軟已向 ChatGPT 背後的公司 OpenAI 投資約 10 億美元（9.185 億歐元）。
該聊天機器人會根據用戶的提示產生類似文章的答案，並提出了一些涉及航空事故的案例，施瓦茨無法透過其律師事務所使用的常規方法找到這些案例。
其中一些案件並不真實，法官的身份被錯誤識別，或者涉及的航空公司並不存在。
法官表示，聊天機器人生成的虛假判決之一“具有一些表面上與實際司法判決一致的特徵”，但他表示其他部分包含“胡言亂語”並且“毫無意義”。
在另一份書面意見中，法官駁回了相關的航空索賠，稱訴訟時效已過。
施瓦茨和洛杜卡的律師沒有立即回應美聯社的置評請求。
