「你把頭埋在沙子裡」

「我不知道 AI 會虛構事實」新墨西哥州辯護律師表示。

新墨西哥州最高法院裁定一名使用 ChatGPT 的律師直接藐視法庭，因為他提交的訴狀中包含「完全捏造證人的虛假證詞」，包括虛假警方證詞和其他錯誤。該州最高法院將這名律師轉交懲戒委員會進一步處理，並認定他「缺乏悔意，且不關心其客戶」。

律師 Stephen Aarons 向法院承認，「他在簽署並向法院提交其 AI 生成的訴狀之前，並未核實其中的事實主張和法律依據，也未告知其客戶這項疏失，或該訴狀包含多處事實和法律上的不實陳述。」

Aarons 在新墨西哥州擔任刑事辯護律師已逾 40 年，受被告家屬委託，為一宗謀殺罪定罪提出上訴。Aarons 現已不再是其客戶 Oscar Renee Sandoval 的律師，Sandoval 於 2025 年 2 月因殺害其伴侶兼子女母親 Shiereen Al-Jibury 而被判處無期徒刑。

大約一年前，即 2025 年 8 月，Aarons 提交了包含虛假證詞和其他錯誤的訴狀。數週後，新墨西哥州提出動議，要求刪除該訴狀的部分內容。

法院週三的命令指出：「被告向法院承認，該訴狀包含來自完全捏造證人的虛假證詞，包括警官 Michelle Amarillo、警官 Sanchez、Manal Al-Jibury 和 Teresa Marquez。」

律師將審判筆錄輸入 ChatGPT

Aarons 進一步承認提交了「Danny Stanton 關於他收到威脅的虛假證詞」、「Linda Stanton 關於她丈夫收到威脅的虛假證詞」，以及「Mariah Chavez 和 Teresa Marquez（捏造證人）關於槍手衣著和外貌的虛假證詞」。命令中還提到 Aarons 在引用過往案例時「錯誤陳述了法律依據」。

許多律師都曾因在訴狀中引用虛假案例或不準確描述真實案例而被發現。雖然 Aarons 並未引用虛假案例，但他卻不準確地描述了真實案例並引用了虛假證詞。

Aarons 在 8 月 21 日的聽證會上告訴州最高法院，他將謀殺案審判的電腦生成筆錄及其他相關文件輸入 ChatGPT，而 ChatGPT 輸出了這些虛假引文。

「知道我的愚蠢導致我們今天下午齊聚一堂，這讓我感到很不舒服」Aarons 對法院說。Aarons 承認他的訴狀引用了「幾位從未在審判中被傳喚的證人」，另一位「被傳喚但訴狀搞錯了名字的證人」，並且他的訴狀不準確地描述了先例。

Aarons 表示他使用的是由 OpenAI o3 模型驅動的 ChatGPT 版本，該模型於 2025 年初發布。他解釋說：「我以為它會生成一份無懈可擊的訴訟摘要」，因為 AI 在法律和醫療領域的廣泛應用，他認為它會是準確的。

在任何懲戒委員會調查和程序結果出爐之前，Aarons 被禁止在新墨西哥州最高法院出庭。他被罰款 5,000 美元，需支付給新墨西哥州律師公會客戶保護基金，但法院命令的懲戒程序可能會帶來更多罰款。

州最高法院命令公設辯護人辦公室為被告指派一名新律師，從記錄中刪除了所有先前的訴狀，並表示該案件將在法院的 2026-27 年度審理。

法官：「你把頭埋在沙子裡」

法官們在上個月的聽證會上嚴厲斥責 Aarons。他們對 Aarons 不知道 AI 工具會生成虛假資訊表示驚訝，並指出律師無論資訊來源為何，都必須核實其準確性。他們表示，無論律師是從 AI 工具、法學院學生還是同事那裡獲得幫助，簽署訴狀的律師都必須證明其準確性。

法官 C. Shannon Bacon 對 Aarons 的批評尤其尖銳。她告訴 Aarons，他「至少違反了行為準則中的八九條規定」。Bacon 表示，她「很難理解」Aarons 聲稱不知道 AI 幻覺的問題，並指出她 13 歲的姪子和 75 歲的繼母都意識到這個問題。

「所以律師，你有看新聞嗎？你有聽廣播嗎？你有閱讀任何關於世界上正在發生的事情嗎？因為律師依賴 AI 幻覺的問題，每天都是頭版新聞」她說。「所以你不是把頭埋在沙子裡，這是你選擇這樣做，一個故意選擇不了解情況，就是你賭了一把，這兩者都不符合行為準則。」

Aarons 回應說，他是在一年前提交的訴狀，「過去一年裡發生了很多事情」。然而，律師在訴狀中使用 AI 引用虛構案例的問題，在新聞中已經定期出現了三年多。

Aarons 補充說，他在訴狀中引用的案例並非虛假，儘管他的訴狀對它們的描述不準確。Bacon 回應說，不準確描述真實案例與引用虛假案例之間沒有「實質區別」，因為對法院坦誠的規則「同樣適用」於這兩種情況。

「我不知道 AI 會虛構事實」

Aarons 今天在接受 Ars 聯繫時發表了一份聲明。他說：「2025 年 3 月，我同意處理一宗上訴案，並使用 ChatGPT 總結審判程序。我撰寫了訴狀，但目錄和摘要中包含許多錯誤。」

「當時，我不知道 AI 不僅會在我的訴狀中，也會在其他律師提交的訴狀中虛構事實。我很高興法院駁回了我那有缺陷的訴狀，並命令公設辯護人為我的前客戶撰寫一份新訴狀。至於我自己，我感到懊悔，但希望懲戒委員會能考慮到這是一個誠實的錯誤。這對所有依賴這種強大但不穩定技術的專業人士來說，都是一個教訓。」

Aarons 告訴法院，他首先使用了 Rev.com，這是一項提供音訊檔案 AI 轉錄的服務，然後將該轉錄和其他材料輸入 ChatGPT。

當被問及在將審判筆錄輸入 ChatGPT 之前是否確認其準確性時，他說：「我相信我確實確認了。」「問題不在於筆錄本身。問題是當我將它和所有其他資訊載入 ChatGPT 時。」Aarons 說，除了筆錄，他還將「適當的記錄、議題聲明和一些證據開示」輸入 ChatGPT。

Aarons 表示，他希望法院能採取措施，防止其他律師犯下與他相同的錯誤，例如發布一項常設命令，要求訴狀中包含關於 AI 使用的合規證明。法官們將 Aarons 的建議視為對主要問題的轉移，即他未能核實訴狀的準確性。

「假設你依賴了一位為你工作的第一年律師，而他們只是憑空捏造了一些東西……然後你簽署了它。你現在就會陷入同樣的困境」Bacon 說。「所以，你在訴狀中提出的建議，認為因為法院當時沒有告訴你『要小心』，就某種程度上解除了你的義務，這完全是充耳不聞，因為專業行為準則已經告訴了你你的義務是什麼。」

「你的客戶才是受害者」

「你的回應中完全沒有提到這對你的客戶造成了什麼影響」Bacon 接著說。「這才是我擔心的。你向法院提交了我們無法信任的訴狀，而你的客戶因此遭受的痛苦將遠遠超過你。」

首席法官 Julie Vargas 也對 Aarons 說：「我對你在這次聽證會上採取的態度非常感興趣。你似乎在告訴我們所有我們多年來一直在思考的關於如何處理 AI 的政策，但你卻沒有談論如何解決我們面前的局面，這對一名被拘留的刑事被告產生了重大影響，他將一直被拘留直到我們解決此事。

我現在真的不關心政策問題。我關心的是我們將如何處理你的客戶，以及在這種情況下，根據你所表現出的行為，我們應該怎麼做。」

法官 Michael Vigil 表示，只要律師核實其準確性，使用 AI 協助撰寫法律論證並沒有錯。「工具是什麼並不重要。AI 生成程式有多先進，或他們做了什麼改進，都無關緊要」他說。「無論你使用的是 C 等級的律師還是 A 等級的律師，如果你在提交訴狀前沒有檢查他們的工作，那才是問題所在。我希望，或者我期待你能專注於此，並為此承擔責任。」

Aarons 回應說：「我希望我沒有表現出不願承擔責任的樣子。我的唯一希望是，我所犯的錯誤能夠以某種方式阻止其他人將來重蹈覆轍，因為 AI 的能力令人驚嘆。」

律師未告知客戶及家屬使用 ChatGPT

Bacon 批評 Aarons 未向其客戶披露問題。當 Bacon 問他是否告知 Sandoval 問題時，Aarons 說：「我沒有。他是說西班牙語的，我想看看今天會發生什麼。」

Aarons 表示，他是受 Sandoval 的兄弟和表親聘請的，他告訴他們訴狀出了問題。「他們知道我提交的第一份訴狀有問題，而且法院正在審查。差不多就是這樣」他說。

Bacon 回應說：「你沒有說『我依賴 ChatGPT，它向法院提交了謊言，法院對我很生氣，現在還有聽證會。』我猜你沒有告訴你客戶的家人這些。」

「我沒有談論 ChatGPT」Aarons 說。「我只是說我提交的訴狀有問題。」Bacon 告訴 Aarons，他的客戶需要知道問題的嚴重程度，以便他能做出明智的決定，「關於你是否是代表他的合適人選。」

Bacon 問 Aarons，他是在公設辯護人合約下處理此案，還是作為私人律師。Aarons 回答說他是作為私人律師受聘的，但尚未收到報酬。

「我不確定這會發生」Bacon 回應道。