裁判官、偽のAI生成法律リサーチを使用した弁護士に罰金

米国の裁判官が、AIによって生成された偽の法的情報を裁判所提出書類に含めた2つの法律事務所を厳しく非難し、これを法的責任の大きな怠慢と呼びました。

カリフォルニアに拠点を置くマイケル・ウィルナー判事は、書類が「偽の、不正確な、そして誤解を招く法律引用と引用文」で満たされていることを発見した後、法律事務所に対して31,000ドルの罰金を科しました。これは初めてWIREDによって報告されました。

「合理的に有能な弁護士は、リサーチや文書作成をAIに外注すべきではない」とウィルナーは裁定で述べ、「偽の事件を司法命令に含める寸前だった」と警告しました。

「私は彼らの意見書を読み、引用された先例に説得力（または少なくとも興味）を感じ、それらについて詳しく知るために判決を調べました。しかし、それらが存在しないことがわかった」と彼は述べた。これはWIREDによって報告されました。「それは恐ろしい」と彼は付け加えました。

その状況は、ステート・ファームに対する民事訴訟の最中に発生しました。ある弁護士がAIツールを使用して法的な概要を作成しました。その文書には、偽の研究が含まれており、大手法律事務所のK&Lゲイツに渡され、公式の提出書類に追加されました。

「どちらの事務所の弁護士やスタッフも、提出書類を提出する前にその研究を引用チェックしたり、他の形でレビューしたりしたようには見えない」とウィルナー氏は述べています。これはWIREDによって報じられました。

少なくとも引用されたケースの2つが完全に捏造されていることを発見した後、ウィルナー判事はK＆L Gatesに説明を求めました。彼らが新しいバージョンを提出したところ、それはさらに多くの偽の引用を含んでいることが判明しました。判事は説明を求め、それがWIREDによって報道されたように、AIツールの使用を認めた宣誓供述書を明らかにしました。

ウィルナーは次のように結論づけました。「初めての草稿を生成するためのAI製品の初回使用は、明らかに間違っていました[…] そして、その素材をそのスケッチブックのAI起源を明らかにせずに他の弁護士に送ることは、現実的にはそれらの専門家を危険にさらすことになる」とWIREDによって報道されました。

これはAIが裁判所で問題を引き起こした初めてではありません。実際、最近ではワイオミング州の2人の弁護士が偽造されたAI生成のケースをWalmartに対する訴訟の裁判所提出に使用したことを認めました。連邦裁判官は彼らに対して制裁を科すことを脅迫しました。

このシナリオでは、AI「幻覚」―AIツールによって生成された捏造情報―が法的なシステムで増え続ける懸念となっています。