Generowali argumenty przy pomocy AI. Sąd uchylił wyrok

Sprawa rozwodowa przerodziła się w precedensowy przykład nadużycia sztucznej inteligencji w amerykańskim systemie prawnym. Sąd Apelacyjny stanu Georgia uchylił orzeczenie sądu pierwszej instancji po odkryciu, że zawarte w nim argumenty prawne opierały się na nieistniejących precedensach — prawdopodobnie wygenerowanych przez AI.

W uzasadnieniu decyzji, wydanym w tym tygodniu, Sąd Apelacyjny wyraził „poważne zaniepokojenie” wykorzystaniem fałszywych cytatów, które najprawdopodobniej zostały „sporządzone przy użyciu sztucznej inteligencji generatywnej”. To pierwsza tego rodzaju decyzja w Georgii, choć podobne incydenty notowano już wcześniej w innych stanach.

Sprawa dotyczyła rozwodu Nimat Shahid i Sufyana Esaama. W lipcu 2022 roku sąd niższej instancji przyznał rację mężowi, jednak jego prawniczka — Diana Lynch — w dokumentacji przedłożonej sądowi powołała się na rzekome orzecznictwo, które, jak się okazało, nigdy nie istniało. Shahid złożyła apelację, wskazując, że sąd pierwszej instancji oparł swoje rozstrzygnięcie na fikcyjnych precedensach.

Sąd Apelacyjny przyznał jej rację i nakazał ponowne rozpatrzenie sprawy. W decyzji zwrócono uwagę, że nie ustalono jeszcze formalnie, w jaki sposób doszło do tej nieprawidłowości, jednak fałszywe cytaty „najprawdopodobniej zostały wygenerowane przez narzędzie AI”. Co więcej, Lynch nie tylko powtórzyła te same cytaty w dokumentach apelacyjnych, ale nawet je rozbudowała.

Fałszywe cytaty i kara dla prawniczki

Sąd Apelacyjny ujawnił, że w dokumentach autorstwa Diany Lynch znalazło się łącznie 11 fałszywych cytatów z 15 przywołanych spraw, w tym jeden dotyczący błahostkowego wniosku o zwrot kosztów adwokackich. Za złożenie tego właśnie wniosku Lynch została ukarana grzywną w wysokości 2500 dolarów.

"Jako sąd rewizyjny nie ustalamy faktów co do tego, w jaki sposób doszło do tej nieprawidłowości, zauważając jedynie, że zarządzenie zostało sporządzone przez prawniczkę Męża, Dianę Lynch” — podkreślono w decyzji.

Ostrzeżenie z samej góry

W postanowieniu apelacyjnym przytoczono słowa prezesa Sądu Najwyższego USA, Johna Robertsa, który w swoim raporcie rocznym z 2023 roku przestrzegał przed bezrefleksyjnym korzystaniem z narzędzi AI w pracy prawniczej. Roberts wskazywał na realne ryzyko „halucynacji” i nawoływał do „ostrożności i pokory” w stosowaniu nowych technologii.

Raport powstał niedługo po głośnym incydencie w sprawie Mata v. Avianca, w której adwokaci zostali ukarani za przedstawienie fałszywych spraw prawnych wygenerowanych przez AI. Od tamtej pory podobne sytuacje miały miejsce m.in. w sprawach United States v. Hayes, United States v. Cohen, Wadsworth v. Walmart i Concord Music Group vs. Anthropic. Według analiz prawniczych think tanków, liczba udokumentowanych przypadków „halucynacji AI” w dokumentach sądowych przekroczyła już 200.