Prawnik ukarany wysoką grzywną. Korzystał z ChatGPT, a ten "nazmyślał"

Kolejny przypadek niewłaściwego wykorzystania generatywnej sztucznej inteligencji przez prawnika zakończył się nałożeniem surowej kary finansowej. Rafael Ramirez, prawnik z Indiany, został ukarany grzywną w wysokości 15 000 dolarów za przedłożenie do sądu dokumentów zawierających nieistniejące sprawy, które – jak się okazało – zostały sfabrykowane przez ChatGPT. To ponad trzykrotnie wyższa kara niż ta, jaką w 2023 roku otrzymali dwaj prawnicy i ich kancelaria za podobne działania.

Ramirez reprezentował firmę HooserVac LLC w pozwie dotyczącym funduszu emerytalnego, który został złożony w październiku 2024 roku. W trzech oddzielnych dokumentach prawnych zamieścił odniesienia do spraw, których sąd nie był w stanie odnaleźć w żadnych archiwach. Po przeprowadzeniu analizy okazało się, że cytaty pochodziły z fikcyjnych akt, wygenerowanych przez ChatGPT.

W grudniu sędzia Mark J. Dinsmore, reprezentujący południowy okręg Indiany, nakazał Ramirezowi osobiste stawienie się w sądzie i przedstawienie wyjaśnień dotyczących wprowadzenia do dokumentów sądowych fałszywych informacji. „Przestawienie liczb w cytacie, błędne podanie daty czy literówka w nazwie strony to błąd” – napisał sędzia Dinsmore w swoim oświadczeniu. „Cytowanie sprawy, która po prostu nie istnieje, to zupełnie inna kwestia. Pan Ramirez nie podaje żadnej wskazówki, jak to się stało, że cytat z całej sprawy znalazł się w jego piśmie procesowym. Najbardziej oczywistym wyjaśnieniem jest to, że użył narzędzia generatywnej sztucznej inteligencji i nie zweryfikował zawartych w nim cytatów przed ich przedłożeniem.”

Brak świadomości na temat AI – kosztowna lekcja

Podczas rozprawy Ramirez przyznał, że korzystał z narzędzia generatywnej sztucznej inteligencji, jednak twierdził, że nie był świadomy, iż AI może generować fikcyjne sprawy sądowe. Stwierdził również, że nie znał potencjalnych zagrożeń wynikających z bezkrytycznego używania takich narzędzi w pracy prawniczej.

Przyznał się także do naruszenia Federalnej Zasady Postępowania Cywilnego 11, która stanowi, że wszelkie roszczenia muszą opierać się na rzeczywistych dowodach lub wysokim prawdopodobieństwie ich znalezienia w toku dochodzenia. Zasada ta została wprowadzona w celu zapewnienia, że prawnicy dokładają należytej staranności przed wniesieniem sprawy do sądu.

Kursy edukacyjne i przyszłe konsekwencje

Po ujawnieniu sprawy Ramirez wziął udział w szkoleniach dotyczących wykorzystania sztucznej inteligencji w prawie i nadal zamierza korzystać z narzędzi AI w swojej pracy. Mimo to sędzia uznał jego działania za „szczególnie karygodne”, podkreślając, że brak podstawowej weryfikacji wprowadzonych informacji jest poważnym naruszeniem zasad etyki zawodowej.

„Niedopełnienie tak podstawowego obowiązku sprawia, że jego postępowanie zasługuje na sankcje” – zaznaczył sędzia. Dinsmore dodał również, że Ramirez nie tylko nie zapewnił kompetentnej reprezentacji swojemu klientowi, ale także wielokrotnie składał fałszywe oświadczenia przed sądem. W związku z tym skierował jego sprawę do sędziego głównego, który zdecyduje o ewentualnych dalszych konsekwencjach dyscyplinarnych.

Rosnący problem w środowisku prawniczym

Sędzia Dinsmore zalecił nałożenie na Ramireza grzywny w wysokości 5000 dolarów za każdą z trzech sfabrykowanych spraw, co łącznie dało kwotę 15 000 dolarów. Spraw

W czerwcu 2023 roku dwóch prawników i ich kancelaria prawna na Manhattanie zostało ukaranych grzywną w wysokości 5000 dolarów za przedłożenie sądowi dokumentów opartych na fałszywych badaniach prawnych wygenerowanych przez AI. Z kolei w styczniu 2024 roku prawnicy w Wyoming posłużyli się ChatGPT w sporze przeciwko Walmart i Jetson Electric Bikes w związku z pożarem rzekomo spowodowanym przez wadliwą deskorolką elektryczną. W dziewięciu przedstawionych sprawach aż osiem okazało się całkowicie sfabrykowanych przez sztuczną inteligencję.