AI wymyśliło wyroki sądowe, a prawniczka uwierzyła. Konsekwencje przyszły szybko

Sztuczna inteligencja miała pomóc w przygotowaniu argumentacji prawnej, ale zamiast tego dostarczyła fikcyjne orzeczenia. Holenderska prawniczka powołała się na nieistniejące wyroki podczas dwóch spraw dotyczących najmu. Sąd uznał jej działanie za poważny błąd zawodowy i udzielił jej formalnej nagany.

Coraz więcej prawników korzysta z narzędzi opartych na sztucznej inteligencji. Pomagają one analizować dokumenty, wyszukiwać informacje i przygotowywać pisma procesowe. Problem pojawia się wtedy, gdy wygenerowane odpowiedzi zostają potraktowane jak pewne źródło wiedzy.

Przekonała się o tym holenderska prawniczka, która wykorzystała narzędzie AI podczas dwóch postępowań związanych z prawem najmu. Kobieta powołała się w dokumentach sądowych na orzeczenia, które nigdy nie zostały wydane.

Komisja dyscyplinarna ustaliła, że część przytoczonych wyroków była całkowicie fikcyjna, a kolejne siedem odnosiło się do spraw niezwiązanych z prowadzonymi postępowaniami.

Według komisji takie działanie naruszyło podstawowe zasady wykonywania zawodu prawnika. Strony procesu muszą mieć pewność, że przedstawiane argumenty opierają się na rzeczywistych przepisach i istniejącym orzecznictwie.

Prawniczka myślała, że AI działa jak wyszukiwarka

W swojej obronie kobieta tłumaczyła, że nie była świadoma ograniczeń narzędzi sztucznej inteligencji. Jej zdaniem system działał podobnie do wyszukiwarki internetowej, która pomaga znaleźć istniejące informacje.

Prawniczka przyznała, że nie zdawała sobie sprawy z możliwości generowania przez AI nieprawdziwych odpowiedzi, w tym fikcyjnych nazw spraw i fałszywych odniesień prawnych.

Gdy odkryła problem, podjęła próbę naprawienia sytuacji. Złożyła poprawione dokumenty, usunęła błędne odniesienia i przestała uczestniczyć w dalszym sporze.

To jednak nie wystarczyło, aby uniknąć odpowiedzialności dyscyplinarnej. Komisja uznała, że osoba wykonująca zawód prawnika musi samodzielnie sprawdzać informacje przekazywane sądowi.

Halucynacje AI stają się problemem dla profesjonalistów

Przypadek z Holandii pokazuje jedno z największych wyzwań związanych z wykorzystaniem generatywnej sztucznej inteligencji. Modele językowe potrafią tworzyć odpowiedzi brzmiące bardzo wiarygodnie, nawet wtedy, gdy zawierają błędne informacje.

Zjawisko określane jako halucynacje AI od dawna jest znane użytkownikom chatbotów. System może wygenerować fałszywe dane, ponieważ jego zadaniem jest tworzenie prawdopodobnie brzmiącej odpowiedzi, a nie automatyczne potwierdzanie prawdziwości każdej informacji.

W zawodach wymagających precyzji, takich jak prawo, medycyna czy finanse, podobne błędy mogą mieć poważne konsekwencje. Samo użycie narzędzia AI nie zwalnia specjalisty z obowiązku kontroli przedstawianych danych.

Sąd uznał naganę za odpowiednią karę

Komisja dyscyplinarna zdecydowała się na formalną naganę zamiast ostrzejszej kary. Wzięto pod uwagę fakt, że prawniczka wcześniej nie miała problemów dyscyplinarnych, a wiedza na temat ograniczeń sztucznej inteligencji była w tamtym czasie nadal rozwijającym się tematem.

Jednocześnie komisja podkreśliła, że korzystanie z AI nie może prowadzić do obniżenia standardów zawodowych. Dokumenty składane w sądzie muszą zawierać sprawdzone informacje niezależnie od tego, czy zostały przygotowane samodzielnie, czy przy pomocy algorytmu.

„Komisja dyscyplinarna uważa, że ​​wszystkie strony postępowania sądowego muszą mieć możliwość polegania na fakcie, że orzecznictwo przytoczone przez adwokata w piśmie procesowym rzeczywiście istnieje i że odniesienia te są trafne. Jednakże pozwana swoim postępowaniem w toku postępowania podważyła to zaufanie, naruszając tym samym nie tylko podstawową wartość profesjonalizmu, ale także podstawową wartość uczciwości i kodeksu postępowania” – orzekła komisja dyscyplinarna.