Chatbot Google oskarżył konserwatystę o gwałt. Będzie proces w sprawie halucynacji AI

Czy firma tworząca modele sztucznej inteligencji może ponosić odpowiedzialność za fałszywe informacje wygenerowane przez własnego chatbota? To pytanie już wkrótce może doczekać się przełomowej odpowiedzi. Google przegrało pierwszy etap batalii sądowej w Stanach Zjednoczonych, a sprawa dotyczy wyjątkowo poważnych oskarżeń wygenerowanych przez modele AI.

Sąd w Delaware odmówił oddalenia pozwu wniesionego przeciwko gigantowi z Mountain View przez konserwatywnego aktywistę Robby'ego Starbucka. Oznacza to, że Google będzie musiało bronić się przed zarzutami dotyczącymi zniesławiających treści tworzonych przez Barda, Gemini i model Gemma.

Chatbot miał przypisać mu przestępstwa, których nigdy nie popełnił

Pozew został złożony jesienią ubiegłego roku. Robby Starbuck twierdzi, że użytkownicy pytający modele Google o jego osobę otrzymywali całkowicie fałszywe informacje przedstawiane jako fakty. Według dokumentów sądowych chatbot miał przypisywać mu między innymi gwałt, napaść seksualną na osobę nieletnią, powiązania z Jeffreyem Epsteinem, przestępstwa narkotykowe, prześladowanie innych osób oraz liczne zatrzymania przez policję.

Starbuck przekonuje, że wygenerowane odpowiedzi wyglądały jak wiarygodna biografia i mogły poważnie zaszkodzić jego reputacji.

Konserwatywny aktywista został przez AI Google fałszywie oskarżony o przestępstwa, w tym gwałt. Sędzia odrzucił wniosek Google o oddalenie pozwu. 

Google próbowało zakończyć sprawę przed procesem

Firma złożyła wniosek o oddalenie pozwu jeszcze przed rozpoczęciem właściwego postępowania. Google argumentowało, że nie potrafi odtworzyć wskazywanych odpowiedzi w obecnych wersjach swoich produktów.

Przedstawiciele spółki podkreślili również, że większość zgłoszonych przypadków dotyczyła halucynacji występujących we wczesnej wersji Barda. Według Google problem został ograniczony już w 2023 roku.

Rzecznik firmy José Castañeda przypomniał, że halucynacje pozostają znanym ograniczeniem wszystkich dużych modeli językowych. Dodał również, że odpowiednio sformułowane pytania potrafią skłonić chatboty do wygenerowania mylących odpowiedzi.

Sędzia uznała, że sprawa zasługuje na pełne postępowanie

Google nie przekonało jednak sądu. Sędzia Meghan Adams uznała, że powód przedstawił wystarczające argumenty, aby kontynuować postępowanie. W uzasadnieniu wskazano, że przedstawione okoliczności pozwalają przyjąć, iż kwestionowane informacje mogły zostać opublikowane osobom trzecim. Sąd zgodził się również, że twierdzenia dotyczące szkód psychicznych są wystarczająco uzasadnione, aby przeprowadzić dalsze postępowanie dowodowe.

Google zaprzecza najpoważniejszym oskarżeniom

Pozew zawiera również znacznie dalej idące twierdzenia. Starbuck utrzymuje, że Gemini miał poinformować go, iż fałszywe informacje na jego temat wyświetlono ponad 2,8 mln unikalnych użytkowników.

Powód twierdzi również, że chatbot sugerował, iż odpowiedzi zostały celowo przygotowane w sposób mający szkodzić osobom reprezentującym określone poglądy polityczne. Google stanowczo odrzuca te zarzuty i podkreśla, że nie znajduje potwierdzenia dla takich odpowiedzi w swoich obecnych produktach.

Pozew opiewa na miliony dolarów

Robby Starbuck domaga się od Google odszkodowania przekraczającego 15 mln dolarów. Po decyzji sądu ogłosił w mediach społecznościowych, że uważa ją za ważne zwycięstwo zarówno dla siebie, jak i dla wszystkich użytkowników korzystających ze sztucznej inteligencji.

To jednak dopiero początek procesu. Ostateczne rozstrzygnięcie może zająć jeszcze wiele miesięcy.

Wyrok może wyznaczyć nowe granice odpowiedzialności AI

Sprawa jest uważana za jedną z najważniejszych dotyczących odpowiedzialności za treści generowane przez sztuczną inteligencję. Amerykańskie prawo dotyczące zniesławienia wymaga wykazania nie tylko fałszywości informacji, ale również spełnienia dodatkowych przesłanek przewidzianych dla tego rodzaju roszczeń. W przypadku modeli AI pojawia się pytanie, jak stosować te zasady wobec systemów, które nie posiadają świadomości ani intencji.

Proces przeciwko Google może stać się jednym z pierwszych orzeczeń wyznaczających granice odpowiedzialności firm rozwijających generatywną sztuczną inteligencję. Od wyniku tej sprawy zależeć może sposób rozpatrywania podobnych pozwów przeciwko twórcom chatbotów w przyszłości.