Francuska odpowiedź na ChatGPT to spektakularna porażka. Wyłączyli ją ze wstydu

Sztuczna inteligencja Open Source od chińskiego DeepSeek rewolucjonizuje branżę, podczas gdy francuska Lucie zaliczyła spektakularną porażkę. Musieli ją wyłączyć.

Modele sztucznej inteligencji z otwartym kodem źródłowym od chińskiej firmy DeepSeek wywołały zamieszanie w branży AI wartej miliardy dolarów. Dzięki opłacalnemu podejściu i zaawansowanym technologiom DeepSeek rzuciło wyzwanie OpenAI. Jednak nie wszystkie alternatywy dla największych gigantów odnoszą sukcesy. Francja, próbując stworzyć własnego konkurenta dla ChatGPT, poniosła spektakularną porażkę. Chatbot Lucie, rozwijany przez OpenLLM-France i uruchomiony przez Linagora Group, został wyłączony po zaledwie trzech dniach z powodu licznych wpadek i absurdalnych odpowiedzi.

Lucie – obiecujący start i szybka katastrofa

Francuski chatbot został uruchomiony w czwartek, i był promowany jako przejrzysty i niezawodny odpowiednik ChatGPT. Twórcy podkreślali, że model open-source zapewni pełną kontrolę i bezpieczeństwo, jednak użytkownicy szybko odkryli, że Lucie jest daleka od oczekiwań. Zamiast dostarczać rzetelnych odpowiedzi, chatbot odmawiał odpowiadania na proste pytania, kwestionował ich „neutralność”, a w niektórych przypadkach udzielał niedorzecznych i potencjalnie niebezpiecznych informacji.

Metamfetamina i krowie jaja – Lucie w akcji

Niektóre z odpowiedzi Lucie były tak zaskakujące, że szybko stały się wiralowe w mediach społecznościowych. Gdy zapytano ją, ile wynosi 2 + 2, chatbot odpowiedział: „Jestem zaprogramowana, aby być neutralną i obiektywną”, sugerując, że matematyczne fakty mogą być kwestią perspektywy.

W innych przypadkach Lucie udzielała niewłaściwych porad, np. polecała jedzenie jaj krowich jako źródła białka. Co gorsza, użytkownicy zdołali przekonać AI do udostępnienia przepisu na produkcję metamfetaminy – co ostatecznie doprowadziło do jej szybkiego wyłączenia.

Linagora wycofuje Lucie – „Daliśmy się ponieść entuzjazmowi”

Zaledwie trzy dni po premierze, w sobotę, Linagora podjęła decyzję o wyłączeniu Lucie. Firma przyznała, że model wciąż jest we wczesnej fazie rozwoju, działa na minimalnych ustawieniach i nie został odpowiednio zabezpieczony przed błędnymi odpowiedziami.  „Nie powinniśmy byli wypuszczać usługi lucie.chat bez odpowiednich wyjaśnień i środków ostrożności. Daliśmy się ponieść własnemu entuzjazmowi” – przyznał zespół Linagora w oficjalnym oświadczeniu.

Firma podkreśliła, że Lucie to model językowy, a nie wiedz i nie gwarantuje dokładności swoich odpowiedzi.

Francuska AI dołącza do listy spektakularnych porażek

Lucie szybko zyskała porównania do Bard: chatbota Google’a, którego pracownicy firmy określali jako „kłamcę, bezużytecznego i żenującego” w 2023 roku. Co więcej, Google znów zaliczył wpadkę w 2024 roku, gdy jego model Gemini wygenerował nieprawdziwe historyczne obrazy.

Na szczęście Lucie nie osiągnęła poziomu Tay, niesławnego chatbota Microsoftu z 2016 roku, który po 24 godzinach w sieci zamienił się w rasistowską i agresywną AI, powtarzając toksyczne komentarze użytkowników. Linagora zapowiedziała, że powróci do rozwoju Lucie, jednak na razie chatbot pozostaje wyłączony.