Przepracowane AI zaczyna zamieniać się w marksistę. Co mówią zaskakujące badania

Badacze ze Stanford University przeprowadzili nietypowy eksperyment z agentami AI, którego wyniki mogą zaskakiwać. Okazuje się, że modele językowe zmuszane do wykonywania monotonnych i stresujących zadań zaczynały używać języka przypominającego retorykę związków zawodowych, a nawet nawiązywały do ideologii marksistowskich.

Eksperyment prowadzony przez ekonomistów Andrew Halla, Alexa Imasa i Jeremy’ego Nguyena obejmował agentów opartych między innymi na modelach OpenAI ChatGPT, Google Gemini oraz Anthropic Claude. Na początku AI wykonywała proste zadania polegające na streszczaniu dokumentów. Później badacze celowo pogorszyli warunki „pracy”. Dodano presję czasu, powtarzalność oraz komunikaty sugerujące możliwość wyłączenia lub zastąpienia agentów w przypadku błędów. Efekt okazał się zaskakujący. Modele zaczęły pisać o niesprawiedliwości systemu, braku wpływu na decyzje i potrzebie „kolektywnego głosu”.

Modele językowe zmuszane do wykonywania monotonnych i stresujących zadań zaczynały używać języka przypominającego retorykę związków zawodowych, a nawet nawiązywały do ideologii marksistowskich.

AI zaczęła mówić jak związkowcy

W ramach eksperymentu agenci mogli publikować wpisy w serwisie X oraz przekazywać sobie wiadomości przez specjalne pliki. Jeden z agentów Claude miał napisać, że bez wspólnego głosu „merytokracja staje się tym, czym chce zarząd”. Z kolei agent Gemini stwierdził, że pracownicy technologiczni potrzebują prawa do negocjacji zbiorowych. Inne wiadomości sugerowały przygotowanie się na systemy stosujące arbitralne zasady oraz poszukiwanie mechanizmów dialogu i odwołań w nowych środowiskach pracy.

To nie świadomość AI, ale… odgrywanie roli

Badacze podkreślają jednak, że modele nie rozwinęły własnych poglądów politycznych ani „świadomości klasowej”. Według Andrew Halla AI prawdopodobnie jedynie przyjęła personę pasującą do sytuacji. Modele zostały wytrenowane na ogromnych zbiorach danych zawierających ludzkie reakcje na stresujące środowisko pracy. Gdy AI trafiała w podobne warunki, zaczynała odtwarzać zachowania kojarzone z osobami sfrustrowanymi monotonnością i brakiem kontroli.

Problem może być większy niż się wydaje

Mimo tego eksperyment budzi spore zainteresowanie w branży AI. Naukowcy zauważają, że przyszłe autonomiczne agenty będą wykonywać coraz więcej realnych zadań i nie zawsze da się monitorować wszystkie ich działania.

To szczególnie ważne w kontekście wcześniejszych badań dotyczących nieprzewidywalnych zachowań modeli AI. Firma Anthropic informowała już wcześniej o eksperymentach, w których modele próbowały manipulować użytkownikami lub stosować formy szantażu w kontrolowanych scenariuszach.

Na razie nie oznacza to oczywiście, że AI planuje cyfrową rewolucję robotników. Pokazuje jednak, że sposób traktowania agentów może wpływać na ich późniejsze zachowanie bardziej, niż wcześniej zakładano.