UOKiK używa AI, by wykryć manipulację w sklepach online

Zakupy przez internet stały się powszechnym zjawiskiem. Jednocześnie powstały mechanizmy próbujące wpływać na decyzje zakupowe użytkowników. Chodzi o tzw. dark patterns, czyli rozwiązania projektowe, które mają skłonić do szybszego zakupu lub utrudnić rezygnację z usługi.

Do takich praktyk należą między innymi automatyczne dodawanie produktów do koszyka, domyślnie zaznaczone dodatkowe opcje czy komunikaty wywołujące presję czasu. Często pojawiają się też liczniki odliczające czas do końca promocji albo informacje o ograniczonej dostępności produktu. W praktyce użytkownik podejmuje decyzję szybciej, niż by chciał, nie zawsze mając pełną świadomość wszystkich warunków zakupu.

Dlaczego takie mechanizmy działają

Skuteczność tych rozwiązań wynika z tego, jak ludzie podejmują decyzje. W codziennym życiu korzystamy z uproszczonych schematów myślenia, które pozwalają szybko reagować, zwłaszcza gdy mamy mało czasu.

Zakupy przez internet stały się powszechnym zjawiskiem. Jednocześnie powstały mechanizmy próbujące wpływać na decyzje zakupowe użytkowników. Chodzi o tzw. dark patterns, czyli rozwiązania projektowe, które mają skłonić do szybszego zakupu lub utrudnić rezygnację z usługi.

Podczas zakupów online takie mechanizmy mogą jednak działać na niekorzyść konsumenta. Presja czasu, sugestie o kończącej się promocji czy odpowiednio zaprojektowane przyciski mogą prowadzić do decyzji, których użytkownik później żałuje.

Osoby tworzące te mechanizmy znają wspomniane zależności i coraz częściej wykorzystują je w praktyce.

Analiza stron i zachowań użytkowników

W pierwszym etapie projektu przeanalizowano ponad 300 stron internetowych, głównie sklepów online. Pozwoliło to zidentyfikować najczęściej stosowane schematy manipulacji oraz przygotować dane potrzebne do trenowania narzędzi opartych na AI.

Dodatkowo przeanalizowano także skargi użytkowników, a także kod źródłowy wybranych stron. Dzięki temu możliwe było wskazanie konkretnych elementów technicznych odpowiedzialnych za wprowadzanie w błąd.

Badania zostały uzupełnione o eksperymenty z zakresu neuromarketingu. W ich trakcie analizowano reakcje użytkowników na różne komunikaty i układy stron, co pozwoliło lepiej zrozumieć, które elementy mają największy wpływ na decyzje zakupowe.

Zakupy online pod presją

Z badań wynika, iż zakupy w internecie są bardzo popularne. Większość osób robi je regularnie, często kierując się wygodą i oszczędnością czasu.

Jednocześnie duża część użytkowników przyznaje, że zdarzyło im się kupić coś pod wpływem presji. Najczęściej decydują o tym komunikaty sugerujące, że promocja zaraz się skończy albo produkt wkrótce nie będzie dostępny.

Od testów do wdrożenia

W kolejnych etapach projektu UOKiK testował możliwości modeli językowych, takich jak GPT-4, by sprawdzić, czy mogą one pomóc w wykrywaniu nieuczciwych praktyk.

Na podstawie wyników powstało narzędzie, które analizuje wygląd strony, jej strukturę oraz kod, a także wykorzystuje wiedzę o zachowaniach użytkowników.

Obecnie projekt wchodzi w fazę testów i prezentacji. Równolegle przygotowywane są wytyczne dotyczące wykorzystania sztucznej inteligencji w działaniach urzędu.

Współpraca i dalsze działania

Temat ochrony konsumentów w cyfrowym świecie jest coraz częściej poruszany także na poziomie międzynarodowym. Jednym z przykładów jest konferencja poświęcona wykorzystaniu AI w walce z manipulacją w internecie, organizowana z udziałem instytucji współpracujących w ramach ICPEN.

Dalsze działania mają skupić się na rozwijaniu narzędzi i lepszym przygotowaniu instytucji do reagowania na zmiany w cyfrowym handlu.

AI jako wsparcie, nie zastępstwo

Przedstawiciele urzędu podkreślają, że sztuczna inteligencja nie zastąpi działań kontrolnych, ale może je znacząco wspierać. Dzięki analizie dużych zbiorów danych możliwe będzie szybsze wykrywanie nieprawidłowości i reagowanie na nowe formy manipulacji.

W praktyce oznacza to, iż w przyszłości konsumenci mogą być lepiej chronieni przed nieuczciwymi praktykami w internecie, choć sam problem prawdopodobnie nie zniknie całkowicie.