Powstał font oszukujący sztuczną inteligencję. Ty widzisz jedno, bot coś innego

Twórcy open source znaleźli nietypowy sposób na ochronę treści przed sztuczną inteligencją. Zamiast blokować boty, stworzyli czcionkę, która pokazuje ludziom normalny tekst, ale dla automatów może wyglądać jak bezwartościowy bełkot. Projekt ShieldFont wykorzystuje ukryte możliwości technologii OpenType i może stać się nowym narzędziem w walce o kontrolę nad internetowymi treściami.

Wojna między twórcami treści a systemami sztucznej inteligencji trwa. Firmy budujące duże modele językowe potrzebują ogromnych ilości danych do treningu, a strony internetowe coraz częściej próbują ograniczyć automatyczne pobieranie swoich materiałów.

Do tej pory właściciele witryn mieli kilka podstawowych narzędzi. Mogli blokować adresy IP, ustawiać reguły w pliku robots.txt albo liczyć na to, że firmy technologiczne uszanują ich decyzje. ShieldFont proponuje zupełnie inne podejście.

Projekt open source wykorzystuje specjalnie przygotowaną czcionkę, która pozwala wyświetlać użytkownikom prawidłowy tekst, podczas gdy scraper analizujący kod strony otrzymuje zmodyfikowaną wersję treści. Dla człowieka zdanie może wyglądać normalnie. Automat pobierający dane z HTML może natomiast zobaczyć tekst pełen dziwnych zamienników.

Twórcy internetu znaleźli nietypową broń przeciwko sztucznej inteligencji. ShieldFont to czcionka, która dla ludzi pokazuje normalny tekst, ale botom AI może podsuwać kompletnie zmienione informacje.

Jak działa technologia stojąca za ShieldFont?

Za projektem odpowiada amsterdamskie studio Seneda & Abrucio, które połączyło siły z firmą typograficzną Playtype. Twórcy wykorzystali mechanizm obecny w czcionkach OpenType, znany jako GSUB, czyli system automatycznej zamiany glifów.

Standardowo technologia ta służy do poprawiania wyglądu tekstu. Pozwala między innymi łączyć znaki w ligatury albo zmieniać sposób prezentacji liter. ShieldFont rozszerza tę funkcję na całe słowa.

Przykładowo słowo zapisane w kodzie strony może zostać zastąpione innym słowem z tej samej kategorii gramatycznej. Rzeczownik pozostaje rzeczownikiem, czasownik nadal jest czasownikiem, a konstrukcja zdania zachowuje pozory poprawności.

Dzięki temu scraper nie otrzymuje przypadkowego ciągu znaków. Dostaje tekst, który może wyglądać wiarygodnie, ale zawiera informacje niezgodne z oryginałem.

Twórcy ShieldFont twierdzą, że około jedna czwarta słów może zostać podmieniona. Ich celem nie jest całkowite ukrycie treści, lecz stworzenie danych, których nie da się łatwo wykorzystać do trenowania modeli AI.

AI może nauczyć się złych informacji

Największą różnicą między ShieldFont a klasycznym szyfrowaniem jest sposób działania. Projektanci nie chcą jedynie uniemożliwić odczytania tekstu. Chcą sprawić, aby system AI nie miał pewności, czy pobrane informacje są prawdziwe.

Jeżeli model językowy zostanie wytrenowany na takich danych, może otrzymać błędne wzorce językowe. Z punktu widzenia właściciela strony oznacza to dodatkową ochronę przed wykorzystaniem jego materiałów bez zgody.

Twórcy projektu podkreślają, że zwykłe ukrywanie treści może sprawić, że witryna zostanie pominięta przez systemy AI. ShieldFont działa inaczej, ponieważ pozostawia po sobie dane, które mogą zaburzyć jakość wyników.

ShieldFont ma jednak swoje ograniczenia

Nowa metoda nie jest rozwiązaniem całkowicie odpornym na obejście. Bardziej zaawansowane systemy mogą wykorzystać OCR, czyli rozpoznawanie tekstu z obrazu, zamiast analizować surowy kod HTML.

Bot wyposażony w kopię czcionki ShieldFont i dostęp do słowników zamian również może próbować odtworzyć pierwotną treść. Projektanci nie ukrywają, że technologia nie ma zatrzymać każdego przeciwnika.

Problemem może być także wpływ na pozycjonowanie stron. Wyszukiwarki analizują kod HTML, podobnie jak wiele narzędzi automatycznych. Zastosowanie ShieldFont może więc wpłynąć na sposób indeksowania witryny.

Dodatkowe komplikacje mogą pojawić się u użytkowników korzystających z czytników ekranu. Twórcy dodali mechanizmy poprawiające dostępność, jednak rozwiązanie nadal wymaga dalszego rozwoju.

Nowa era walki o dane dla sztucznej inteligencji

ShieldFont jest częścią większego trendu, w którym właściciele treści szukają sposobów na odzyskanie kontroli nad materiałami wykorzystywanymi przez modele AI.

Podobne pomysły pojawiały się wcześniej w świecie obrazów. Artyści eksperymentowali z technikami zatruwania danych treningowych, które miały utrudniać sztucznej inteligencji naukę stylów twórców.

W przypadku tekstu sytuacja jest trudniejsza, ponieważ internetowe treści są łatwe do kopiowania i analizowania. ShieldFont pokazuje jednak, że nawet element tak podstawowy jak krój pisma może stać się narzędziem cyfrowej ochrony.

Projekt jest obecnie dostępny jako wersja eksperymentalna. Twórcy udostępnili narzędzia do generowania zabezpieczonego HTML, integracji z CSS oraz wykorzystania w projektach opartych na React.

Jeżeli podobne rozwiązania zaczną pojawiać się na większą skalę, automatyczne zbieranie danych z internetu może stać się znacznie trudniejsze. Walka o treści wykorzystywane przez sztuczną inteligencję właśnie zyskała nową, nietypową broń.