Wklejasz tekst z ChatGPT i usuwasz jego ślady? OpenAI szykuje ci niespodziankę

Nie da się ukryć, że treści generowane przez sztuczną inteligencję coraz trudniej odróżnić od tekstów napisanych przez człowieka, ale to wkrótce ma się zmienić.  

O ile obrazy, nagrania czy materiały wideo można już analizować za pomocą wyspecjalizowanych detektorów, identyfikacja tekstów generowanych przez AI jest znacznie bardziej problematyczna (co prawda są detektory do pisanych treście, ale te są bardzo zawodne). OpenAI chce coś  tym zrobić i zapowiada wprowadzenie niewidzialnych znaków wodnych dla treści tworzonych przez ChatGPT i Codex.

Nowe rozwiązanie w pierwszej kolejności trafi do użytkowników w Europie, co ma związek z unijnym AI Act.

Tekst będzie miał ukryty sygnał

Nowe rozwiązanie w pierwszej kolejności trafi do użytkowników w Europie, co ma związek z unijnym AI Act, który przewiduje obowiązek oznaczania treści wygenerowanych przez systemy sztucznej inteligencji w sposób możliwy do odczytania maszynowego. W ciągu najbliższych tygodni OpenAI zacznie dodawać do wybranych odpowiedzi ChatGPT i Codex niewidoczny dla użytkownika znak wodny. Jednocześnie klienci korzystający z API na całym świecie będą mogli sami zdecydować się na wykorzystanie technologii w wybranych modelach.

OpenAI wykorzysta analizę wyboru słów

Technologia otrzymała nazwę „textGrain” i zamiast dodawać do tekstu widoczny komunikat, system modyfikuje statystyczny sposób doboru słów przez model. Specjalny detektor może następnie sprawdzić, czy w tekście występuje charakterystyczny sygnał wskazujący na wygenerowanie go przez ChatGPT lub Codex. OpenAI twierdzi, że textGrain w przeprowadzonych testach dorównywał lub przewyższał skutecznością inne analizowane metody, choć nie oznacza to, że rozwiązanie będzie bezbłędne.

Detektor nie będzie nieomylny

OpenAI zwraca uwagę na możliwość występowania zarówno fałszywych alarmów, jak i sytuacji, w których system nie wykryje istniejącego znaku wodnego. Problemem może być również długość tekstu, ponieważ krótsze materiały są trudniejsze do rozpoznania, a późniejsza edycja tekstu może osłabić charakterystyczny sygnał.

Co ważne, technologia nie odpowie na pytanie, jak duży był udział człowieka w powstaniu materiału, a nie wskaże również autora tekstu, właściciela praw do niego ani nie zweryfikuje prawdziwości zawartych w nim informacji. Na razie OpenAI ogranicza wdrożenie do Europy i firma chce wykorzystać ten etap do zebrania informacji z rzeczywistego użytkowania systemu, zanim podejmie decyzję o jego szerszym udostępnieniu.