Claude dostaje niewidzialny znak wodny. Anthropic zaczyna oznaczać treści AI

Treści wygenerowane przez Claude’a będą teraz otrzymywać niewidoczne oznaczenia, które pozwolą maszynom rozpoznać ich pochodzenie. Anthropic uruchomił system zgodny z unijnym AI Act. Za brak odpowiednich oznaczeń firmy mogą zapłacić nawet 15 mln euro lub 3 proc. globalnego rocznego obrotu.

Anthropic rozpoczął wdrażanie znaków wodnych w odpowiedzi na art. 50 unijnego AI Act. Przepisy wymagają, aby treści stworzone lub zmodyfikowane przez systemy AI były odpowiednio oznaczane w sposób możliwy do odczytania przez maszyny. Nowe rozwiązanie obejmuje materiały generowane przez Claude’a, w tym teksty, obrazy i pliki. W przypadku obsługiwanych formatów graficznych mogą pojawić się także podpisane metadane pochodzenia.

Za naruszenie przepisów przewidziano wysokie kary. Maksymalna grzywna może sięgnąć 15 mln euro, czyli około 17 mln dolarów, albo 3 proc. całkowitego światowego obrotu firmy z poprzedniego roku finansowego.

Znak wodny ma być niewidoczny

Anthropic nie zamierza dodawać do odpowiedzi Claude’a dużych napisów informujących o wykorzystaniu AI. Znak wodny jest osadzany w treści w sposób niewidoczny dla człowieka. Firma deklaruje, że oznaczenie nie powinno zmieniać znaczenia, jakości ani wyglądu tekstu. Ma ono działać na poziomie modelu, więc nie jest przypisane do konkretnej aplikacji czy interfejsu Claude’a.

W przypadku plików PNG, JPG i SVG możliwe jest dodatkowo zastosowanie podpisanych metadanych, które pozwalają sprawdzić pochodzenie materiału oraz wykryć późniejsze modyfikacje.

To nie będzie niezawodny wykrywacz AI

Anthropic zaznacza, że obecność znaku wodnego nie dowodzi, iż Claude stworzył materiał od zera. Jeśli użytkownik napisze własny tekst, a następnie poprosi AI jedynie o jego korektę, wynik również może zostać oznaczony.

Problem pojawia się także przy dalszej obróbce treści. Tłumaczenie, gruntowne przeredagowanie czy połączenie materiału z innymi tekstami może sprawić, że oznaczenie przestanie być możliwe do wykrycia.

Brak znaku wodnego również nie będzie dowodem na to, że treść powstała bez udziału sztucznej inteligencji.

Anthropic nie ograniczy oznaczeń do Europy

Choć bezpośrednim powodem wdrożenia są unijne przepisy, Anthropic planuje stosować system globalnie. Oznaczenia mają obejmować treści generowane przez Claude’a niezależnie od miejsca, w którym użytkownik korzysta z usługi.

Podobne rozwiązania przygotowują także inne firmy rozwijające generatywną AI. OpenAI zapowiada podejście wykorzystujące kilka metod jednocześnie, ponieważ pojedynczy sposób identyfikacji treści może zostać usunięty podczas późniejszej edycji.

Era niewidocznych etykiet AI właśnie się zaczyna. Dla użytkownika mogą pozostać praktycznie niezauważalne, ale dla systemów analizujących pochodzenie treści będą dodatkowym sygnałem pozwalającym ustalić, czy materiał został przetworzony przez sztuczną inteligencję.