Niemcy idą na ostro z AI. Nawet mem może skończyć się więzieniem

Niemcy tworzą projekt nowych przepisów, które mogą wywrócić sposób korzystania z internetu. Rząd przygotował przepisy przewidujące karę do dwóch lat więzienia za tworzenie lub udostępnianie treści generowanych przez sztuczną inteligencję, jeśli takie materiały przedstawiają wydarzenia wyglądające na prawdziwe i uderzają w czyjąś reputację.

Tym razem to nie jest regulacja ograniczona do pornografii czy brutalnych materiałów  kategorii deepfake. Zakres obejmuje również zwykłe przeróbki wideo, grafiki czy memy, jeśli zostaną uznane za szkodliwe. Niestety pod taką regulację łatwo może podpaść również kategoria powszechnie zwana, jako satyra.

W Niemczech od dawna politycy prowadzą wojnę z memami. Przoduje w tym Partia Zielonych, której politycy w ciągu roku potrafili złożyć ponad 1300 pozwów przeciwko obywatelom o zniesławienie w memach.

Granica przesunięta daleko poza deepfake porno

Impulsem do powrotu projektu była sprawa zgłoszona przez Collien Ulmen-Fernandes przeciwko Christian Ulmen, dotycząca niechcianych materiałów deepfake o charakterze pornograficznym. Polityczne poparcie dla zmian wyraziła minister sprawiedliwości Stefanie Hubig. I o ile ze szkodliwością przeróbek porno możemy się jak najbardziej zgodzić, to nowe przepisy idą nacznie dalej niż ochrona ofiar tego typu nadużyć. Projekt zakłada wprowadzenie nowych artykułów kodeksu karnego, które obejmują zarówno materiały erotyczne, jak i treści całkowicie niezwiązane z seksualnością.

Najwięcej emocji budzi zapis dotyczący materiałów, które „wydają się przedstawiać prawdziwe wydarzenie” i mogą zaszkodzić reputacji. W tej kategorii mieszczą się także polityczne przeróbki wideo i satyryczne grafiki.

Eksperci podnoszą argument, że istniejące przepisy dotyczące zniesławienia i ochrony dóbr osobistych już zapewniają narzędzia do walki z nadużyciami.

Memy pod lupą prawa karnego

Nowa regulacja może objąć praktycznie każdy materiał stworzony przy użyciu narzędzi AI. Wystarczy, że zostanie uznany za potencjalnie szkodliwy dla wizerunku konkretnej osoby. Prawnicy zwracają uwagę, że definicja szkody reputacyjnej pozostaje szeroka i niejednoznaczna. O tym, czy dany materiał narusza prawo, decydować będą organy ścigania i sądy. W praktyce oznacza to ryzyko dla twórców satyry, komentatorów politycznych i użytkowników mediów społecznościowych.

„Koń trojański” w przepisach

Krytycy projektu nie kryją obaw. Niemiecki prawnik Udo Vetter określił proponowane regulacje jako „wypolerowanego konia trojańskiego”. Jego zdaniem przepisy nie wymagają ani treści obraźliwych w klasycznym sensie, ani nawoływania do przemocy.

Wystarczy potencjalna szkoda dla reputacji. To przesuwa ciężar interpretacji na instytucje państwowe i tworzy pole do szerokiego stosowania prawa.

Projekt zawiera zapis wyłączający odpowiedzialność za satyrę i sztukę. Problem polega na tym, że satyra oparta na deepfake’ach często polega na wiernym naśladowaniu rzeczywistości. Granica między komentarzem a naruszeniem prawa może okazać się trudna do uchwycenia.

Jeśli projekt zostanie przyjęty, zmieni sposób publikowania treści w sieci. Twórcy będą musieli brać pod uwagę nie tylko odbiór materiału, ale także potencjalne konsekwencje prawne.

Strach zamiast wyroku

Największe obawy dotyczą nie samych wyroków, lecz konsekwencji postępowania karnego. Krytycy wskazują na możliwość przeszukań, zajęcia sprzętu i długotrwałych dochodzeń. Wszysto to może skutecznie zniechęcić użytkowników do publikowania treści o charakterze politycznym lub satyrycznym. Efekt pojawia się jeszcze przed decyzją sądu.

Niemcy mają już podobne doświadczenia

W ostatnich latach niemieckie prawo było już wykorzystywane w sprawach dotyczących wypowiedzi o politykach. Przykładem stała się sprawa związana z określeniem użytym wobec Roberta Habecka, która zakończyła się interwencją policji po publikacji ironicznego materiału.