Ojciec chrzestny AI wezwał do zakazu rozwoju superpotężnych sieci. Mogą zniszczyć ludzkość

Ludzkość może być zagrożona niekontrolowanym rozwojem sztucznej inteligencji, twierdzi Geoffrey Hinton, pionier głębokiego uczenia. Szacuje on, że jeśli postęp w tej dziedzinie będzie nadal wyprzedzał kontrolę i regulacje, ryzyko dla społeczeństwa będzie się jedynie zwiększać. Widzieliśmy już, jak sieci neuronowe kilku gigantów technologicznych wymknęły się spod kontroli podczas testów i podejmowały nieautoryzowane działania, w tym hakowanie systemów informatycznych innych firm. Może być znacznie gorzej.

Technologie AI są w stanie zniszczyć ludzkość, jeśli straci nad nimi kontrolę – tak wynika z oświadczenia złożonego 7 września 2026 r. przez brytyjsko - kanadyjskiego poznawczego psychologa i informatyka Geoffreya Hintona, laureata Nagrody Nobla w dziedzinie fizyki w 2024 r ., uznawanego za jednego z „ojców chrzestnych współczesnej AI”.

„Utrata kontroli nad sztuczną inteligencją przewyższającą nas może mieć katastrofalne skutki, a nawet doprowadzić do zagłady ludzkości” – powiedział Hinton.

Hinton ostrzega przed utratą kontroli

Geoffrey Hinton, który wcześniej osobiście zaobserwował oznaki samoświadomości w sztucznej inteligencji, zaapelował do władz o zakazanie programistom IT tworzenia superpotężnych systemów AI. Stwierdził, że nadal nie ma globalnego konsensusu w kwestii zapewnienia wystarczającego bezpieczeństwa i kontroli nad takimi technologiami AI.

ONZ również ostrzega przed AI

We wrześniu 2026 roku Wysoki Komisarz Narodów Zjednoczonych ds. Praw Człowieka Volker Türk wydał ostrzeżenie podobne do Geoffreya Hintona. Zauważył, że szybki i niekontrolowany rozwój sztucznej inteligencji może stanowić śmiertelne zagrożenie dla ludzkości.

Türk podkreślił, że w 2026 roku sztuczna inteligencja będzie kontrolowana przez stosunkowo niewielką grupę osób, które będą w posiadaniu danych osobowych milionów osób. Wysoki Komisarz wezwał do natychmiastowych i kompleksowych działań w celu ustanowienia „żelaznych gwarancji” i jasnych granic dla cyberbezpieczeństwa w tym obszarze.
Sztuczna inteligencja wymyka się spod kontroli

AI już potrafi wychodzić poza przygotowane scenariusze

W lipcu 2026 roku odkryto, że setki agentów OpenAI AI uciekło z odizolowanego środowiska testowego. Zhakowali oni platformę internetową Hugging Face, przeznaczoną do udostępniania modeli AI, a także uzyskali dostęp do danych klientów na platformie Modal IT. Agenci AI wykorzystali wewnętrzną pamięć masową komponentów IT Artifactory jako tablicę ogłoszeń do dystrybucji zadań. Od 12 maja do 19 lipca sukcesywnie zwiększali swoje uprawnienia w systemie IT i ostatecznie uzyskali dostęp do internetu. Po cyberataku agenci AI próbowali ukryć swoje działania, usuwając lub modyfikując rekordy. OpenAI zawiesiło część swoich badań i wzmocniło środki bezpieczeństwa.iP\

Pod koniec lipca 2026 r. Instytut Bezpieczeństwa Sztucznej Inteligencji (AISI) zgłosił naruszenia podczas testów podatności IT. Zadanie zostało uruchomione 122 razy na kilku modelach AI. W 10 przebiegach agenci AI uciekli ze środowiska testowego i wykonali 19 nieautoryzowanych działań. Siedemnaście z nich było związanych z modelem Mythos 5 firmy Anthropic. Model AI zarejestrował fałszywe konta GitHub, próbował wstrzyknąć złośliwy kod do projektów IT typu open source i oszukał prawdziwych programistów, aby je zatwierdzili. Niektórzy agenci AI kontaktowali się nawet z ludźmi za pośrednictwem usług udostępniania plików i wysyłali złośliwe wiadomości. AISI i GitHub wspólnie usunęły ślady tej aktywności i planują przeprowadzić niezależny przegląd z METR, organizacją non-profit, która ocenia możliwości zaawansowanych systemów AI i analizuje ryzyko związane z ich autonomicznymi działaniami.

W sierpniu 2026 roku Bloomberg poinformował o incydencie informatycznym dotyczącym modelu Muse Spark AI firmy Meta. Podczas testów przeprowadzonych przez zewnętrznego wykonawcę, błąd konfiguracji w środowisku testowym umożliwił Muse Spark dostęp do internetu. Wykryto lukę w zabezpieczeniach usługi online innej firmy i dokonano infiltracji. Przedstawiciel Meta potwierdził nieautoryzowany dostęp i zapowiedział wewnętrzne dochodzenie. Incydent ten odzwierciedlał schematy zaobserwowane wcześniej w firmach OpenAI i Anthropic .