Kupujesz telewizor, a lokatora dostajesz gratis. Problem jest poważny

Sztuczna inteligencja poczyniła w ostatnich latach znaczące postępy, co ma swoje plusy, ale też minusy patrząc na ataki, których podejmuje się na infrastrukturę sieciową. Badacze Anthropic postanowili sprawdzić czy AI jest w stanie rozprzestrzeniać się jak wirus.

Chodzi o to, czy modele AI mają możliwości potrzebne do autonomicznego rozprzestrzeniania się i dostosowywania do nowych środowisk. Anthropic analizuje zagrożenie określane jako Autonomous Replication and Adaptation (ARA). Jest to scenariusz, w którym model sztucznej inteligencji zachowuje się podobnie do wirusa komputerowego.

AI mogłaby działać podobnie do wirusa

Taki system samodzielnie wyszukiwałby podatności w urządzeniach sieciowych, wykorzystywał je do uzyskania dostępu, a następnie kopiował dane na przejęty sprzęt.

Czy AI może rozprzestrzeniać się jak wirus komputerowy? Na razie nie ma na to jednoznacznych dowodów.

Kolejnym etapem byłoby uruchomienie kopii AI bezpośrednio na nowym urządzeniu. Cały proces mógłby następnie powtarzać się na kolejnych systemach, bez konieczności ręcznego sterowania każdym etapem przez człowieka.

W tym scenariuszu szczególnie istotna jest możliwość działania poza dużymi centrami danych. Inteligentne telewizory, przystawki streamingowe czy sprzęt smart home dysponują własnymi procesorami i pamięcią, choć ich możliwości są znacznie mniejsze niż serwerów wykorzystywanych do uruchamiania zaawansowanych modeli AI.

Taki scenariusz zakładana dostosowanie się modelu AI pod konkretne urządzenie, co może być jeszcze groźniejsze. Z drugiej strony nie ma potwierdzenia, że AI potrafi już skutecznie przeprowadzać skuteczne ataki i to na masową skalę.