Haker napisał mniej niż 100 znaków. Armia AI zrobiła za niego resztę

Sztuczna inteligencja może znacząco ułatwiać pracę specjalistom, ale w niepowołanych rękach staje się również świetnym narzędziem do przeprowadzania cyberataków, a ten przypadek jest tego najlepszym przykładem.

Firma zajmująca się bezpieczeństwem AI, Norforge, ujawniła przypadek hakera, który wykorzystał armię autonomicznych agentów do włamania się na ponad 100 stron internetowych. Wśród poszkodowanych firm miały znaleźć się między innymi John Deere, SharkNinja i Cummins.

Norforge ujawniła przypadek hakera, który wykorzystał armię autonomicznych agentów do włamania się na ponad 100 stron internetowych.

Agenci AI przeprowadzali ataki niemal samodzielnie

Według ustaleń Norforge cyberprzestępca korzystał z Cairn, otwartoźródłowej platformy sztucznej inteligencji przeznaczonej do rozwiązywania różnego rodzaju problemów. Użytkownik określa w niej cel początkowy i końcowy, a agenci AI samodzielnie realizują kolejne zadania, dokumentując swoje postępy.

Problem w tym, że podobny mechanizm można wykorzystać również do automatyzacji włamań, a jak informuje agencja Reuters, najbardziej aktywny spośród wykrytych przez badaczy przypadków obejmował ataki na przedsiębiorstwa z USA, Kanady, Australii i Japonii. Haker miał określić preferowane techniki włamań w instrukcji liczącej mniej niż 100 chińskich znaków, a udane ataki zajmowały około 23 godzin.

Norforge odkryło ponad 20 publicznie dostępnych instancji Cairn, które prawdopodobnie wykorzystywano do złośliwych działań i firma obecnie pracuje nad ich wyłączeniem.

Poszkodowane firmy badają incydent

Przedstawiciele przedsiębiorstw przekazali, że sprawdzają okoliczności incydentów i John Deere poinformowało, że nie ma przesłanek wskazujących na dostęp do wrażliwych danych. SharkNinja potwierdziło natomiast, że problem dotyczył odrębnej strony zawierającej informacje dotyczące wsparcia produktowego, a zagrożenie zostało opanowane. Cummins bada z kolei doniesienia o potencjalnym ataku na witrynę obsługiwaną przez jednego z zewnętrznych dostawców.

Twórca Cairn, znany pod pseudonimem @le1xia0, tłumaczy z kolei, że platforma nie powstała jako narzędzie hakerskie i zwrócił uwagę, że jej niewłaściwe wykorzystanie wynika z decyzji użytkowników, a nie z samego przeznaczenia oprogramowania. Przypadek ten jak w soczewce pokazuje jednak, jak łatwo automatyzacja może zwiększyć skalę cyberprzestępczości.