Naklejką można wywołać halucynacje u SI. Czyli jak oszukać system...

Jeśli potrzebujecie oszukać system rozpoznawania obrazu u Sztucznej Inteligencji, to okazuje się, że wystarczy do tego zwykła naklejka. Niesie to za sobą sporo problemów, bo zwykłym kawałkiem papieru można oszukać system rozpoznawania twarzy, czy też zakłócić pracę autonomicznego pojazdu.

Od długiego czasu specjaliści starali się stworzyć specjalne typy obrazu, które byłyby w stanie namieszać w odbiorze obrazu przez SI. Takie obrazy i wzory wykorzystują słabość w sposobie w jaki komputery patrzą na świat i sprawiają, że widzą rzeczy, których tam wcale nie ma. Działa to na zasadzie iluzji optycznej, ale wywołanej u  Sztucznej Inteligencji. Mogą być wykorzystane do stworzenia okularów, dzięki którym SI myśli, że jesteśmy kimś innym i dzięki temu oszukiwać systemy rozpoznawania twarzy, ale mogą być również wydrukowane na fizycznych obiektach i teraz naukowcy z Google zmienili te obrazy w naklejki. Opis produkcji tych obrazów został publicznie udostępniony (link) i choć nie jest to przełom, to jest to ogromny krok naprzód. Sam fakt, że takie obrazy można stworzyć i wydrukować w domu, nie jest tu bez znaczenia. W przeciwieństwie do innych tego typu ataków, naklejki te nie muszą być generowane na podstawie obrazów, które mają być przeforsowane do SI, nie ma znaczenia również w jakim miejscu naklejka pojawi się w punkcie widzenia SI. Poniżej możecie zobaczyć jak to wygląda w akcji, gdzie naklejka zmienia banana w toster.

Naukowcy ostrzegają, że możliwość oszukania Sztucznej Inteligencji takimi naklejkami, to dopiero początek...

Jak podają badacze, atak z użyciem naklejek pozwala na zmylenie SI bez potrzeby analizowania warunków oświetleniowych, nachylenia kamery, typu klasyfikatora, który będzie atakowany, a nawet innych elementów, które są obecne w otoczeniu. Jak tylko taki obrazek zostanie wygenerowany, może bez przeszkód zostać rozpowszechniony w internecie, wydrukowany przez innych i masowo używany. Jest to między innymi jednym z powodów, dla których badacze SI obawiają się, jak ta metoda może zostać wykorzystana do ataków choćby na autonomiczne samochody. Wyobraźmy sobie małą naklejkę, która naklejona na innym aucie, sprawia, że autonomiczny pojazd widzi znak stop - tam gdzie go nie ma, abo odwrotnie - auto nie zobaczy nakazu zatrzymania. Inny przykład to naklejka, która nie pozwala zidentyfikować osoby w systemach rozpoznawania twarzy w monitoringach. "Nawet jeśli ludzie dostrzegą te naklejki, to nie będą wiedzieli czym one są i zamiast zagrożenia będą raczej patrzeć na to jak na przejaw jakiejś sztuki" - piszą badacze. Naukowcy uspokajają, że póki co nie ma wielkich powodów do obaw.  O ile takie naklejki mogą być niepokojąco efektywne, to nie są magiczną sztuczką, która zadziała za każdym razem, z każdym systemem SI. Obrazy, takie jak te wygenerowane przez Google, wymagały czasu i sporo wysiłku by je stworzyć, dodatkowo przeważnie posiadali oni dostęp do kodu systemów rozpoznawania obrazów, który był obiektem ataku. Problem, który badacze chcą zasygnalizować, to fakt, że te ataki stają się coraz bardziej uniwersalne i efektywne z upływem czasu. Takie naklejki to dopiero początek.