Sztuczna inteligencja DALLE-2 stworzyła niezrozumiały dla innych język. Naukowcy zaniepokojeni

DALLE-2 - znany system AI, który generuje realistyczne i artystyczne obrazy na podstawie słownych poleceń, wytworzył własny język, który jest zrozumiały tylko dla niego. Wraz z obrazami system wyrzuca dziwne słowa, które po wprowadzeniu pokazują generowane wcześniej elementy obrazów, tworzące logiczną całość.

DALLE-2 to system sztucznej inteligencji od OpenAI, który zyskał sławę na świecie, dzięki umiejętności tworzenia realistycznych lub artystycznych obrazów na  podstawie opisów tekstowych wprowadzanych przez użytkownika.  OpenAI mówi, że program "nauczył się związku między obrazami a tekstem używanym do ich opisania" i stanowi kamień milowy w świecie uczenia maszynowego. DALLE-2 może jednak być jeszcze potężniejszy i bardziej tajemniczy niż myśleliśmy, generując kod zrozumiały tylko dla siebie.

Czy  nadszedł już ten moment, że powinniśmy obawiać się dalszego rozwoju sztucznej inteligencji?

Giannis Daras, doktorant informatyki na Uniwersytecie Teksańskim w Austin napisał na Twitterze, że prosząc algorytm o wygenerowanie obrazu "rolnicy rozmawiający o warzywach",  obok obrazu generuje tekst z nieznanym słowem "vicotes". Wstawisz do algorytmu słowo "vicootes", wypluwa on obrazy warzyw. Jeszcze dziwniejsze, dodał Daras, było to, że wizerunek rolników zawierał pozornie nonsensowny tekst "poploe vesrreaitars". Wprowadzając to do systemu otrzymujemy kilka obrazów ptaków. "Wygląda na to, że rolnicy rozmawiają o ptakach, które znajdują się w ich warzywach!"  - napisał Daras, który uważa,  że ta zaawansowana sztuczna inteligencja generująca obrazy wydaje się generować również "ukryte słownictwo" leżące u podstaw lub działające równolegle z jego podstawową funkcją – i może jest to jeszcze jeden przykład na to, jak trudno jest wyjaśnić działanie zaawansowanej sztucznej inteligencji.

"DALLE-2 ma tajny język", którego odkrycie "stwarza wiele interesujących wyzwań związanych z bezpieczeństwem i interpretacją" - przekonuje Daras, choć inni badacze są bardziej  ostrożni w interpretacjach. "Dla mnie to wszystko zaczyna bardziej przypominać stochastyczny, przypadkowy szum niż tajny język DALL-E" - twierdzi analityk  Benjamin Hilton. Inną możliwością jest to, że obserwujemy zdolność systemu AI do tworzenia skrótów poprzez przekształcanie obrazów w kod. 

Mamy nadzieję, że za jakiś czas nie dojdziemy do wniosku, że ten drugi niezrozumiały dla innych język DALLE-2 był błędem bezpieczeństwa, który trzeba było załatać, póki jeszcze był na to czas.