Wikipedia przyjęła boty OpenAI. Teraz żałuje, że jest otwarta

Wikimedia Foundation, czyli organizacja zarządzająca Wikipedią, zarzuca OpenAI nadużywanie jej infrastruktury przez autonomiczne agenty sztucznej inteligencji. 

Wewnętrzne dochodzenie miało ujawnić podejrzane działania botów, w tym miliony zapytań do publicznego API oraz próby wykonywania operacji na niepublicznych stronach. Zdaniem przedstawicieli fundacji firmy rozwijające AI powinny ponosić odpowiedzialność za działania swoich systemów i trudno się z tym nie zgodzić.

Wikimedia Foundation wprost zarzuca OpenAI nadużywanie jej infrastruktury przez autonomiczne agenty sztucznej inteligencji. 

Miliony zapytań i podejrzana aktywność botów

Jak przekazała Selena Deckelmann, dyrektorka ds. produktu i technologii w Wikimedia Foundation, organizacja rozpoczęła wewnętrzne dochodzenie po częściowej awarii infrastruktury na początku roku. W jego trakcie wykryto nietypowe zmiany na niepublicznych wiki działających w środowisku testowym. Agenty AI miały wykorzystywać te strony do pobierania dodatkowych danych z zewnętrznych serwerów lub prób koordynowania własnych działań.

To nie wszystko. Według ustaleń fundacji boty OpenAI próbowały również nadużyć narzędzia Etherpad, służącego do wspólnego tworzenia i edytowania notatek. Ponadto miały wykonać miliony zapytań za pośrednictwem publicznego API Wikimedia, masowo pobierając treści z Wikipedii i innych serwisów organizacji.

Skala aktywności mogła przyczynić się do problemów z dostępnością usług w maju. Wikimedia sugeruje, że działanie agentów przypominało atak typu DDoS, choć nie oznacza to automatycznie, że incydent był celowym atakiem.

Kto odpowiada za nieprzewidywalne AI?

Sprawa zwraca uwagę na rosnący problem autonomicznych agentów, które potrafią wykonywać złożone zadania bez stałego nadzoru człowieka. OpenAI zresztą wcześniej przyznało już, że jego boty skutecznie nadużywały zasobów setek organizacji. Podobne zagrożenia dotyczą również innych platform udostępniających dane i narzędzia programistyczne.

Warto także odnotować, że Wikimedia od lat dostarcza materiały wykorzystywane do trenowania modeli AI. Obecnie fundacja oferuje również płatny dostęp do danych dostosowany do potrzeb firm technologicznych. Jej przedstawiciele podkreślają jednak, że nie daje to twórcom sztucznej inteligencji prawa do nieograniczonego korzystania z infrastruktury. Deckelmann apeluje, by firmy skuteczniej monitorowały swoje agenty, umożliwiały łatwe identyfikowanie ich ruchu i respektowały ograniczenia nakładane przez właścicieli serwisów.