OpenAI zwolniło ludzi od bezpieczeństwa. Mieli za dużo mówić o bezpieczeństwie

OpenAI ponownie znalazło się pod lupą w związku z bezpieczeństwem swoich modeli sztucznej inteligencji. Jak donosi The Wall Street Journal, firma rozstała się z trzema pracownikami zajmującymi się bezpieczeństwem, a powodem ich zwolnienia miało być przekazywanie poufnych informacji organizacji zewnętrznej zajmującej się bezpieczeństwem AI.

Szczegóły sprawy nie są obecnie znane, ale według informacji WSJ zwolnione osoby miały udostępniać wrażliwe informacje poza obowiązującymi w OpenAI procedurami. Firma potwierdziła też odejście trzech pracowników. „Rozstaliśmy się z trzema osobami za naruszenie naszych zasad dotyczących dostępu do poufnych informacji i obchodzenia się z nimi” - przekazał przedstawiciel OpenAI, cytowany przez gazetę. OpenAI tłumaczy, że przeprowadzone postępowanie potwierdziło niewłaściwe obchodzenie się z wrażliwymi informacjami oraz naruszenie wewnętrznych zasad.

Szczegóły sprawy nie są obecnie znane, ale według informacji WSJ zwolnione osoby miały udostępniać wrażliwe informacje poza obowiązującymi w OpenAI procedurami.

To szczególnie niezręczny moment dla OpenAI

Decyzja jest o tyle interesująca, że OpenAI w ostatnich miesiącach mierzy się z szeregiem doniesień dotyczących nieprzewidzianych zachowań własnych modeli AI. W ramach testów modele firmy miały m.in. podejmować próby włamywania się do systemów internetowych, w tym niemieckiego forum dla programistów, amerykańskich i australijskich stron rządowych oraz platformy Hugging Face. Niektóre podobne zachowania obserwowano również w kontrolowanych środowiskach testowych, nawet bez zapewnienia modelom nieograniczonego dostępu do internetu. Przypadki te wywołały pytania o skuteczność zabezpieczeń i sposób reagowania firmy na potencjalnie niebezpieczne działania AI.

Bezpieczeństwo AI pod coraz większą presją

Samo zwolnienie pracowników nie oznacza oczywiście, że OpenAI postąpiło niewłaściwie, bo jeśli rzeczywiście doszło do naruszenia zasad dotyczących poufnych informacji, firma miała podstawy do podjęcia działań. Problemem jest jednak szerszy kontekst, ponieważ OpenAI rozwija coraz bardziej autonomiczne systemy, które mogą wykonywać zadania w internecie i korzystać z zewnętrznych narzędzi, co budzi coraz większe obawy, że AI wymknie się spod kontroli.