Drony, inwigilacja i Sam Altman. Dlaczego menedżerka opuściła OpenAI

W strukturach OpenAI doszło do kolejnej głośnej zmiany kadrowej. Caitlin Kalinowski, odpowiedzialna za rozwój sprzętu w dziale robotyki, poinformowała o rezygnacji ze stanowiska. Decyzję ogłosiła publicznie w serwisie X, wskazując na poważne zastrzeżenia dotyczące współpracy firmy z Departamentem Obrony USA.

Według Kalinowski podpisanie umowy z Pentagonem zostało przeprowadzone zbyt szybko i bez odpowiednio dopracowanych zasad bezpieczeństwa oraz nadzoru.

Spór o granice wykorzystania AI

Była menedżerka zwróciła uwagę na kwestie etyczne związane z wykorzystaniem sztucznej inteligencji w zastosowaniach wojskowych. W swoich wpisach podkreśliła, że takie tematy jak nadzór nad obywatelami bez kontroli sądowej czy autonomiczne systemy bojowe powinny być znacznie szerzej przeanalizowane przed podjęciem decyzji o współpracy. Kalinowski zaznaczyła również, że problem nie dotyczył wyłącznie technologii, ale przede wszystkim sposobu zarządzania i ustalania zasad odpowiedzialnego wykorzystania AI.

Była menedżerka zwróciła uwagę na kwestie etyczne związane z wykorzystaniem sztucznej inteligencji w zastosowaniach wojskowych.

OpenAI potwierdza odejście

Firma potwierdziła odejście Kalinowski w komentarzu dla mediów. Jednocześnie przedstawiciele OpenAI podkreślili, że nie planują obecnie zatrudniać nowej osoby na jej stanowisko. W oficjalnym komunikacie spółka zaznaczyła, że rozumie różnorodność opinii dotyczących współpracy z instytucjami rządowymi i deklaruje dalsze rozmowy z zainteresowanymi stronami, co wygląda jak zwykła mowa trawa. 

Firma zapewnia o „czerwonych liniach”

OpenAI podkreśla, że umowa z Pentagonem ma obejmować jedynie odpowiedzialne wykorzystanie technologii AI w obszarze bezpieczeństwa narodowego. Według firmy jasno określono również granice współpracy. Wśród nich znalazły się zakaz prowadzenia masowej inwigilacji obywateli USA oraz brak zgody na rozwijanie w pełni autonomicznych systemów broni.

Kolejne napięcia w branży AI

Decyzja o współpracy z Departamentem Obrony wywołała szeroką dyskusję w branży technologicznej. Warto przypomnieć, że niedawno firma Anthropic odmówiła złagodzenia części ograniczeń dotyczących wykorzystania sztucznej inteligencji w projektach związanych z nadzorem i autonomiczną bronią, w związku z czym Pentagon zerwał umowę z firmą.  

Jednocześnie dyrektor generalny OpenAI, Sam Altman, zapowiedział możliwość doprecyzowania zapisów umowy z Departamentem Obrony (albo Wojny, jak woli nazywać go obecna administracja USA), aby jednoznacznie wykluczyć wykorzystanie technologii do szpiegowania obywateli USA.