Microsoft udostępnia DALL-E do zastosowań wojskowych w USA. Co z etyką OpenAI?

Zagrożenie ze strony narzędzia do generowania obrazów OpenAI, DALL-E, rozszerza swoje pole działania poza tworzenie potencjalnie szkodliwych obrazów, które mogą szerzyć się w internecie. Jak donoszą źródła, ta zaawansowana technologia może być również wykorzystywana do celów militarnych.

Według informacji ujawnionych podczas prezentacji dla Pentagonu w październiku 2023 roku, Microsoft przedstawił Departamentowi Obrony możliwości wykorzystania tej technologii w kontekście przygotowań do operacji militarnych. Kiedy OpenAI pojawiło się na scenie, ich zasady użytkowania wyraźnie zakazywały wykorzystywania technologii do celów związanych z bronią, nadzorem, niszczeniem mienia czy krzywdzeniem ludzi. Jednak po tym, jak Microsoft udzielił firmie wsparcia finansowego w wysokości 10 miliardów dolarów, ich cele i zasady mogły ulec zmianie. Ten znaczący wkład finansowy sprawił, że cele obu firm stają się coraz bardziej zbieżne, podnosząc tym samym pytania o etykę i bezpieczeństwo w kontekście rozwoju sztucznej inteligencji.

Kontrowersje wokół wykorzystania technologii OpenAI przez amerykańskie siły zbrojne pogłębiają się, stawiając pod znakiem zapytania dotychczasową politykę firmy.

Microsoft nie cofa się przed wykorzystaniem swoich technologii na polu bitwy, podczas gdy firma od lat prowadzi działania mające na celu promowanie swojego zaawansowanego sprzętu, takiego jak HoloLens, jako kluczowego narzędzia w wojskowych operacjach. Teraz, dzięki współpracy z OpenAI i ich rewolucyjnej technologii DALL-E, Microsoft poszukuje nowych sposobów integrowania sztucznej inteligencji w swoje wojskowe rozwiązania.

Według dokumentów, do których dostęp zdobył dziennikarz Jack Poulson, Microsoft wykorzystuje DALL-E, stworzone przez OpenAI, jako narzędzie do zaawansowanego szkolenia systemów zarządzania bitwą (BMS). BMS to kluczowe systemy, które umożliwiają dowódcom wojskowym monitorowanie sytuacji na polu walki oraz planowanie taktyki wojskowej, włączając w to m.in. koordynację ruchów jednostek, ostrzał artyleryjski oraz identyfikację celów ataku. 

Według prezentacji Microsoftu, DALL-E może generować sztuczne obrazy, które pomagają w szkoleniu BMS, co przekłada się na lepszą wizualizację terenu i identyfikację potencjalnych celów ataku, co może być kluczowe w strategicznym planowaniu działań wojskowych. Heidy Khlaaf, inżynier bezpieczeństwa zajmujący się uczeniem maszynowym, która wcześniej współpracowała z OpenAI, kwestionowała jednak dokładność systemu w generowaniu wiarygodnych scenariuszy. „Te generatywne modele obrazu nie są w stanie nawet dokładnie wygenerować prawidłowej liczby kończyn i palców. Jak możemy na nich polegać, jeśli chodzi o dokładność w odniesieniu do realistycznej obecności w terenie?”

Ostatnie zmiany w zasadach użytkowania OpenAI budzą wątpliwości co do rzeczywistego stanowiska firmy w kwestii wykorzystywania swoich technologii przez wojsko. Pomimo wyraźnego sprzeciwu wobec takiego wykorzystania, nowe wytyczne zdają się sugerować, że firma nie ma nic przeciwko korzystaniu z jej narzędzi przez siły zbrojne.

Siły Powietrzne Stanów Zjednoczonych intensywnie pracują nad budową zaawansowanego systemu zarządzania bitwą o nazwie Joint All-Domain Command and Control (JADC2). Ten innowacyjny system ma umożliwić płynne udostępnianie danych między różnymi rodzajami broni, takimi jak drony powietrzne, radary morskie i czołgi, co ma zwiększyć zdolność do identyfikacji i niszczenia wrogich celów.

Według doniesień, Microsoft przedstawił technologię DALL-E, stworzoną przez OpenAI, jako potencjalne narzędzie do szkolenia systemów JADC2. Pomimo tego, że firma zgodziła się na udostępnienie technologii Pentagonowi, nie podjęła jeszcze żadnych konkretnych działań w tym kierunku. 

Z drugiej strony, OpenAI kategorycznie zaprzeczyło udziałowi w prezentacji Microsoftu lub świadomości takiego zastosowania swojej technologii. Firma podkreśliła również, że wszelkie umowy zawarte przez Departament Obrony USA z Microsoftem, nawet te dotyczące narzędzi OpenAI, będą podlegać zasadom użytkowania Microsoftu, a nie ich własnym wytycznym.