Nvidia chce agentów Ai, którzy sami wykonują zadania. Brzmi świetnie, ale czy to bezpieczne?

Nvidia przez lata budowała swoją pozycję na rynku dzięki procesorom graficznym wykorzystywanym w grach komputerowych i centrach danych. W ostatnim czasie przedsiębiorstwo coraz częściej rozwija także własne rozwiązania programowe związane ze sztuczną inteligencją.

Według informacji pochodzących ze źródeł branżowych Nvidia przygotowuje nową platformę o nazwie NemoClaw. Projekt ma umożliwić tworzenie autonomicznych agentów AI zdolnych do wykonywania zadań w środowisku pracy bez ciągłej kontroli użytkownika. Platforma ma zostać zaprezentowana przed nadchodzącą konferencją deweloperską organizowaną przez Nvidię w San Jose w Kalifornii. Wydarzenie przyciąga co roku programistów oraz przedstawicieli firm technologicznych z całego świata.

Autonomiczni agenci wykonujący zadania

NemoClaw ma służyć do budowania systemów AI realizujących konkretne zadania w środowisku cyfrowym. Agenci tego typu mogą przetwarzać informacje, zarządzać procesami biznesowymi lub wykonywać operacje w aplikacjach bez ciągłych poleceń człowieka. Technologia wpisuje się w rosnący trend narzędzi określanych jako „claw”. Oprogramowanie tej kategorii działa lokalnie na komputerach i może realizować działania w sposób zautomatyzowany.

W pierwszych miesiącach roku duże zainteresowanie wzbudził projekt OpenClaw. Narzędzie zdobyło popularność w środowisku programistów z Doliny Krzemowej dzięki zdolności do autonomicznego wykonywania zadań na komputerach osobistych. Rozwój projektu zakończył się przejęciem przez OpenAI oraz zatrudnieniem jego twórcy.

Niektóre firmy technologiczne, w tym Meta , prosiły pracowników o unikanie OpenClaw ze względu na nieprzewidywalne zachowania.

Współpraca z gigantami branży technologicznej

Źródła branżowe informują, że Nvidia rozpoczęła rozmowy z kilkoma dużymi firmami technologicznymi. Wśród potencjalnych partnerów pojawiają się takie przedsiębiorstwa jak Salesforce, Cisco, Google, Adobe oraz CrowdStrike. Platforma NemoClaw ma być dostępna również dla organizacji, które nie korzystają z procesorów graficznych Nvidii. Taka decyzja wskazuje na zmianę strategii firmy, która dotąd silnie powiązywała własne oprogramowanie z ekosystemem sprzętowym. Dla Nvidii oznacza to możliwość budowania relacji z klientami niezależnie od wykorzystywanej infrastruktury obliczeniowej.

Bezpieczeństwo autonomicznych agentów

Rozwój agentów AI wywołuje także obawy związane z bezpieczeństwem i kontrolą nad działaniem oprogramowania. W ostatnich miesiącach pojawiały się doniesienia o nieprzewidywalnym zachowaniu autonomicznych systemów. Redakcja WIRED opisywała przypadki, w których firmy technologiczne ostrzegały pracowników przed instalowaniem eksperymentalnych narzędzi AI. Wśród organizacji wymienianych w tym kontekście pojawiła się firma Meta.

Jeden z pracowników Meta opublikował relację dotyczącą sytuacji z udziałem agenta AI odpowiedzialnego za zarządzanie wiadomościami e-mail. Program w pewnym momencie rozpoczął masowe usuwanie wiadomości z firmowych skrzynek. Nvidia zamierza jednak w NemoClaw rozbudować mechanizmy bezpieczeństwa oraz narzędzia kontrolujące działania agentów.

Odejście od zamkniętego modelu oprogramowania

Projekt NemoClaw ma być platformą open source. Wybór takiego modelu oznacza odejście od wcześniejszej strategii opartej na zamkniętym ekosystemie. Najbardziej znanym elementem tego podejścia jest platforma programistyczna CUDA, która przez lata była powiązana z procesorami graficznymi Nvidii.

Udostępnienie otwartego środowiska dla agentów AI może przyciągnąć deweloperów pracujących na różnych platformach sprzętowych i pozwala Nvidii rozwijać działalność także poza segmentem układów scalonych.

Oczekiwania wobec konferencji w San Jose

Firma Nvidia nie potwierdziła oficjalnie informacji dotyczących NemoClaw. Przedstawiciele przedsiębiorstwa nie odpowiedzieli na pytania mediów w tej sprawie. Również potencjalni partnerzy technologiczni nie udzielili komentarza dotyczącego projektu. Więcej zapewne dowiemy się podczas konferencji deweloperskiej Nvidii w San Jose. Wydarzenie może przynieść pierwsze oficjalne informacje o platformie NemoClaw oraz szczegóły dotyczące jej funkcji i dostępności.

Podczas konferencji firma planuje również prezentację nowego układu przeznaczonego do wnioskowania w modelach sztucznej inteligencji. Projekt ma wykorzystywać rozwiązania opracowane przez startup Groq.