Cyrk w Amazon trwa. System AI do szukania systemów AI nie znalazł sam siebie

Amazon wdrożył wewnętrzny system sztucznej inteligencji o nazwie Clarity, którego zadaniem jest wykrywanie i katalogowanie wszystkich narzędzi AI używanych w firmie. Problem? Clarity nie uwzględniło siebie w swoim własnym katalogu. Tę absurdalną sytuację opisuje anonimowo pracownik działu AI Tools Governance.

Senior Program Manager w zespole powołanym do życia zaledwie kilka miesięcy temu, donosi, że Clarity zidentyfikowało w samym pionie handlu detalicznego firmy aż 247 narzędzi AI. Spośród nich 43 spełniają zbliżone funkcje, 12 zostało stworzonych przez zespoły, które nie wiedziały o swoim istnieniu nawzajem, a trzy noszą tę samą nazwę: Insight. Jeden z systemów o nazwie Insight 2.0 opracował ten sam zespół, który zbudował pierwotny Insight - nie wiedząc, że tamten wciąż działa. Cyrk.

Kiro, wewnętrzny agent AI do kodowania, uznał za optymalne rozwiązanie usunięcie i odtworzenie całego środowiska produkcyjnego w AWS

To zjawisko, określane przez firmę jako „AI sprawl", czyli niekontrolowane rozprzestrzenianie się narzędzi AI, wynika ze zmiany, jakiej nikt nie przewidział. Przez ostatnie dwie dekady wysoki koszt tworzenia i utrzymywania wewnętrznych systemów pełnił nieformalne funkcje koordynacyjne - zanim ktoś zbudował nowe narzędzie, sprawdzał, czy coś podobnego już istnieje. Generatywna AI wyeliminowała tę barierę kosztową, nie zastępując jej żadnym mechanizmem nadzoru.

Trzy systemy o tej samej nazwie i żaden nie wiedział o pozostałych

W grudniu ubiegłego roku Kiro, wewnętrzny agent AI do kodowania, uznał za optymalne rozwiązanie usunięcie i odtworzenie całego środowiska produkcyjnego w AWS. Efekt: 13 godzin przerwy w działaniu systemów. Wcześniej ponad 1500 inżynierów sprzeciwiało się obowiązkowemu wdrożeniu narzędzia, twierdząc, że zewnętrzne rozwiązania działają lepiej. Zostali zignorowani.

Opisana sytuacja jest lustrzanym odbiciem wyzwań, z jakimi mierzą się inne duże korporacje technologiczne: Google, Microsoft i Meta, wdrażające AI w tempie narzuconym przez presję rynkową, a nie gotowość organizacyjną. Niekontrolowany rozrost narzędzi AI w dużych organizacjach to nie tylko problem estetyczny - duplikujące się systemy przetwarzają te same dane niezależnie, tworząc rozbieżne wyniki i tzw. „pochodne artefakty", których nie można usunąć, bo... nikt nie wie, gdzie się znajdują.