Szef Anthropic, twórców Claude: „Nie rozumiemy, jak działa nasze AI” - i to niepokoi

Wraz z rosnącym tempem rozwoju sztucznej inteligencji, coraz częściej pojawiają się głosy ostrzegające przed jej nieprzewidywalnymi skutkami. Tym razem zaniepokojenie wyraził Dario Amodei, CEO firmy Anthropic, jednej z czołowych firm na rynku generatywnej AI. W opublikowanym niedawno eseju Amodei przyznał wprost: "Nie rozumiemy, jak działają nasze własne modele AI."

„Ludzi spoza branży często zaskakuje i niepokoi fakt, że nie mamy dokładnego pojęcia o funkcjonowaniu tworzonych przez nas systemów. I słusznie - brak zrozumienia na taką skalę jest czymś bezprecedensowym w historii technologii.” napisał Amodei.

Komentarze zbiegają się w czasie z krytycznymi doniesieniami na temat OpenAI, producenta ChatGPT, który ogranicza czas poświęcony na testy bezpieczeństwa, by szybciej wypuszczać nowe produkty.

Szef Anthropic ostrzega, że ten brak przejrzystości w działaniu AI stanowi realne zagrożenie, które może prowadzić do niezamierzonych, a nawet niebezpiecznych konsekwencji. Jego zdaniem, zanim sztuczna inteligencja osiągnie poziom autonomii wykraczający poza możliwości kontroli człowieka, laboratoria powinny skoncentrować się na zwiększeniu zdolności do zrozumienia mechanizmów decyzyjnych AI.

Sztuczna inteligencja poza naszym pojmowaniem

Amodei pisze, że w przyszłości systemy AI będą absolutnie kluczowe dla gospodarki, technologii i bezpieczeństwa narodowego co sprawia, że ignorancja wobec ich działania jest po prostu nie do zaakceptowania.

Jego komentarze zbiegają się w czasie z krytycznymi doniesieniami na temat OpenAI, producenta ChatGPT, który - według raportu - ogranicza czas poświęcony na testy bezpieczeństwa, by szybciej wypuszczać nowe produkty i wyprzedzać konkurencję. Z firmy odeszło także wielu członków zespołu założycielskiego, powołując się na zaniedbania w zakresie bezpieczeństwa.

W obliczu ogromnych inwestycji coraz więcej ekspertów, w tym Bill Gates, przewiduje, że AI zastąpi ludzi w większości zadań. Jednak jak podkreślają krytycy, to nie sama automatyzacja jest dziś największym problemem, lecz fakt, że nie potrafimy zrozumieć, co właściwie tworzymy.