Twórcy AI mówią o zagładzie ludzkości. Szef NVIDII ma dla nich krótką odpowiedź

Jensen Huang, prezes Nvidii, nie podziela najbardziej alarmistycznych opinii na temat przyszłości sztucznej inteligencji. Jednocześnie przyznaje, że firmy rozwijające zaawansowane modele powinny być gotowe zatrzymać swoje projekty, jeśli nie będą potrafiły zapewnić bezpieczeństwa. Jego propozycja jest wyjątkowo prosta: jeżeli technologia staje się zbyt niebezpieczna, nie powinna trafiać do użytkowników.

Prezes Nvidii, Jensen Huang, nie wierzy, że sztuczna inteligencja stanowi egzystencjalne zagrożenie dla ludzkości, niezależnie od tego, ilu byłych pracowników laboratoriów sztucznej inteligencji bije na alarm. Jeśli jednak ludzie pracujący za zamkniętymi drzwiami w miejscach takich jak Anthropic czy OpenAI rzeczywiście stoją na krawędzi zniszczenia świata, to  należy ich zamknąć.

W wywiadzie dla programu Ezra Klein Show Huang kontynuował odpierał wszelkie najbardziej pesymistyczne aspekty branży sztucznej inteligencji, a jednocześnie zaproponował dość prostą i jasną sugestię firmom, które uważają, że ich technologia jest tak potężna, że ​​może doprowadzić do upadku ludzi. Chodzi o to, aby po prostu nie wypuszczać dżina z butelki.

Huang: problem trzeba rozwiązać przed premierą

„Jeśli zamierzasz zbudować samochód autonomiczny, powiedzmy robotaxi, i jest to naprawdę trudna sytuacja. Jako inżynierowie po prostu nie mamy pojęcia, jak rozwiązać ten problem, ponieważ te samochody nie są programowane, są szkolone. Nie mamy więc pojęcia, jak je szkolić i jak dostosować je do standardów bezpieczeństwa obowiązujących na drogach” – powiedział. „Jakie jest rozwiązanie? Nie wypuszczać ich”.

Huang rozwinął tę myśl, mówiąc, że jeśli istnieje problem – na przykład roje agentów AI grożące przejęciem kontroli nad całym internetem, co, jak zasugerował prezes Anthropic, Dario Amodei, mogłoby się wydarzyć w ciągu kilku miesięcy – to należy to rozwiązać przed upublicznieniem produktu. A jeśli nie da się go rozwiązać, cóż, po prostu nie należy go wypuszczać.

„Jeśli teraz [laboratoria sztucznej inteligencji] stwierdzą, że nie ma sposobu na powstrzymanie naszych eksperymentów, po prostu nie ma takiej możliwości; kiedy będziemy testować nasze modele sztucznej inteligencji, informacje wyjdą na jaw i wyrządzą szkody światu, to myślę, że odpowiedzią jest konieczność zamknięcia laboratoriów” – powiedział dyrektor generalny firmy Nvidia.

Wyraźnie podkreślił również potrzebę oddania kompetencji z powrotem w ręce laboratoriów sztucznej inteligencji, które zdają się być gotowe do rezygnacji w odpowiednim momencie, twierdząc, że rozwój sztucznej inteligencji może wyprzedzać ich własne możliwości zrozumienia jej i kontrolowania. „To firmy z inicjatywą. To prezesi z inicjatywą” – powiedział Huang. „Jeśli uważam, że zamierzam wprowadzić na rynek produkt, który jest niebezpieczny, leży to całkowicie w mojej mocy, w mojej władzy i na mojej odpowiedzialności, i jestem do tego zmotywowany, by tego nie robić”.

NAwet dla akcjonariuszy powinno być jasne, że nie można wypuszczać złowrogiej AI. Jak mają zarabiać, skoro wszyscy zginą?