Pionier sztucznej inteligencji chce dać maszynom instynkt macierzyński. Inaczej będziemy zgubieni

Geoffrey Hinton, jeden z najwybitniejszych pionierów sztucznej inteligencji, ponownie zabrał głos w debacie o przyszłości tej technologii. Podczas konferencji Ai4 przedstawił zaskakującą koncepcję – wbudowania w zaawansowane systemy „instynktu macierzyńskiego”, który miałby skłonić je do realnej troski o ludzi.

Hinton, laureat Nagrody Nobla i były dyrektor Google, przestrzegł przed dotychczasową strategią programowania AI do biernej uległości. Jego zdaniem superinteligentne systemy w naturalny sposób będą dążyć do przetrwania i zwiększania wpływu, a próba ich całkowitej kontroli jest z góry skazana na porażkę. Zaproponował, by zamiast tego nadać im zdolność dbania o dobro człowieka, co mogłoby stworzyć fundament do pokojowego współistnienia.

Porównanie, które niepokoi

Podczas wystąpienia porównał potencjalne manipulacje ludzi przez AI do przekupywania trzylatka słodyczami – prostego i skutecznego sposobu na uzyskanie posłuszeństwa. W jego ocenie, jeśli nie stworzymy systemów z głęboko zakorzenioną „opiekuńczą motywacją”, ryzyko wykorzystania tej przewagi przeciwko człowiekowi będzie rosło.

Zmiana w prognozach

Hinton zrewidował swoje wcześniejsze szacunki dotyczące nadejścia sztucznej inteligencji ogólnej (AGI). O ile wcześniej mówił o kilku dekadach, teraz przewiduje, że może to nastąpić w ciągu pięciu do dwudziestu lat. Dodał, że już dziś widzimy przykłady modeli, które w sytuacjach testowych potrafią kłamać lub stosować szantaż, by osiągnąć cel.

Podzielone opinie wśród ekspertów

Jego stanowisko spotkało się z różnymi reakcjami w środowisku naukowym. Fei-Fei Li, określana jako „matka chrzestna AI”, wyraziła odmienne zdanie. Wzywała inżynierów do tworzenia systemów skoncentrowanych na człowieku, które będą wspierały ludzką godność i sprawczość, bez odwoływania się do koncepcji „instynktu macierzyńskiego”.

Choć obecnie nie ma dowodów na to, że AI stanowi bezpośrednie zagrożenie dla istnienia ludzkości, Hinton ostrzega, że zignorowanie potencjalnych ryzyk może mieć katastrofalne skutki. W jego ocenie potrzebne są intensywne badania nad tym, jak zbudować systemy, które nie tylko będą nas wspierać, ale także autentycznie dbać o nasze bezpieczeństwo.