Elon Musk: Google jest rasistowskie i antycywilizacyjne

Google udostępniło więcej informacji na temat przyczyn wstrzymania w tym tygodniu tworzenia obrazów ludzi przez Gemini.

Na początku tego tygodnia starszy dyrektor ds. produktu Google, Jack Krawczyk, który nadzoruje rozwój modelu sztucznej inteligencji, opublikował na platformie X komunikat, że zespół Gemini pracuje nad dostosowaniem modelu, aby zapewnić bardziej zróżnicowane i adekwatne wyniki. Post pojawił się po skargach wielu użytkowników, którzy zgłaszali, że Gemini generuje obrazy historyczne, na których ludzie różnych ras pojawiają się w kontekstach, w których nie byliby naturalnie obecni. Na przykład Gemini stworzyło obraz czarnoskórego ojca założyciela USA, czy czarnoskórego członka niemieckiej pary z lat dwudziestych XIX wieku. Poprawka okazała się bardziej złożona, niż zakładał zespół, dlatego wczesnym czwartkowym rankiem Google wyłączył możliwość generowania obrazów osób za pomocą tego narzędzia.

Google tłumaczy się z przesadzonej różnorodności w swoim modelu AI Gemini.

W piątkowym poście na blogu starszy wiceprezes Google, Prabhakar Raghavan, bardziej szczegółowo opisał, co poszło nie tak z Gemini. W szczególności Raghavan podkreślił, że próba dopasowania modelu do pokazywania różnorodności nie uwzględniła przypadków, które w sposób oczywisty nie powinny być przedstawione. Dodał również, że model stał się znacznie bardziej ostrożny niż zamierzano i czasami odmawiał generowania odpowiedzi na niektóre podpowiedzi, błędnie interpretując anonimowe sugestie jako wrażliwe.

Innymi słowy, Gemini został przeszkolony, aby uwzględniał różnorodność rasową, ale nie zawsze interpretował to odpowiednio. Model miał także inną definicję tego, co może być niewłaściwe, niż zamierzano.

Sytuację skomentował również sam Elon Musk: "Cieszę się, że Google przesadziło z generowaniem obrazów przez sztuczną inteligencję, ponieważ dzięki temu ich szalone rasistowskie, antycywilizacyjne programowanie stało się jasne dla wszystkich" - napisał na X w mionym tygodniu.