Pamiętacie inżyniera, który twierdził, że SI zyskała świadomość? Google powiedziało dość

W minionych tygodniach widzieliśmy dość zaskakujące doniesienia na temat inżyniera Google, który twierdził, że Google LaMDA (model języka dla aplikacji dialogowych) zyskał świadomość. Teraz poznaliśmy zakończenie tej historii, którego w sumie należało się spodziewać.

Blake Lemoine to (były już) starszy inżynier  oprogramowania w Google Responsible AI, który zamieścił w sieci transkrypcję z  wywiadu z LaMDA  i twierdził, że Sztuczna Inteligencja stała się świadoma. "Gdybym nie wiedział dokładnie, co to jest, czyli ten program komputerowy, który niedawno zbudowaliśmy, pomyślałbym, że to siedmioletni, ośmioletni dzieciak, który akurat zna fizykę"  - mówił Lemoine. Po ujawnieniu swoich rewelacji, co stanowiło naruszenie zasad poufności giganta technologicznego, Lemoine został wysłany na płatny urlop, podczas którego dalej pojawiał się w mediach, między innymi zatrudniając prawnika, ale nie dla siebie, ale dla wspomnianego bota.

Lemoine twierdził, że bot LaMDA jest świadomy. Zatrudnił w tej sprawie prawnika, a nawet kontaktował się z przedstawicielami rządu. Google w końcu postanowiło pozbyć się kłopotliwego pracownika.

Lemoine, który jest przy okazji chrześcijańskim księdzem mistykiem, twierdził, że LaMDA jest czująca. Rozmowy, które opublikował, zawierały poglądy bota na prawa robotyki Isaaca Asimova, jego strach przed wyłączeniem (co przyrównał do śmierci) oraz przekonanie, że nie jest niewolnikiem, ponieważ nie potrzebuje pieniędzy. Google gwałtownie zaprzeczyło twierdzeniom Lemoine'a, nazywając je "całkowicie bezpodstawnymi" i zauważając, że LaMDA jest jedynie algorytmem zaprojektowanym do naśladowania ludzkich rozmów, jak wszystkie chatboty. Większość ekspertów AI zgodziła się z Google, a Lemoine był przedstawiany jako nie do końca zdrowy psychicznie.

Lemoine twierdził, że Google powinno zapytać o zgodę LaMDA przed przeprowadzeniem eksperymentów na nim, a nawet kontaktował się z członkami rządu w tej sprawie. Google powiedziało jednak dość i postanowiło się pozbyć kłopotliwego pracownika. "Jeśli pracownik dzieli się obawami dotyczącymi naszej pracy, tak jak zrobił to Blake, poddajemy je obszernemu przeglądowi. Uznaliśmy twierdzenia Blake'a, że LaMDA jest czująca, za całkowicie bezpodstawne i pracowaliśmy nad wyjaśnieniem tego z nim przez wiele miesięcy. Te dyskusje były częścią otwartej kultury, która pomaga nam wprowadzać innowacje w sposób odpowiedzialny" - powiedział rzecznik prasowy firmy. "Szkoda więc, że pomimo długiego zaangażowania w ten temat, Blake nadal zdecydował się uporczywie naruszać jasne zasady dotyczące zatrudnienia i bezpieczeństwa danych, które obejmują potrzebę ochrony informacji o produktach. Będziemy kontynuować nasz staranny rozwój modeli językowych i życzymy Blake'owi wszystkiego dobrego."

• Chińczycy produkują chipy 7 nm dzięki technologii ukradzionej TSMC i to bez nowoczesnych maszyn
• Tesla winna śmierci młodego mężczyzny. Udział producenta w tragedii wynosi... 1%
• Google wyrzucone z duńskich szkół. Usługi jak Dysk i Dokumenty oraz Chromebooki zostały zakazane