Komisja ds. edukacji powołała się na fałszywe badania. Zostały wygenerowane przez AI

W ostatnich dniach ujawniono, że komisarz ds. edukacji na Alasce, Deena Bishop, wykorzystała generatywną sztuczną inteligencję do opracowania polityki zakazującej używania telefonów komórkowych w godzinach lekcyjnych. Niestety, jak informuje Alaska Beacon, chatbot, z którego skorzystała Bishop, powołał się na wiele badań, które okazały się fikcyjne.

Projekt rezolucji, opublikowany online przed posiedzeniem stanowej rady ds. edukacji, zawierał sześć cytatów, które miały wspierać proponowane ograniczenie używania telefonów w szkołach. Cztery z tych cytatów, jak podaje Alaska Beacon, odnosiły się do badań, które nie istnieją. Organizacje rzekomo odpowiedzialne za publikacje, w tym American Psychological Association oraz Pew Research Center, są prawdziwe, ale tytuły badań cytowane w dokumencie nie są dostępne.

Nie od dziś wiadomo, że obecne chatboty mają tendencję do halucynacji i wymyślania odpowiedzi, jeśli nie mają informacji na dany temat. 

Przykładem jednego z fałszywych odniesień było stwierdzenie, że „longitudinalne badanie przeprowadzone przez American Psychological Association (2019) popiera” wprowadzenie zakazu telefonów komórkowych w klasie. W rzeczywistości nie istnieje żadne takie badanie, a link dołączony do tego cytatu prowadził do zupełnie innej publikacji.

Inne przykłady obejmują rzekome badanie opublikowane przez Journal of Educational Psychology w 2017 roku, które miało wykazywać szkodliwy wpływ telefonów na zapamiętywanie. Jednakże dołączony link prowadził do analizy dotyczącej wypalenia zawodowego nauczycieli, a nie do kwestii telefonów komórkowych. Inny cytat sugerował, że zakazywanie telefonów komórkowych poprawia wyniki uczniów, ale zawierał link do badania na temat zachowań seksualnych nastolatków na Facebooku.

Komisarz Bishop twierdzi, że cytaty były częścią pierwszego szkicu dokumentu, który przypadkowo trafił do internetu przed zakończeniem prac nad nim. Zaznaczyła, że ostateczna wersja, przesłana do członków zarządu, miała poprawione odniesienia. Jednakże, jak podaje Anchorage Daily News, zaktualizowany dokument nadal zawierał odwołanie do fikcyjnego badania z 2019 roku.

Sytuacja ta spotkała się z ostrą krytyką. Anchorage Daily News w komentarzu redakcyjnym opisało incydent jako „godny sitcomu telewizyjnego”, podkreślając, że Bishop niewłaściwie wykorzystała technologię, mając na celu ograniczenie jej stosowania przez innych. „Jej faux pas z fabrykowaniem cytatów… pokazuje brak dojrzałości w sposobach, w jakie wykorzystujemy sztuczną inteligencję — nawet na najwyższych szczeblach naszego rządu”, pisze redakcja.

Chociaż badania przytoczone przez sztuczną inteligencję okazały się fałszywe, rzeczywiste analizy wykazały, że telefony komórkowe faktycznie mogą być rozpraszaczem w klasie i negatywnie wpływać na zdolność uczniów do zrozumienia materiału.