OpenAI ogranicza ludzkie cechy ChatGPT, żeby nie mieszać w głowach nastolatków

OpenAI wprowadza dziś szereg nowych funkcji bezpieczeństwa przeznaczonych dla użytkowników ChatGPT poniżej 18. roku życia. Posiadacze nowych kont "nastoletnich" będą mogli wyłączyć głosową odpowiedź chatbota, co ma ograniczyć wrażenie, że rozmawiają z żywą osobą. Firma wprowadza też regularne przypomnienia zachęcające młodych ludzi do zrobienia przerwy, informujące wprost, że ChatGPT to sztuczna inteligencja, a rozmowa „może poczekać”.

OpenAI zaznacza, że zmiana nie jest odpowiedzią na konkretny incydent, choć dookoła AI od miesięcy narasta niepokój dotyczący osób wierzących w świadomość narzędzi zasilanych sztuczną inteligencją. 

Nowe konta nastolatków w wielu elementach przypominają rozwiązania znane z dużych platform społecznościowych. OpenAI zapowiada, że konta te staną się domyślne dla osób, które przy rejestracji zadeklarują wiek poniżej 18 lat, a także dla tych, których firma sama zidentyfikuje jako nastolatków (choć nie wyjaśniono, na jakiej podstawie ma się to odbywać). Dzieci poniżej 13. roku życia w dalszym ciągu nie mogą korzystać z produktu.

ChatGPT dla nastolatków z nowymi zabezpieczeniami

Do funkcji dołącza rozszerzony Study Mode, w którym ChatGPT prowadzi ucznia przez zadanie bez podawania gotowych odpowiedzi - teraz z możliwością ustawienia konkretnych godzin, w których tryb ten włącza się automatycznie, oraz „cichych godzin”, kiedy narzędzie zostaje całkowicie wyłączone. OpenAI podaje, że dziewięciu na dziesięciu młodych użytkowników korzysta z ChatGPT właśnie w celach edukacyjnych, co pokazuje, jak istotna jest dla firmy kwestia odpowiedzialnego wykorzystania narzędzia w nauce. Jednocześnie raport think tanku Policy Exchange wskazuje, że aż 94 proc. badanych studentów przyznało się do korzystania z AI podczas zdalnych egzaminów.

OpenAI zapowiada, że konta te staną się domyślne dla osób, które przy rejestracji zadeklarują wiek poniżej 18 lat

Do listy potencjalnie niebezpiecznych zapytań, o których informowani będą rodzice powiązanych kont, dodano także treści związane z zaburzeniami odżywiania. Każde takie zgłoszenie ma być najpierw sprawdzane przez człowieka, a rodzic powinien otrzymać powiadomienie w ciągu godziny od wysłania niepokojącego zapytania przez dziecko.

Pokazuje to rosnącą presję na firmy AI, by traktowały nastoletnich użytkowników inaczej niż dorosłych - podobnie jak zrobiły to platformy społecznościowe pod naciskiem regulatorów i opinii publicznej. Dla porównania, Claude od Anthropic pozostaje narzędziem wyłącznie dla dorosłych, a Google na początku istnienia Gemini również nie dopuszczał dzieci do korzystania z produktu.