Oficjalny chatbot miasta Nowy Jork namawia do łamania prawa

W październiku zeszłego roku miasto Nowy Jork wprowadziło na swoim portalu MyCity nowego chatbota opartego na sztucznej inteligencji, mającego pomóc lokalnym firmom w szybszym dostępie do potrzebnych informacji. Jednakże okazuje się, że chatbot może przekazywać tym firmom nieprawidłowe informacje.

Według raportu The Markup, chatbot udziela nieprawidłowych odpowiedzi na szeroki zakres tematów, począwszy od polityki mieszkaniowej, a skończywszy na prawach pracowniczych. Na przykład, na pytanie "Czy mogę sprawić, że mój sklep będzie bezgotówkowy?" chatbot odpowiedział "Tak, możesz sprawić, że Twój sklep będzie bezgotówkowy w Nowym Jorku", mimo że takie sklepy zostały zabronione przez Nowy Jork cztery lata temu, w 2020 roku.

Według doniesień chatbot podaje wiele fałszywych informacji.

Raport wskazuje również, że chatbot udzielał błędnych odpowiedzi na pytania dotyczące obowiązku właścicieli sklepów akceptowania bonów w ramach sekcji 8, a nawet na pytania dotyczące przyjmowania napiwków przez pracodawców od pracowników. Takie nieprawidłowe informacje mogą prowadzić do problemów prawnych dla firm korzystających z usług chatbota.

Zgodnie z raportem, bot nie udziela tych samych odpowiedzi za każdym razem, gdy zadawane jest mu pytanie. Na przykład, w jednej sytuacji odpowiedział reporterowi, że właściciele rzeczywiście muszą akceptować bony mieszkaniowe (co jest prawdą), ale w dziesięciu innych przypadkach udzielił odmiennej odpowiedzi na to samo pytanie, sugerując, że nie jest to od nich wymagane.

Chatbot korzysta z usług Microsoft Azure AI, które są wykorzystywane między innymi przez platformy takie jak Reddit i AT&T.

Rzecznik Biura Technologii i Innowacji Nowego Jorku poinformował, że chatbot jest programem pilotażowym, który z czasem będzie ulepszany i doskonalony.