UE wyda regulacje dotyczące Sztucznej Inteligencji. Zakaz monitoringu AI i systemów oceny społecznej

Innowacje związane ze sztuczną inteligencją budzą obawy związane z potencjalnym nadużywaniem ich przez różne firmy oraz agencje rządowe. Słyszeliśmy już mnóstwo doniesień o nadużywaniu AI w Chinach, gdzie nowe technologie są wykorzystywane do rozbudowanego monitoringu z rozpoznawaniem twarzy oraz budowania systemu oceny społecznej. W obawie przed takimi nadużyciami Komisja Europejska wkrótce zaproponuje zestaw przepisów, które bez wątpienia wywołają napięcia z kilkoma gigantami z Stanów Zjednoczonych. W zeszłym roku Komisja Europejska ujawniła plany projektu pokoleniowego, który ma zmniejszyć zależność regionu od firm zewnętrznych w zakresie produktów i usług cyfrowych. Różne propozycje są nadal przedmiotem debaty publicznej, ale większość z nich obraca się wokół stworzenia nowej polityki rynku cyfrowego, która będzie miała szerokie konsekwencje dla gigantów technologicznych, takich jak Google, Amazon, Facebook, Microsoft i wszystkie inne firmy, które gromadzą olbrzymia ilość danych, zasilających zasoby sztucznych inteligencji.

Komisja Europejska wprowadzi regulacje w stosowaniu AI, zakazując m.in. zaawansowanego monitoringu z rozpoznawaniem twarzy i systemów oceny społecznej. UE chce również ograniczyć możliwość wykorzystywania danych przez gigantów jak Google i Facebook.

W tym tygodniu ma nastąpić oficjalne ujawnienie dokumentu, który wyciekł przedwcześnie i został omówiony przez Politico. Dokument ten to 81-stronicowey projekt Komisji Europejskiej, z którego wynika, że UE zamierza całkowicie zakazać systemów SI "wysokiego ryzyka", jeśli nie spełniają one określonych kryteriów. Na przykład dokument określa, że ​​"masowy nadzór nad osobami fizycznymi powinien być zakazany, jeśli jest stosowany w sposób uogólniony do wszystkich osób bez różnicowania". Firmy, które nie spełnią kryteriów, mogą zostać ukarane grzywną w wysokości 4% ich rocznego obrotu lub do 20 milionów euro (23,95 miliona dolarów). 

Komisja chce również zakazać systemów oceny społecznej, takich jak ten stosowany w Chinach, które są powszechnie uważany za pogwałcenie podstawowych praw człowieka. Wszystko co może działać na szkodę Europy poprzez manipulowanie opinią lub decyzjami obywateli, a także AI, które można wykorzystać do masowej inwigilacji, zostanie sklasyfikowane jako "sprzeczne z wartościami Unii" i zakazane. Istnieją jednak wyjątki, które umożliwiałyby władzom zwalczanie przestępczości i terroryzmu przy użyciu systemów rozpoznawania twarzy. Wyjątki te mają prawdopodobnie na celu uspokojenie krajów takich jak Francja, która jest chętna do integracji sztucznej inteligencji ze swoim aparatem bezpieczeństwa. Na celowniku Komisji znajduje się również technologia Deepfake , ale nie w takim samym stopniu, jak inne zastosowania sztucznej inteligencji. Technologia ta może wprowadzać bardzo przekonujące zmiany w obrazach i filmach, a istniejące narzędzia do wykrywania nie są na tyle zaawansowane, aby wychwycić takie treści i odpowiednio je oznaczyć lub usunąć, zanim staną się powszechne w sieci. 

Europa zamierza jednak stawiać na rozwój systemów sztucznej inteligencji, które pomagają w produkcji, zwiększaniu wydajności sieci energetycznej, autonomicznych samochodach, zdalnych operacjach, modelowaniu zmian klimatycznych lub lekach . Ponadto w projekcie zaproponowano utworzenie Europejskiej Rady ds. Sztucznej Inteligencji jako specjalnego mechanizmu nadzoru nad nowymi przepisami. Amerykanie uważają jednak, że to tylko straszak i jak powiedział były dyrektor generalny Google Eric Schmidt, który obecnie przewodniczy Komisji Bezpieczeństwa Narodowego USA ds. Sztucznej Inteligencji (NSCAI), powiedział że europejska strategia zarządzania sztuczną inteligencją nie odniesie sukcesu i nie będzie w stanie rygorystycznie trzymać się swoich przepisów.