Dyrektor Amazona wzywa do prawnej regulacji rozpoznawania twarzy

Dyrektor Amazona wzywa do prawnej regulacji rozpoznawania twarzy

Oprogramowanie Amazona służące do rozpoznawania twarzy, jest powodem ciągłej krytyki wypowiadanej pod adresem firmy. W związku z tym Michael Punke, wicedyrektor działu usług internetowych chcąc wyjść naprzeciw nieprzychylnym osobom opublikował swoje przemyślenia, dając wskazówki ustawodawcom, które powinni wziąć pod uwagę mierząc się z nowym zagadnieniem. Niestety, co wcale nie zaskakujące, jego pomysły w mniejszym stopniu służą regulacji oprogramowania Rekognition, a bardziej skupiają się na mikrozarządzaniu organów ścigania. Oprogramowanie Rekognition jest pod nieustannym ostrzałem ze strony wielu środowisk. Chroniąca prawa obywatelskie organizacja American Civil Liberties Union potępiła system po błędnym rozpoznaniu członków Kongresu, wskazując ich jako kryminalistów (ku uciesze ich przeciwników i mediów), jak również sami pracownicy Amazona wysyłali listy do kadry zarządzającej, domagając się zaprzestania rozpowszechniania oprogramowania i sprzedaży go policji i innym tego typu organizacjom. 

"Jest niezmiernie ważne, żeby każde przepisy chroniące prawa obywatelskie nie blokowały postępu i praktycznego wykorzystywania nowych technologii" - przekonuje Amazon.

System rozpoznawania twarzy Amazona (i nie tylko ten) budzi kontrowersje właściwie od samego początku swojego powstawania. Przez większość czasu Amazon konsekwentnie odmawiał komentarzy w tej sprawie, po cichu kontynuując prace i sprzedając oprogramowanie. Teraz to się zmieniło. Michael Punke uważa, że systemy rozpoznawania twarzy powinny działać w oparciu o poniższe pięć punktów:

  1. Rozpoznawanie twarzy powinno być zawsze używane w zgodzie z prawem, włączając w to prawa obywatelskie.
  2. Kiedy technologia rozpoznawania twarzy jest wykorzystywana przez przedstawicieli prawa, potrzebny jest nadzór, dający pewność, że wykorzystywanie przewidywania do podjęcia decyzji, nie narusza praw obywatelskich.
  3. Kiedy rozpoznawanie twarzy jest wykorzystywane przez przedstawicieli prawa do identyfikacji, albo w sposób zagrażający prawom obywatelskim, rekomendowana jest pewność rozpoznania na poziomie 99 procent.
  4. Organy ścigania powinny być transparentne w sposobie wykorzystywania technologii rozpoznawania twarzy.
  5. W miejscu monitorowanym oraz tam gdzie jest stosowane rozpoznawanie twarzy powinny być informacje o tym fakcie, niezależnie czy jest to miejsce publiczne, czy komercyjne.

Warto zauważyć, że Punke nazwał swój wpis wezwaniem do uregulowania spraw z oprogramowaniem, ale jego zasady dotyczą głównie regulacji działania służ oraz przestrzeni publicznej i prywatnej. "Standardy techniczne, które dostarczają jasnych wyników wydajności oraz metodologia testowa są sprawdzonym sposobem znajdowania błędów w oprogramowaniu i uważamy, że są adekwatne również i w tym przypadku". Punke uważa, że organizacje jak National Institute of Standards and Technology (NIST) powinny brać udział w ustanawianiu standardów testów i opracowywania oprogramowania do rozpoznawania twarzy. Dyrektor uważa, że nawoływanie do zakazu Rekognition albo innej technologii to pomyłka. Zamiast tego należy rozmawiać nad tym, jak wprowadzić nowe technologie i upewnić się, że nie są nadużywane. Powinno się opracować i wprowadzić "najlepsze praktyki" działania. To są rzeczy, do których zobowiązany jest Amazon.

Pokaż / Dodaj komentarze do: Dyrektor Amazona wzywa do prawnej regulacji rozpoznawania twarzy

 0