Narzędzia do identyfikowania twarzy czasami dyskryminują

Zgodnie z najnowszym raportem rządowym narzędzie sztucznej inteligencji używane do identyfikacji osób w dochodzeniach organów ścigania, a także w kontekście bezpieczeństwa lotnisk i nadzoru mieszkaniowego, wywiera szczególnie negatywny wpływ na określone osoby. Można to uznać za formę dyskryminacji.

Technologia rozpoznawania twarzy, krytykowana przez obrońców praw obywatelskich za naruszenia prywatności i niedokładność, jest coraz szerzej wdrażana przez agencje federalne w Stanach Zjednoczonych i to często bez odpowiedniego nadzoru.

Nieproporcjonalny wpływ na grupy zmarginalizowane

Przewodnicząca Komisji Praw Obywatelskich, Rochelle Garza, stwierdziła, że „nieuregulowane stosowanie technologii rozpoznawania twarzy to ryzyko dla praw obywatelskich, szczególnie dla zmarginalizowanych grup, które historycznie poniosły ciężar dyskryminujących praktyk”.

Raport liczący 184 strony ujawnił, że co najmniej 18 agencji federalnych korzysta z tej technologii, a Departament Sprawiedliwości od 2007 roku przyznał 4,2 miliona dolarów lokalnym organom ścigania na programy związane z rozpoznawaniem twarzy.

Nie wszystkich traktują równo

Systemy rozpoznawania twarzy działają na podstawie oprogramowania biometrycznego, które mapuje twarz ze zdjęcia i porównuje ją z bazami danych. Niestety technologia nie działa doskonale: fałszywe identyfikacje są bardziej prawdopodobne w przypadku osób starszych, kobiet i osób o innym kolorze skóry niż biała.

W raportach wskazano również na poważne konsekwencje niewłaściwej identyfikacji, w tym na nieuzasadniony nadzór nad konkretnymi osobami oraz bezprawne aresztowania.

Technologia rozpoznawania twarzy jest stosowana nie tylko w organach ścigania, ale również w kontroli granicznej oraz przez publiczne agencje mieszkaniowe. Departament Bezpieczeństwa Wewnętrznego wdrożył ją w kilku agencjach, w tym w Immigration and Customs Enforcement. Od 2008 roku korzysta ona z rozwiązań biometrycznych do identyfikowania nieudokumentowanych imigrantów. Zdarzyło się, że kamery z funkcją rozpoznawania twarzy doprowadziły do eksmisji osób za drobne wykroczenia.

Zmiana w polityce potrzebna do walki z problemem

Tierra Bradford, kierownik programu reformy wymiaru sprawiedliwości, ma nadzieję na to, że raport przyczyni się do wprowadzenia zmian w polityce dotyczącej wykorzystania technologii rozpoznawania twarzy.

„Amerykański system wymiaru sprawiedliwości ma historię nieproporcjonalnego atakowania zmarginalizowanych społeczności, a narzędzia do rozpoznawania twarzy mogą być kolejnym wcieleniem tego problemu” – zauważyła.

Miłosz Magrzyk

źródło zdjęcia: Canva

Kategoria: Wiadomości

Data publikacji: 2024-10-17