Sztuczna inteligencja rozwija się w zastraszającym tempie. Jednym z najbardziej spektakularnych przykładów jest klonowanie, które potrafi naśladować czyjś głos z taką precyzją, że brzmi on prawie jak oryginał.

Jednak taki postęp niesie za sobą nie tylko potencjalne korzyści, ale również poważne ryzyka.

Skutki nieodpowiedniego wykorzystania technologii mogą doprowadzić do poważnych konsekwencji prawnych i społecznych.

Skandal z klonowaniem głosu

Na początku roku media społecznościowe zalano nagraniem, na którym rzekomo dyrektor szkoły średniej w Pikesville wygłaszał rasistowskie i antysemickie uwagi na temat swoich uczniów. Nagranie szybko wzbudziło kontrowersje, ale po dokładniejszej analizie eksperci zauważyli, że dźwięk brzmi nienaturalnie: był zbyt czysty i pozbawiony normalnych przerw na oddech. Okazało się, że nagranie było fałszywe.

Policja odkryła, że za stworzeniem fałszywego nagrania stał były dyrektor ds. sportu tej szkoły – Dazhon Darien. Wykorzystał komputery oraz narzędzia AI do wygenerowania sztucznego pliku. Motywem jego działań była zemsta na dyrektorze, który prowadził dochodzenie w sprawie nieprawidłowości finansowych i słabych wyników w pracy. Fałszywe nagranie wywołało falę nienawiści w kierunku dyrektora i szkoły.

Tak AI szkodzi, gdy trafi w niepowołane ręce

Incydent w Pikesville pokazuje, jak poważne mogą być skutki nieodpowiedniego wykorzystania technologii AI. Fałszywe nagranie wywołało nie tylko szkody wizerunkowe, ale również falę hejtu i pogróżek wobec szkoły i jej dyrektora. Ten przypadek jest idealną przestrogą. Trzeba koniecznie wprowadzić odpowiednie regulacje oraz środki ostrożności w korzystaniu z AI, aby zapobiec podobnym incydentom w przyszłości. Technologia powinna być narzędziem ułatwiającym życie, a nie źródłem zagrożeń i konfliktów.

W odpowiedzi na rosnące ryzyko nadużyć OpenAI zdecydowało się ograniczyć dostęp do swojej platformy generującej głos i zaoferować ją tylko wybranym użytkownikom. Ten krok ma na celu zapobiec nieautoryzowanemu wykorzystaniu głosów. W Stanach Zjednoczonych trwają także prace nad ustawami, które mają na celu ochronę wizerunku i głosu obywateli. No Fakes Act oraz No AI Fraud Act mają zapobiegać używaniu czyjegoś wizerunku, głosu czy imienia bez zgody danej osoby.

Miłosz Magrzyk

źródło zdjęcia: Canva

Kategoria: Wiadomości

Data publikacji: 2024-08-19