Jak rozpoznać deepfake? Eksperci wskazali elementy, które od razu zdradzają fałszywe nagrania

Manipulowanie zdjęciami czy nagraniami nie jest nowym zjawiskiem, jednak wraz z rozwojem technologii i AI, przybrało na sile. Wykorzystanie sztucznej inteligencji do generowania obrazów lub dźwięków, które imitują prawdziwe osoby, nie musi być zjawiskiem negatywnym – otwiera wiele nowych możliwości w dziedzinie sztuki i rozrywki. Niestety nie da się nie zauważyć, że największe korzyści z tej technologii czerpią jednak oszuści.

Edukacja pomoże w rozpoznaniu manipulacji

Dlatego tak ważne jest, aby być świadomym zagrożeń związanych z deepfake i uczyć się je rozpoznawać. NASK przygotował serię nagrań, które uczą, jak identyfikować treści deepfake i wskazują, jak unikać pułapek cyfrowych manipulacji.

Oto odcinek pierwszy (kompletny przewodnik będzie liczył 6 odcinków):

Jak więc rozpoznać wygenerowane treści?

Chociaż deepfake staje się coraz bardziej realistyczny, istnieją pewne wskazówki, które mogą pomóc w rozpoznaniu fałszywego filmu. Będą to na przykład:

• niespójności w ruchu, tj. nietypowe ruchy oczu, ust czy innych części twarzy, nieprawidłowości w renderowaniu, zwłaszcza w okolicy ust,
• fałszywy głos, co można rozpoznać zwłaszcza po nieprawidłowej intonacji lub braku płynności, co wynika z ignorowania interpunkcji,
• błędy w oświetleniu, które sprawiają, że cienie i refleksy mogą być nieprawidłowe lub niespójne z otoczeniem,
• inne niespójności, np. brak zgodności mowy ciała z wypowiadanymi słowami, zbyt gładka skóra, zbyt regularne mrugnięcia oczu, nienaturalnie brzmiący tekst, często zawierający błędy gramatyczne.

Problem z deepfake narasta

Po sieci krążą już tysiące nagrań, w których technologia deepfake wykorzystywana jest do szerzenia dezinformacji, wyłudzania danych czy oszustw finansowych. Znane są już przypadki tego, jak ta technologia wpływa na przebieg kampanii wyborczych czy samych wyborów. Może wykorzystywać również twarze aktorów, muzyków, celebrytów, przedsiębiorców, polityków czy sportowców. Co więcej, bez problemu może wykorzystywać twarze i głosy osób zmarłych.

Jest to problem, który od lat staje się coraz poważniejszy, a doskonalenie technologii powoduje, że coraz trudniej rozpoznać zmanipulowane zdjęcia lub nagrania. Nie tak dawno przestępcy próbowali oszukać pracownika LastPass podszywając się pod dyrektora generalnego firmy, Karima Toubbę – na szczęście w porę się on zorientował.

Firma Arup nie miała tyle szczęścia – została oszukana na 20 milionów funtów (ok. 100 milionów złotych), gdy pracownik został zmanipulowany podczas wideorozmowy z rzekomym dyrektorem finansowym firmy oraz innymi współpracownikami – wszystkie te osoby zostały w istocie wygenerowane przez sztuczną inteligencję na podstawie nagrań z archiwalnych konferencji online.

Źródło: NASK. Zdjęcie otwierające: Tero Vesalainen / Shutterstock

Część odnośników to linki afiliacyjne lub linki do ofert naszych partnerów. Po kliknięciu możesz zapoznać się z ceną i dostępnością wybranego przez nas produktu – nie ponosisz żadnych kosztów, a jednocześnie wspierasz niezależność zespołu redakcyjnego.

Artykuł Jak rozpoznać deepfake? Eksperci wskazali elementy, które od razu zdradzają fałszywe nagrania pochodzi z serwisu ANDROID.COM.PL - społeczność entuzjastów technologii.