Deepfake – czym jest i jakie niesie zagrożenia?

Sztuczna inteligencja opanowuje cyfrowy świat, stanowiąc ogromne wsparcie dla internautów oraz właścicieli firm. Niestety wraz z jej rozwojem mamy do czynienia również z licznymi problemami i nadużyciami. I choć AI, na przekór twórcom filmów science fiction, nie przejęło jeszcze kontroli nad ludzkością, niesie za sobą wiele zagrożeń. Jedno z nich nazywa się deepfake. Co to jest, czym grozi i jak go rozpoznać?

Co to jest deepfake?

Deepfake to technika manipulacji, która polega na tworzeniu przy użyciu sztucznej inteligencji realistycznych, ale fałszywych treści – zwłaszcza wideo i audio. Termin ten powstał poprzez połączenie słów deep learning (głębokie uczenie) oraz fake (podróbka lub falsyfikat).

Jak to działa? Deepfake wykorzystuje sieci neuronowe do analizowania istniejących nagrań wideo lub dźwiękowych, by następnie generować zupełnie nowe materiały, które – choć na pierwszy rzut oka wydają się prawdziwe – tak naprawdę są fałszywe. Przykład? Film ze znaną osobą mówiącą słowa, których w rzeczywistości nigdy nie wypowiedziała.

Deepfake – zagrożenia

Podstawowym zagrożeniem, jakie niesie za sobą deepfake, jest oczywiście dezinformacja. Może być on wykorzystywany do tworzenia fałszywych informacji (fake news), które wpływają na opinię publiczną, np. w kontekście polityki czy globalnych wydarzeń. Efekt? Niepotrzebne kontrowersje, nieporozumienia, a nawet destabilizacja w danej społeczności.

To jednak nie wszystko. Treści deepfake stanowią poważne zagrożenie również dlatego, że:

• mogą być wykorzystywane w oszustwach, np. do podszywania się pod bliskich czy pracowników firmy w celu wyłudzenia informacji lub pieniędzy;
• naruszają prywatność ofiar, stawiając je np. w kompromitujących sytuacjach, co może prowadzić do poważnych konsekwencji (emocjonalnych i prawnych);
• stanowią zagrożenie dla reputacji – nie tylko osób publicznych, celebrytów czy polityków, ale również zwykłych ludzi;
• prowadzą do utraty wiarygodności i zaufania do mediów, co wynika z trudności w weryfikowaniu prawdziwości treści.

Jak rozpoznać deepfake?

Rozwój algorytmów sztucznej inteligencji, w połączeniu z zaawansowanymi technikami przetwarzania obrazu i dźwięku, sprawia, że trudno odróżnić treści deepfake od tych prawdziwych, stworzonych od początku do końca przez człowieka. Jest to jednak możliwe, a o fałszerstwie mogą świadczyć:

• nienaturalna mimika albo ruchy twarzy i ciała;
• nienaturalne cieniowanie skóry, która może wyglądać na zbyt gładką lub sztuczną;
• punktowe rozmycia na twarzy lub jej krawędziach;
• niezgodność wypowiadanych słów z kontekstem albo znanymi poglądami danej osoby;
• brak interakcji mówiącej osoby z otoczeniem;
• nienaturalna modulacja głosu lub mechaniczna intonacja;
• zniekształcenia w wymowie lub akcentowaniu.

Jeżeli nie masz pewności, czy oglądany materiał to deepfake, możesz skorzystać z jednego z wielu narzędzi do wykrywania fałszywych materiałów. Mowa tu m.in. o Sensity AI czy Deepware Scanner.

Deepfake – jak się przed tym chronić?

Niezbędne są edukacja i świadomość. Wiedza na temat tego, czym są treści deepfake i jakie zagrożenia niosą, pomaga w rozpoznawaniu fałszywych materiałów. Poszukując informacji w internecie, warto weryfikować ich źródła, a także – w przypadku wątpliwości – korzystać z wymienionych wyżej narzędzi.

Nie zapominajmy także o ochronie swojej prywatności online – im więcej zdjęć oraz filmów publikujemy w sieci, tym bardziej jesteśmy narażeni na deepfake. Ważne jest więc zachowanie ostrożności, zwłaszcza w dzieleniu się materiałami, które mogą zostać wykorzystane przez innych w niewłaściwy sposób.