Filmy deepfake zacierają granice między rzeczywistością a fałszywymi wiadomościami, przez co coraz trudniej jest uwierzyć w to, co się widzi. Jeśli jednak wiesz, na co zwrócić uwagę, istnieją charakterystyczne oznaki, które zdradzają te niepokojąco realistyczne i często dziwaczne filmy. Dowiedz się, jak rozpoznać deepfake — a następnie zapewnij sobie bezpieczeństwo w Internecie dzięki kompleksowemu narzędziu do ochrony bezpieczeństwa i prywatności, takim jak Avast.
Spis treści
- Czym jest deepfake?
- Jak powstają deepfake’i?
- Czy można stworzyć deepfake głosu?
- Przykłady filmów deepfake
- Deepfake’i z udziałem celebrytów
- Jak rozpoznać film deepfake
- Czy deepfake’i są legalne?
- Jak powstrzymać złośliwe deepfake’i
- Chroń swoją tożsamość w Internecie
Czym jest deepfake?
Deepfake to niezwykle realistyczny, ale fałszywy materiał multimedialny stworzony poprzez modyfikację istniejącego materiału wideo lub audio. Filmy deepfake wykorzystują narzędzia sztucznej inteligencji (AI) do przekonującego zastąpienia twarzy lub głosu danej osoby twarzą lub głosem innej osoby, co pozwala na wykorzystanie syntetycznych materiałów multimedialnych w celach rozrywkowych lub złośliwego rozpowszechniania fałszywych informacji.
Fałszywe media cyfrowe nie są niczym nowym, ale deepfake to zjawisko całkowicie współczesne. W przeciwieństwie do fałszywych zdjęć tworzonych przez prawdziwych ludzi za pomocą narzędzi takich jak Photoshop, deepfake są wytwarzane przez maszyny AI. Wykorzystanie tego rodzaju zaawansowanej manipulacji wideo jest coraz bardziej powszechne w schematach pharmingowych, co utrudnia ochronę przed kradzieżą tożsamości.
Samo słowo „deepfake” jest tworem syntetycznym — połączeniem słów „deep learning” (głębokie uczenie się) i „fake” (fałszywy). Część „deep” w znaczeniu deepfake odnosi się do głębokiego uczenia się, czyli metody szkolenia komputerów, aby myślały naturalnie, jak ludzki mózg. Część „fake” w definicji podkreśla oszukańczy charakter mediów deepfake.
Głębokie uczenie się to proces sztucznej inteligencji, który polega na wielokrotnym powtarzaniu zadania, czasami bez nadzoru człowieka, w celu odkrycia najlepszego sposobu osiągnięcia pożądanego rezultatu. W przypadku deepfake’ów sztuczna inteligencja jest zasilana setkami referencyjnych zdjęć i filmów, aby nauczyć ją generowania wersji twarzy osoby, którą można animować.
Do czego służą deepfake’i?
Filmy deepfake są często wykorzystywane do nieszkodliwych celów, takich jak memy, filtry w mediach społecznościowych lub aplikacje do zamiany twarzy. Jednak deepfake’i mogą być również wykorzystywane w złych celach, aby rozpowszechniać dezinformację, tworzyć fałszywe wiadomości lub publikować filmy zemsty. Zmiana wyglądu danej osoby, aby wyglądała jak ktoś inny, jest często wykonywana dla zabawy, ale może również służyć do cyberprzemocy lub prowadzić do kradzieży tożsamości.
Co mówią eksperci
„Filmy oszukańcze są rozpowszechniane głównie na popularnych platformach, takich jak YouTube, X i TikTok, za pośrednictwem zhakowanych kont z dużą liczbą subskrybentów… łączne przychody z tych oszustw sięgają milionów dolarów w różnych kryptowalutach”.
Martin Chlumecký, badacz złośliwego oprogramowania
Rzeczywiście, to właśnie ta mniej pozytywna strona technologii deepfake jako pierwsza trafiła do domeny publicznej. W 2017 roku użytkownik Reddita wykorzystał tę technologię do cyfrowego stworzenia pornografii bez zgody osób, których twarze zostały wykorzystane, a były to twarze znanych kobiet. Chociaż subreddit został zablokowany w 2018 roku, ten rodzaj deepfake’ów z Reddita oraz inne formy deepfake’ów znanych osób rozprzestrzeniły się w Internecie.
A to dopiero początek, jeśli chodzi o znane przykłady deepfake. Technologia deepfake może być wykorzystywana do wielu rodzajów oszustw, od manipulacji politycznej i fałszywych wiadomości, po pornografię zemsty i szantaż. Każdy, kto ma dostęp do technologii deepfake, może sprawić, że inna osoba będzie wyglądać, jakby mówiła lub robiła praktycznie wszystko.
Niebezpieczeństwo związane z tworzeniem i wykorzystywaniem filmów deepfake jest już nam znane. Rosną obawy, że deepfake będzie w przyszłości coraz częściej wykorzystywane w złych zamiarach, co podważa bezpieczeństwo danych biometrycznych, w tym w przypadku stosowania narzędzi rozpoznawania twarzy.
Jak powstają deepfake’i?
Deepfake’i powstają poprzez wprowadzenie dużej ilości obrazów danego obiektu do sieci komputerowych wykorzystujących głębokie uczenie się, zwanych wariantowymi autoenkoderami (VAE). Celem jest wytrenowanie VAE w celu uchwycenia szeregu ekspozycji świetlnych, pozycji i wyrazów emocjonalnych. Pomaga to sztucznej inteligencji określić, które elementy wizualne, takie jak wyraz twarzy lub cienie, są unikalne, a które można zastąpić.
Oto bliższe spojrzenie na proces tworzenia wideo typu deepfake:
- Po pierwsze, sztuczna inteligencja potrzebuje dwóch grup obrazów wejściowych: oryginalnego źródła (osoba A) i celu podróbki (osoba B). Komputery mogą być szkolone na szeregu losowych twarzy lub na wielu obrazach konkretnej osoby.
- Następnie sztuczna inteligencja tworzy obrazy wyjściowe. Sztuczna inteligencja określa, które subtelne elementy ekspresji są unikalne i niezbędne dla deepfake. Aby być przekonującym, sztuczna inteligencja musi zachować subtelności osobowości i ruchów twarzy, które występują naturalnie i są unikalne dla osoby docelowej.
- Aby wykonać zamianę twarzy, obrazy wejściowe i wyjściowe są łączone — dane wyjściowe oryginalnego źródła są wprowadzane do VAE i łączone z danymi docelowej twarzy deepfake. Koder rekonstruuje ruchy i ekspresję emocjonalną osoby A z twarzą osoby B. Musi to być zrobione klatka po klatce, aby film deepfake był naprawdę przekonujący.
Czy można stworzyć deepfake głosu?
Tak, można stworzyć deepfake głosu danej osoby za pomocą technologii deepfake opartej na sztucznej inteligencji, która wykorzystuje uczenie maszynowe i dane tekstowe do stworzenia syntetycznego głosu deepfake, który bardzo dokładnie naśladuje głos prawdziwej osoby. Podobnie jak inne deepfake oparte na sztucznej inteligencji, deepfake głosu można stworzyć za pomocą popularnych aplikacji i innych narzędzi internetowych.
Przykłady filmów deepfake
Najlepsze przykłady deepfake’ów to zazwyczaj te, które zostały stworzone specjalnie w celu zademonstrowania możliwości technologii deepfake. Inne, bardziej zabawne deepfake’i są nieco mniej wyrafinowane, ale nadal interesujące.
Niektórzy zastanawiają się więc, co jest takiego złego w deepfake’ach? Gdy są one wykorzystywane jako narzędzie do oszustw, manipulacji, zemsty lub wprowadzania w błąd – szczególnie w celu dezinformacji lub przekonywania do poglądów politycznych – deepfake’i mogą wyrządzić wiele szkód zarówno na poziomie osobistym, jak i społecznym.
Deepfake Baracka Obamy
Zobacz poniższy przykład deepfake’a byłego prezydenta USA Baracka Obamy, w którym w nietypowy dla siebie sposób używa wulgarnego słowa na „f” i przeklina Donalda Trumpa. Jeden model VAE został wytrenowany na podstawie danych wejściowych od aktora Jordana Peela, a drugi na podstawie setek zdjęć i filmów Obamy.
Głębokie podróbki Game of Thrones
Ten deepfake, w którym Jon Snow przeprasza za występ w Pucharze Starbucks w ostatnim sezonie Game of Thrones, pokazuje również humorystyczną stronę syntetycznych filmów.
Deepfake Joe Bidena
Ten deepfake głosu Joe Bidena — stworzony przy użyciu popularnego i łatwo dostępnego generatora deepfake — pokazuje, jak łatwo jest stworzyć przekonujące deepfake’i AI przy użyciu dzisiejszej technologii deepfake dostępnej online.
Richard Nixon deepfake
Nieudane lądowanie na Księżycu – przemowa Nixona deepfake to kolejny przekonujący przykład tego, jak łatwo jest sprawić, by wyglądało na to, że przywódcy polityczni powiedzieli lub zrobili coś, czego w rzeczywistości nie zrobili. Jednym z powodów, dla których wydaje się to tak autentyczne, jest fakt, że tekst oparty jest na rzeczywistej przemowie przygotowanej dla Nixona na wypadek niepowodzenia misji Apollo 11.
Deepfake’i z udziałem celebrytów
Nie jest zaskoczeniem, że celebryci są często przedmiotem deepfake’ów. Fakt, że są oni dobrze znani, sprawia, że są idealnym celem dla memów, a bogactwo łatwo dostępnych mediów pomaga technologii AI tworzyć dość przekonujące deepfake’i z ich udziałem.
Chociaż termin „deepfake z udziałem celebrytów” może na zawsze kojarzyć się z pornograficzną aferą deepfake na Reddicie, deepfake z udziałem celebrytów są często lekkie i przejrzyste w swoim zastosowaniu. Zapoznaj się z poniższą kompilacją filmów deepfake z Tomem Cruisem lub tą oczywistą makietą deepfake z Trumpem opowiadającym historię o reniferach.
Deepfake z Tomem Cruise
Wiersz deepfake: głębsze spojrzenie na życie impresjonisty
Jednym z najlepszych przykładów deepfake’u z udziałem celebrytów jest ten wiersz autorstwa impresjonisty Jima Meskimena. Dzięki sztucznej inteligencji opartej na głębokim uczeniu się płynnie przechodzi on z postaci Johna Malkovicha do Roberta De Niro, a następnie z Arnolda Schwarzeneggera do George’a Busha.
Jak rozpoznać film deepfake
Chociaż deepfake’i są na pierwszy rzut oka przekonujące, można je dość łatwo odróżnić od prawdziwych filmów, jeśli wiesz, na co zwrócić uwagę. Pomimo możliwości tworzenia bardzo realistycznych zamian twarzy generowanych przez sztuczną inteligencję, przekonująca animacja to zupełnie inna historia i prawie zawsze istnieją subtelne oznaki, które wskazują, że coś jest nie tak.
Jednak wraz z dojrzewaniem i udoskonalaniem technologii wykrywanie deepfake’ów prawdopodobnie stanie się trudniejsze. Pamiętając o poniższych wskazówkach dotyczących wykrywania deepfake’ów, można uniknąć oszustw, takich jak ataki phishingowe lub padanie ofiarą fałszywych wiadomości.
Największymi wskazówkami wskazującymi na deepfake są wady audio, niezręczne cienie i odcienie skóry oraz miękkie lub rozmyte obszary podczas ruchu. Zwróć szczególną uwagę na usta, czoło i szyję, ponieważ są to obszary ciała, które często mogą zdradzić oszustwo.
Zwróć uwagę na wady dźwiękowe
Posłuchaj tego deepfake’a ukraińskiego prezydenta Wołodymyra Zełenskiego, który rzekomo wzywa swoje wojska do poddania się. W porównaniu z autentycznym klipem Zełenskiego, zmieniony głos brzmi stłumiony i niewyraźny. Deepfake można również rozpoznać po niezsynchronizowanym dźwięku w stosunku do fizycznego ruchu ust.
Niespójne cienie i odcienie skóry
Cienie i odcienie skóry są niezwykle trudne do autentycznego odwzorowania, co sprawia, że są one jednym z najczęstszych sposobów wykrywania deepfake’ów. W tym klipie z filmu „Home Stalone” twarz Kevina często wygląda, jakby miała na sobie maskę Stalone’a, co wynika ze słabej integracji odcieni skóry. Można łatwo prześledzić linię od czoła Kevina, w dół policzka i wzdłuż linii żuchwy.
Miękkie lub rozmyte obszary
Miękkie lub rozmyte obszary, szczególnie wokół ust, są kolejną wyraźną oznaką, że mamy do czynienia z deepfake’iem. Powyższy deepfake Toma Cruise’a jest bardzo przekonujący pod wieloma względami, ale jeśli przyjrzeć się mu dokładnie, można dostrzec miękkie, rozmyte obszary wokół brody, które stają się najbardziej widoczne podczas zmian wyrazu twarzy i ruchów.
Czy deepfake’i są legalne?
Deepfake’i jako takie są legalne prawie wszędzie, ale legalność konkretnych deepfake’ów zależy od kontekstu i intencji i różni się w zależności od kraju.
Co mówią eksperci
„Awatary AI — cyfrowe bliźniaki — pozwalają nam pojawiać się w większej liczbie miejsc… ale odpowiedzialne korzystanie z nich i przejrzystość są niezbędne”.
Siggi Stefnisson, dyrektor ds. technologii cyberbezpieczeństwa, Gen Blog, 2025
W Stanach Zjednoczonych stopniowo wprowadzane są konkretne przepisy regulujące deepfake’i. Większość stanów USA posiada przepisy zakazujące pornografii zemsty, ale tylko kilka z nich, w tym Kalifornia i Teksas, określa deepfake’i jako nielegalne medium tego typu. Kalifornia zakazała również wykorzystywania deepfake’ów urzędników państwowych i kandydatów podczas kampanii wyborczych.
Wielka Brytania nie posiada obecnie żadnych konkretnych przepisów dotyczących deepfake’ów. Oznacza to, że osoby, które padły ofiarą deepfake’ów, muszą korzystać z istniejących przepisów, takich jak te dotyczące zniesławienia, aby wnieść sprawę do sądu.
Chiny niedawno uchwaliły ustawę dotyczącą deepfake’ów, która nakłada odpowiedzialność na samą platformę za rozpowszechnianie deepfake’ów i zabrania platformom rekomendowania treści syntetycznych. Ustawa odnosi się ogólnie do fałszywych informacji, w tym deepfake’ów, fałszywych wiadomości i innych mediów uznanych za wprowadzające w błąd.
Jak powstrzymać złośliwe deepfake’i
Chociaż istnieją silne zabezpieczenia cybernetyczne chroniące przed złośliwym oprogramowaniem, hakerami i innymi tradycyjnymi zagrożeniami, deepfake’i stanowią nowy rodzaj wyzwania. Wykrycie fałszywego zdjęcia lub filmu w Internecie nie zawsze jest łatwe, a wykrywanie deepfake’ów będzie stawało się coraz trudniejsze.
Jednak firmy zajmujące się bezpieczeństwem i technologią już pracują nad innowacyjnymi sposobami zwalczania złośliwych deepfake’ów. Programy i narzędzia, takie jak DARPA i Facebook Deepfake Detection Challenge, są wykorzystywane do wyposażenia społeczeństwa w środki obrony przed fałszywymi informacjami. Ważne jest również, aby znać różnice między prywatnością a bezpieczeństwem, aby móc bronić się w obu tych obszarach.
Ponieważ deepfake’i są tworzone przy użyciu dużych ilości zdjęć i filmów przedstawiających cele i osoby, ograniczenie ilości informacji udostępnianych w Internecie — zwłaszcza w mediach społecznościowych — może pomóc uniknąć stania się celem deepfake’a. Upewnij się, że wiesz, jak zmienić ustawienia prywatności na Facebooku oraz jak znaleźć i usunąć dane osobowe z Internetu.
Fałszywe pliki audio i wideo mogą być łatwo wykorzystane do ataków phishingowych, dlatego należy mieć świadomość tego nowego zagrożenia, które wciąż się rozwija. Podobnie jak w przypadku innych form phishingu, dokładniejsze sprawdzanie komunikatów może pomóc w wykryciu fałszywych wiadomości. Jeśli nie masz pewności, czy film jest prawdziwy, czy fałszywy, poszukaj informacji — sprawdź w Google lub spróbuj znaleźć źródło filmu w mediach społecznościowych lub w innych miejscach.
Chroń swoją tożsamość w Internecie
Gdy poufne dane trafią w niepowołane ręce, nie wiadomo, co cyberprzestępca może z nimi zrobić. Twoje osobiste zdjęcia, filmy i informacje należą do Ciebie — więc zadbaj o to, aby tak pozostało! Chroń swoją prywatność w Internecie dzięki kompleksowemu oprogramowaniu zapewniającemu prywatność i bezpieczeństwo, takiemu jak Avast.
Avast zapewnia kompleksową ochronę dzięki wielokrotnie nagradzanemu programowi antywirusowemu, niezawodnej zaporze ogniowej, narzędziom VPN i antyśledzącym umożliwiającym anonimowe przeglądanie stron internetowych oraz całodobowemu monitorowaniu naruszeń bezpieczeństwa danych, które ostrzega Cię w przypadku wycieku poufnych informacji o koncie do sieci. Już dziś zabezpiecz każdy aspekt swojego cyfrowego życia.
