Co to jest Deepfake? Jak powstaje? Czy jest groźne? Przykłady

Czym jest Deepfake? Jak w praktyce jest tworzone i do czego wykorzystywane? Jak rozpoznać? Jak stworzyć? Konkretne przykłady.

Deepfake

Aplikacje deepfake do tworzenia nieprawdziwych filmów i zdjęć są coraz doskonalsze, tańsze i łatwiejsze w obsłudze. Jak działają i jak się przed nimi chronić? Sprawdź mój przewodnik.

Znajdujesz w sieci nagranie z sobą w roli głównej czyli człowieka, który z bronią w ręku napadł na bank. Nigdy nie brałeś udziału w takim skoku, ale problem w tym, że Twoi rodzice, dziewczyna/żona i znajomi o tym nie wiedzą, a film jest niesamowicie realistyczny.

Tak działa deepfake czyli technologia, która umożliwia sztucznej inteligencji umieszczenie dowolnej osoby (aktora, piosenkarki, polityka, a także Ciebie) w bardzo nieciekawej sytuacji. 

Na czym polega Deepfake? Wszystko, co trzeba wiedzieć o technologii deepfake

Oszustwa towarzyszyły internetowi i cyfrowej rzeczywistości od początku. Jednak pozbawieni skrupułów ludzie nigdy nie mieli w ręku tak potężnych narzędzi. Teraz mogą bez większego wysiłku wyprodukować fałszywe nagranie wideo z udziałem dowolnej osoby na świecie.

Co jest najgorsze? W praktyce bardzo trudno odróżnić prawdziwe nagranie od podrobionego. Podobnie ze zdjęciami czy nagraniami audio.

Deepfake z papieżem Franciszkiem w białej kurtce

Pamiętasz zdjęcie papieża Franciszka w designerskiej kurtce? To przykład jak sztuczna inteligencja – w tym przypadku aplikacja Midjourney – może generować alternatywną rzeczywistość.

Tym razem dla żartu, ale deepfake wykorzystywane są i będą do wyłudzania pieniędzy, szantażu lub kompromitacji politycznej konkurencji.

Fejkowe zdjęcia lub filmy to zagrożenie, którego rozmiary trudno jeszcze w pełni ocenić. Próbkę mieliśmy w ubiegłym roku, kiedy żołnierze ukraińscy zobaczyli „nagranie” prezydenta Zełeńskiego namawiającego ich do kapitulacji.

Deepfake z Markiem Zuckerbergiem - twórcą Facebooka
Cyberaktywiści krytykujący Big Tech też używają deepfake – w tym nagraniu wzięli na cel twórcę Facebooka

Deepfake – czym jest?

Mówiąc najprościej, deepfake to technika manipulacji multimediami, która za pomocą sztucznej inteligencji (AI) tworzy fałszywe obrazy, dźwięki lub nagrania wideo.

Nazwa pochodzi od połączenia dwóch angielskich słów: deep (“głęboki” – od głębokiego uczenia, deep learning) i fake (“fałszywy”). Takiego nicka – „DeepFakes” – użył też użytkownik serwisu Reddit, który w 2017 r. opublikował filmy pornograficzne, w których podmieniono twarze aktorek na twarze celebrytek.

Fake

Deepfake może być wykorzystany do tworzenia filmów, w których twarze i głosy ludzi zostają zamienione na te, które zostały wygenerowane przy użyciu algorytmów sztucznej inteligencji.

Chcesz mieć prezydenta USA, który wygłasza przemówienie całkowicie sprzeczne z wcześniej głoszonymi poglądami. Proszę bardzo. Zalazł Ci za skórę szef w pracy i zamierzasz go skompromitować tworząc “nagranie”, w którym zachowuje się, jakby był po zbyt wielu drinkach? Nie ma problemu. Udowodnili to nowojorscy studenci, którzy nagrali wideo ze swoim przełożonym, który „wygłaszał’ rasistowskie uwagi.

Aplikacje deepfake do tworzenia wysokiej jakości fałszywych nagrań i zdjęć będą coraz łatwiej dostępne. Ich sposób wykorzystania ogranicza tylko wyobraźnia twórców i skrupuły (a raczej ich brak).

Łatwo wyobrazić sobie deepfake wpływający na wyniki wyborów – kompromitujący materiał wrzucony do sieci na chwilę przed ciszą wyborczą. Obraz lub film stanie się wiralem i zapadnie w pamięć wyborców zanim sztab zaatakowanego kandydata zdąży go skutecznie zdementować. Media społecznościowe świetnie nadają się do rozpowszechniania fałszywych filmów i fotek. Fałszywe wideo są niezłym sposobem na chaos informacyjny.

Deepfake z aresztowania Donalda Trumpa
„Zdjęcie” z aresztowania Donalda Trumpa, do którego nigdy nie doszło

Na czym bazuje technologia Deepfake? 

Na trenowaniu algorytmów sztucznej inteligencji, a do nauki wykorzystywane są bardzo duże zbiory danych wideo i dźwiękowych. Efektem jest produkcja nowych obrazów i dźwięków, które wyglądają i brzmią jak autentyczne.

Taki trening umożliwia tworzenie fałszywych materiałów wideo, które wydają się autentyczne, choć w rzeczywistości są całkowicie sfabrykowane.

Głębokie podróbki są coraz doskonalsze. Postęp jest bardzo szybki. Spójrz na fałszywki sprzed 3-4 lat – w większości przypadków zauważysz, że coś jest z nimi nie tak. Słaba jakość techniczna sprawia, że były stosunkowo łatwe do rozpoznania. Współczesne produkcje skuteczniej wprowadzają w błąd.

Co będzie w przyszłości? Być może, jak pokazuje świetny serial „Obserwowani” (The Capture), technologia pozwoli na sprawne fałszowanie transmisji robionych w czasie rzeczywistym. 

Jak już wiesz deepfake to nie tylko tworzenie zabawnych filmów, technika jest wykorzystywana do szkodliwych celów:

  • rozpowszechniania zmanipulowanych i fałszywych informacji,
  • szantażowania,
  • nadużywania wizerunku osób publicznych i celebrytów,
  • oszustw finansowych.
Deep Fake Neighbour Wars
Deep Fake Neighbour Wars” – pierwszy w historii serial, w którym żaden z aktorów nie uczestniczył w produkcji

Jest też używany w branży rozrywkowej. Na początku 2023 roku powstał serial “Deep Fake Neighbour Wars” z udziałem m.in. Rihanny, Kim Kardashian, Nicki Minaj i Grety Thunberg. Sęk w tym, że żadna z tych osób nie zagrała w produkcji emitowanej przez ITVX. To był pierwszy w dziejach “serial deepfake”. Wcześniej (w 2017 roku) na “czerwonych” portalach pojawiły się filmy porno, w których wykorzystano wizerunek znanych aktorek (m.in. Scarlett Johansson).

Deeptrace - The state of Deepfakes
Według raportu firmy Deeptrace, 96 proc. filmów deepfake w sieci było w 2019 roku pornografią

Technologia deepfake pozwoli tworzyć filmy z dawno nieżyjącymi aktorami lub grającymi w różnych epokach. Spotkanie Marilyn Monroe i Kate Winslet w jednym filmie jest całkiem możliwe (zresztą powstają już fałszywe grafiki z nieistniejących filmów, np. „Galaxy od Flesh” Davida Cronenberga).

Deefake bywa wykorzystywane też w słusznym celu. Np. do ukrycia tożsamości bohaterów filmu HBO „Witajcie w Czeczenii” (2020).

Jednak deepfake to przede wszystkim poważne zagrożenie dla prywatności i bezpieczeństwa – nie tylko najbardziej znanych i popularnych aktorów, piosenkarzy, sportowców czy polityków. Na celowniku agresora może się znaleźć każdy.

Deepfake – obrona

Na czym polega największy problem z deepfake? Fałszywki są obecne od zawsze. Np. Stalin zalecał wymazywanie ze zdjęć towarzyszy, którzy wypadli z jego łask. Jednak technologia deepfake jest coraz bardziej zaawansowana i fałszywy obraz niezwykle trudno odróżnić od autentycznego.

Retusz zdjęcia Józefa Stalina

Jak uchronić się przed potężną siłą rażenia deepfake? Zadanie jest bardzo trudne. Na dobrą sprawę nie wiemy ile fałszywych filmów krąży po sieci. Te starsze są słabej jakości, ale najlepsze aplikacje tworzą zaskakująco udane animacje.

Oto sposoby na deepfake (za serwisem CyberDefence24):

  • krytycznie oceniaj oglądany materiał – jeżeli bohater filmu wypowiada stwierdzenia kontrowersyjne i niepasującego do jego poglądów, to może być oszustwo (wystarczy chwila namysłu, aby ocenić, że prezydent USA nie mógł nawoływać w 2023 roku do segregacji rasowej), zawsze warto ocenić wiarygodność strony, na której jest nagranie oraz/i osoby, która je zamieściła,
  • spójrz na szczegóły – AI ma nadal problemy z odwzorowaniem szczegółów anatomicznych człowieka, np. wyglądu/ruchu oczu, ust, palców, dlatego autorzy deepfake często tworzą statyczne nagrania; fałszywy obraz może być bardziej nieostry (przede wszystkim twarz), a głos niepasujący do obrazów,
  • wypróbuj aplikacje do demaskowania deepfake – możesz użyć np. watchframebyframe.com lub programu firmy Sensity AI, który wykrywa fałszywe nagrania.
  • zwróć uwagę na punktowe rozmycia na twarzy lub jej krawędziach oraz mimikę – jeżeli nagranie budzi twoje podejrzenia, to porównaj je z innymi filmami z udziałem bohatera wideo,
  • jeżeli chcesz się lepiej przygotować na starcie z deepfake, to poświęć trochę czasu na edukację, np. jak powstają głębokie fałszywe filmy z zamianą twarzy.
Watch Frame By Frame
Strona www.watchframebyframe.com pomaga obejrzeć film klatka po klatce
Sensity AI
Aplikacja Sensity AI, która działa w roli antywirusa do deepfake

Jak powstaje Deepfake i jak wykorzystać do tego sztuczną inteligencję?

IT

Deepfake to technika generowania fałszywych obrazów, filmów lub dźwięków, które wydają się autentyczne, ale zostały stworzone przy użyciu sztucznej inteligencji (AI).

W procesie tworzenia deepfake, algorytm wykorzystuje głębokie uczenie. Na podstawie setek tysięcy obrazów, filmów lub nagrań uczy się m.in. mimiki twarzy, mowy ciała, akcentu i głosu kopiowanej osoby.

Im więcej danych tym lepiej. Świetnym materiałem są aktorzy i celebryci, bo dostępnych jest bardzo dużo materiałów z ich udziałem. Dane są analizowane za pomocą algorytmów uczenia maszynowego, które potrafią nauczyć się charakterystycznych ruchów i gestów danej osoby.

Kolejny krok to wykorzystanie głębokich sieci neuronowych używających technik zmiany twarzy. Tak powstaje bardzo realistyczne film, w którym postacie wykonują czynności, których faktycznie nie wykonały.

Aplikacje do tworzenia filmów typu deepfake używają też Generative Adversarial Network (GAN, Generatywna sieć przeciwstawna) – to narzędzie, które poprawia niedoskonałości w pierwszych wersjach wideo.

We wspomnianym serialu stacji ITVX, AI “nałożyła” twarze znanych osób na aktorów. Efekt jest piorunujący. Twórcy informują, że nagranie jest stworzone przez sztuczną inteligencję, ale wyobrażam sobie, że jeżeli ktoś przegapi to ostrzeżenie, to w 99,99 proc. nie połapie się, że ogląda fałszywkę…

Co ciekawe, głębokie uczenie, które pozwala tworzyć nieprawdziwy film służy też w aplikacjach wykrywających deepfake.

Jak wstawić swoją twarz do filmu?

Jeżeli chcesz stworzyć deepfake ze swoim udziałem, to najłatwiej użyć jednej z ogólnie dostępnych aplikacji. Należy do nich m.in. DeepFace Lab, FakeApp czy Face Swap.

DeepFaceLab
DeepFaceLab chwali się, że ponad 95 proc. fałszywych filmów powstaje z wykorzystaniem ich programu

Zamiana twarzy będzie możliwa, jeżeli najpierw przygotujesz materiał wideo ze swoją nagraną twarzą. Im lepszej jakości, tym bardziej będziesz zadowolony/zadowolona z efektu końcowego.

Możesz też użyć aplikacje deepfake online.

Np. Deepfakesweb działa w chmurze, a jej twórcy zapewniają, że tylko użytkownik ma dostęp do swoich danych, filmów i obrazów.

Chociaż aplikacja służy do tworzenie filmów typu deepfake, to ma wbudowane „bezpieczniki”. M.in. każde wideo ma wyraźny i widoczny znak wodny wskazujący, że oglądamy deepfake. Dodatkowo pozostawiono pewne niedoskonałości, aby umożliwić jego rozpoznanie.

Do synchronizacji ruchu ust służy m.in. aplikacja Wombo chętnie używana w mediach społecznościowych. Możesz ją pobrać na telefony z systemem Android/iOS i stworzyć film, na którym śpiewasz (Ty lub dowolna osoba).

Jest też chińska aplikacja Zao, która pozwala zamienić twarz na filmie w kilka sekund, jednak do rejestracji potrzebujesz chińskiego numeru telefonu.

Jak wkleić swoją twarz w GIF?

Stworzenie GIF-a (krótkiej animacji) nie jest trudnym zadaniem. Możesz korzystać z:

  1. Aplikacji mobilnych – wybór programów na smartfony, które pozwalają na wklejenie swojej twarzy w GIF jest bogaty. Zazwyczaj musisz zrobić selfie/zdjęcie w dobrej jakości i wybrać klip, w których chcesz „wystąpić”. Możesz użyć np. Doublicat, aplikację, która ma sporą bazę wycinków popularnych filmów i programów telewizyjnych.
  2. Narzędzi online – animację stworzysz bez pobierania programu, skorzystać z serwisu internetowego, który pozwala na wklejenie twarzy w GIF, popularny strony internetowe od prostego deepfake, to Giphy, Imgflip czy Canva.
  3. Programów graficznych – osoby bardziej zaawansowane technologicznie mogą stworzyć filmik używając programów graficznych, np. Adobe Photoshop.

Tworzenie GIF-ów za pomocą aplikacji może być fajną zabawą, jednak zawsze pamiętaj o bezpieczeństwie swojego wizerunku. Sprawdź, jakie dane są zbierane przez daną aplikację lub stronę internetową i przemyśl, czy chcesz je udostępnić.

Deepfake – pytania i odpowiedzi (Q&A)

Na czym polega deepfake?

Deepfake polega na tworzeniu filmów wideo, zdjęć i nagrań audio z osobami, które w rzeczywistości w nich nie uczestniczyły. Do produkcji – przede wszystkim zamiany twarzy – wykorzystuje sztuczną inteligencję (AI), syntezę ludzkiego obrazu,

Czy deepfake jest legalne?

Deepfake jako technologia jest legalny natomiast nielegalny może być sposób jej wykorzystania. Np. przygotowanie fałszywego nagrania wideo, w którym wizerunek danej osoby może narazić ją na utratę wiarygodności czy narusza jego dobre osobiste.

Jak zrobić deepfake?

Tworzenie filmów typu deepfake (zamiana twarzy) możliwe jest przy użyciu aplikacji i stron online, niektóre są darmowe lub dostępne za niewielką opłatą.

Jaki program do deepfake?

Najlepsze aplikacje do do tworzenia fałszywych wideo to m.in. Deepface Lab, która jest darmowa i zapewnia wysokiej jakości efekt oraz FakeApp i Face Swap.

Jak wykryć deepfake?

To trudne zadanie. Powstają aplikacje do demaskacji oszustw, np. AI Foundation wykorzystuje uczenie maszynowe. W wykryciu deepface pomaga zwrócenie uwagi na szczegóły anatomiczne na filmach i zdjęciach – AI nie jest jeszcze mistrzem w odtwarzaniu wizerunku czy ruchu palców, oczu i ust.

Zapisz się na bezpłatny 7-dniowy kurs e-mail:
PODSTAWY BEZPIECZEŃSTWA

i dowiedz się jak zabezpieczyć komputer, telefon i konta internetowe:

PODSTAWY BEZPIECZEŃSTWA