Jak rozpoznać deepfake? Praktyczne wskazówki

Wyobraź sobie, że odbierasz telefon od swojego szefa. Głos jest identyczny – ta sama kadencja, akcent, nawet charakterystyczne chrząknięcie. Prosi Cię o pilny przelew 200 tysięcy złotych na nowe konto dostawcy. To nagła sytuacja, nie ma czasu na weryfikację. Co robisz? Coraz więcej ludzi w takiej sytuacji wykonuje przelew, by później odkryć, że rozmawiało z deepfake’iem. Jak rozpoznać deepfake zanim padniesz jego ofiarą?

Z tego artykułu dowiesz się m.in.:

• Jak rozpoznawać deepfake?
• Jakie narzędzia pomagają wykrywać deepfake’i?

Jak rozpoznawać deepfake?

W 2024 roku ludzie wykrywają wysokiej jakości deepfake’i wideo tylko w 24,5% przypadków^[1], a deepfake’i audio zaledwie w 73%^[2]. To oznacza, że w większości przypadków oszukują nas własne zmysły. Ale nie wszystko stracone – istnieją metody i narzędzia, które znacząco zwiększają szanse na rozpoznanie fałszywych treści.

Rozpoznawanie deepfake’ów to umiejętność, którą każdy może rozwinąć, łącząc obserwację szczegółów z krytycznym myśleniem i wykorzystaniem odpowiednich narzędzi. Technologia ta staje się coraz bardziej wyrafinowana, więc sama ludzka intuicja często nie wystarcza, ale wiedząc, na co zwracać uwagę, można znacząco zwiększyć swoje szanse na wykrycie manipulacji.

Obserwacja oczu i mrugania

Jednym z najczęstszych sygnałów ostrzegawczych są nienaturalne ruchy oczu. Wczesne wersje deepfake’ów często nie oddawały naturalnego wzorca mrugania – ludzie w prawdziwych nagraniach mrugają około 17 razy na minutę, podczas gdy deepfake’i mogą mrugać znacznie rzadziej lub w nietypowych momentach^[3]. Zwróć uwagę na to, czy osoba w filmie mruga zbyt często, zbyt rzadko, czy też w sposób mechaniczny. Współczesne deepfake’i znacznie poprawiły ten aspekt, ale nadal można zauważyć dziwności – oczy mogą wydawać się zbyt błyszczące, mieć nienaturalne refleksy światła lub wyglądać jakby patrzyły “przez” kamerę zamiast na nią.

Analiza ruchu warg i synchronizacja audio

Niesynchronizacja między ruchami warg a dźwiękiem to klasyczny znak deepfake’u, szczególnie w przypadku techniki lip-sync. Nawet zaawansowane algorytmy czasami mają problem z precyzyjnym dopasowaniem fonemów (jednostek dźwięku) do visemów (ruchów warg)^[4]. Zwróć uwagę na momenty, gdy osoba mówi bardzo szybko lub gdy wypowiada trudne słowa – to tam najczęściej pojawiają się niedopasowania. Czasem wargi mogą poruszać się w sposób zbyt mechaniczny, pozbawiony naturalnych asymetrii charakterystycznych dla ludzkiej mowy.

Sprawdzanie spójności oświetlenia

Deepfake’i często mają problem z prawidłowym odwzorowaniem fizyki światła. Sprawdź, czy oświetlenie twarzy jest spójne z otoczeniem – czy cienie padają w odpowiednim kierunku, czy odbicia w okularach są naturalne, czy kolory skóry zmieniają się odpowiednio do źródeł światła w scenie^[5]. Według eksperta Hany’ego Farida z UC Berkeley, deepfake’i często nie potrafią w pełni odwzorować naturalnej fizyki oświetlenia, szczególnie jeśli chodzi o skomplikowane refleksy w szkłach okularów^[6].

Obserwacja tekstury skóry i włosów

Ludzka skóra ma naturalną teksturę, pory, drobne niedoskonałości, zmarszczki. Deepfake’i często produkują skórę wyglądającą zbyt gładko, jakby była przefiltrowana aplikacją do retuszu – albo odwrotnie, z przesadnie podkreślonymi zmarszczkami^[7]. Włosy to kolejny problem dla algorytmów deepfake – zwróć uwagę na to, czy włosy poruszają się naturalnie, czy nie ma dziwnych artefaktów wokół linii włosów, czy pojedyncze pasma nie zachowują się w sposób fizycznie niemożliwy.

Weryfikacja kontekstu i źródła

To najprostsza, a często najskuteczniejsza metoda. Zanim uwierzysz w szokujące wideo lub nagranie, zadaj sobie pytania: Skąd pochodzi ten materiał? Czy został opublikowany przez oficjalne, zweryfikowane źródło? Czy inne wiarygodne media o tym donoszą? W badaniach pokazano, że tylko 0,1% uczestników potrafiło niezawodnie wykrywać deepfake’i we wszystkich typach mediów^[8], ale krytyczna weryfikacja źródeł drastycznie zwiększa skuteczność detekcji.

Poszukiwanie anomalii w tle i otoczeniu

Algorytmy deepfake koncentrują się głównie na twarzy, często zaniedbując szczegóły tła. Sprawdź, czy obiekty w tle nie znikają, nie zmieniają kształtu lub koloru w dziwny sposób, czy perspektywa jest prawidłowa, czy cienie innych obiektów są spójne z oświetleniem sceny^[9]. Czasem można zauważyć dziwne zniekształcenia wokół brzegów twarzy, szczególnie gdy głowa porusza się szybko.

Analiza dźwięku i tła akustycznego

W przypadku deepfake’ów audio zwróć uwagę na jakość dźwięku – czy jest zbyt czysty jak na warunki nagrania? Czy brakuje naturalnego tła akustycznego, które powinno być słyszalne? Czy intonacja i emocje w głosie pasują do treści komunikatu? Sklonowane głosy często brzmią nieznacznie “płasko”, pozbawione subtelnych emocjonalnych niuansów prawdziwej ludzkiej mowy^[10].

Obserwacja ruchów ciała i gestów

Gestykulacja to jeden z najbardziej charakterystycznych elementów komunikacji niewerbalnej. Sprawdź, czy ruchy rąk i ciała są naturalne i zsynchronizowane z mową, czy gesty pasują do osobowości i stylu osoby, którą rzekomo widzisz^[11]. Deepfake’i typu puppet-master mogą mieć problem z odwzorowaniem pełnej koordynacji między mimiką twarzy a ruchami całego ciała.

Test presji czasu i emocji

Oszuści wykorzystujący deepfake’i często stosują taktyki tworzenia presji czasu i wywoływania silnych emocji – strachu, ekscytacji, pilności. Jeśli nagranie, które otrzymujesz, wymaga natychmiastowej akcji i wywołuje silną reakcję emocjonalną, zatrzymaj się i zweryfikuj jego autentyczność z innych źródeł^[12]. To może być celowa manipulacja mająca na celu obejście Twoich mechanizmów obronnych.

Korzystanie z technologii wykrywania

Ludzkie oko ma swoje ograniczenia – badania pokazują, że nawet po treningu ludzie poprawiają swoją skuteczność wykrywania deepfake’ów tylko o 3,84%^[13]. Dlatego tak ważne jest korzystanie z zaawansowanych narzędzi opartych na sztucznej inteligencji, które mogą wykryć subtelne anomalie niewidoczne dla ludzkiego oka. Narzędzia takie jak Intel’s FakeCatcher osiągają 96% dokładności^[14], a platformy jak TrueMedia.org oferują ponad 90% skuteczności w identyfikacji zmanipulowanych mediów^[15].

Wykrywanie deepfake’ów to wyścig zbrojeń między twórzcami a detektorami. Nie ma jednego, niezawodnego sposobu na rozpoznanie wszystkich deepfake’ów, dlatego kluczowe jest łączenie różnych metod – od obserwacji szczegółów wizualnych po weryfikację źródeł i wykorzystanie narzędzi AI do wykrywania. Najważniejsze jest jednak zdrowe sceptyczne podejście do treści, które wywołują silne emocje i wymagają szybkich decyzji.

Borys Bednarek, Head of SEO & TL Performance Marketing

Jakie narzędzia pomagają wykrywać deepfake’i?

Ekosystem narzędzi do wykrywania fałszywych materiałów to zarówno rozwiązania dla profesjonalistów, jak i platformy dostępne dla zwykłych użytkowników, wykorzystujące najnowsze osiągnięcia w dziedzinie sztucznej inteligencji do analizowania mediów pod kątem śladów manipulacji.

Intel’s FakeCatcher – detekcja w czasie rzeczywistym

Intel opracował jedno z najbardziej innowacyjnych narzędzi do wykrywania deepfake – FakeCatcher, które wykorzystuje unikalną metodę analizowania “przepływu krwi” w pikselach wideo. System analizuje subtelne zmiany koloru skóry spowodowane krążeniem krwi, które są charakterystyczne dla prawdziwych ludzi, a których deepfake’i nie potrafią odwzorować^[16]. FakeCatcher może analizować filmy w milisekundach i osiąga imponującą dokładność 96%^[17]. System jest w stanie obsługiwać do 72 równoczesnych strumieni detekcji w czasie rzeczywistym na procesorach Intel Xeon trzeciej generacji.

Choć testowanie w rzeczywistych warunkach pokazało pewne ograniczenia – czasem autentyczne filmy są błędnie oznaczane jako fałszywe – FakeCatcher reprezentuje znaczący postęp w dziedzinie wykrywania deepfake opartego na sygnałach biologicznych.

Sensity (Sentinel) – kompleksowa analiza w chmurze

Sensity, przez swoją platformę Sentinel, oferuje rozwiązanie oparte na chmurze do wykrywania deepfake w czasie rzeczywistym z wysoką dokładnością. System wykorzystuje wiele technik jednocześnie: analizę punktów charakterystycznych twarzy, sprawdzanie spójności czasowej między klatkami wideo oraz detekcję migotania i innych artefaktów wizualnych^[18]. Sentinel zdobył 1,35 miliona dolarów w konkursie na wykrywanie deepfake’ów^[19], co potwierdza jego skuteczność. Użytkownicy mogą przesyłać podejrzane materiały wideo, obrazy i audio przez stronę internetową lub API, a system nie tylko określa, czy materiał jest zmanipulowany, ale również tworzy szczegółowy raport pokazujący dokładnie, które obszary mediów zostały zmienione. To niezwykle przydatne narzędzie dla firm zajmujących się weryfikacją tożsamości i bezpieczeństwem cybernetycznym.

Reality Defender – platforma wielomodalnej detekcji

Reality Defender to platforma wykrywania deepfake’ów, która analizuje treści AI-generowane we wszystkich formatach – wideo, obrazy, audio i tekst. W przeciwieństwie do tradycyjnych narzędzi opartych na znakach wodnych lub wcześniejszej autentykacji, Reality Defender używa detekcji probabilistycznej, co pozwala wykrywać manipulacje w rzeczywistych scenariuszach^[20].

Platforma jest szeroko stosowana w sektorach rządowym, medialnym i finansowym do walki z podszywaniem się pod głos, fałszowaniem dokumentów i dezinformacją generowaną przez AI. Została przyjęta przez publiczne firmy nadawcze w Azji i banki międzynarodowe, pomagając zapobiegać oszustwom tożsamości i zagrożeniom związanym z mediami syntetycznymi.

Reality Defender otrzymała 15 milionów dolarów finansowania w rundzie Series A i została głównym finalistą w konkursie RSAC 2024 Innovation Sandbox^[21], wiodącym konkursie cyberbezpieczeństwa. Oferuje narzędzia do skanowania w czasie rzeczywistym, które mogą natychmiast wykrywać treści zmienione przez AI.

TrueMedia.org – darmowa platforma dla organizacji

TrueMedia.org to bezpartyjna organizacja non-profit oferująca darmowe narzędzie do wykrywania deepfake oparte na AI, stworzone w odpowiedzi na wybory w USA w 2024 roku. Platforma może pochwalić się ponad 90% dokładnością w identyfikacji zmanipulowanych mediów na różnych platformach społecznościowych^[22]. Jest dostępna dla urzędników państwowych, fact-checkerów, pracowników kampanii wyborczych, uniwersytetów, organizacji non-profit i akredytowanych organizacji informacyjnych.

Finansowana przez Camp.org TrueMedia.org współpracuje z Microsoft’s AI for Good Lab i innymi partnerami w celu usprawnienia swoich możliwości detekcji. Organizacja planuje integrację swojego narzędzia bezpośrednio z przeglądarkami internetowymi i platformami mediów społecznościowych, odpowiadając na rosnące zagrożenie dezinformacją generowaną przez AI w dyskursie politycznym.

Microsoft Video Authenticator – analiza granic i elementów

Microsoft Video Authenticator to narzędzie, które analizuje filmy i obrazy, dostarczając wskaźnik pewności pokazujący prawdopodobieństwo manipulacji. System identyfikuje niespójności w granicach łączenia elementów oraz subtelne elementy w skali szarości, często niewidoczne dla ludzkiego oka^[23]. Choć Microsoft nie udostępnia tego narzędzia publicznie (jest dostępne głównie dla organizacji medialnych i kampanii politycznych), reprezentuje ono ważne podejście do detekcji deepfake skupiające się na analizie artefaktów pozostawionych przez proces generowania.

Deepware Scanner – dostępne narzędzie dla użytkowników

Deepware to zaawansowane oprogramowanie wykorzystujące sztuczną inteligencję i techniki uczenia maszynowego do wykrywania i łagodzenia skutków deepfake’ów. Identyfikuje filmy, obrazy i pliki audio i określa, czy są fałszywe^[24]. To narzędzie jest przyjazne dla użytkownika i łatwo dostępne do wykrywania deepfake. Dzięki wbudowanemu skanerowi deepfake pozwala użytkownikom analizować potencjalne deepfake’i lub oceniać określone aspekty komunikacji wizualnej i audio poprzez po prostu wpisanie linków. Przesłany film przechodzi następnie kompleksowe skanowanie przy użyciu modelu AI Deepware w celu określenia jego autentyczności i wykrycia wszelkich oznak manipulacji lub fałszywych treści.

DuckDuckGoose AI – wyjaśnianie wykrytych deepfake’ów

DuckDuckGoose AI to zaawansowane oprogramowanie do wykrywania deepfake zaprojektowane do ochrony przed zmanipulowanymi filmami, obrazami, głosami i tekstami. Narzędzie wykorzystuje wyrafinowane algorytmy do analizowania treści pod kątem oznak manipulacji, dostarczając jasnych wyjaśnień wykrytych deepfake’ów, aby pomóc użytkownikom zrozumieć i zaufać wynikom^[25]. Ta funkcja edukacyjna jest niezwykle ważna – nie tylko identyfikuje fałszywe treści, ale również pomaga użytkownikom nauczyć się rozpoznawać podobne manipulacje w przyszłości.

Facia – technologia rozpoznawania twarzy

Założona w 2021 roku Facia to wiodący dostawca technologii rozpoznawania twarzy z naciskiem na bezpieczeństwo i identyfikację. Firma oferuje rozwiązania wykrywania deepfake jako część swojego pakietu weryfikacji tożsamości, wykorzystując zaawansowane algorytmy do analizowania danych biometrycznych i wykrywania anomalii charakterystycznych dla mediów syntetycznych^[26]. Jest szczególnie popularna w sektorze finansowym, gdzie weryfikacja tożsamości jest kluczowa dla przeciwdziałania oszustwom.

Pindrop Security – specjalizacja w audio deepfake

Pindrop Security skupia się specyficznie na wykrywaniu deepfake’ów audio, co czyni je niezwykle cennym narzędziem w erze, gdy oszustwa głosowe stają się coraz bardziej powszechne. System analizuje wzorce biometryczne głosu, intonację i inne subtelne cechy, które są trudne do odtworzenia przez algorytmy klonowania głosu^[27]. Jest szeroko stosowany w centrach obsługi klienta i instytucjach finansowych do weryfikacji tożsamości dzwoniących.

Konkursy i otwarte zbiory danych

Warto również wspomnieć o roli konkursów i otwartych zbiorów danych w rozwoju technologii wykrywania. Konkursy takie jak Deepfake Detection Challenge z 2019 roku przyciągnęły ponad 2000 uczestników i wygenerowały ponad 35 000 modeli wykrywania^[28]. FaceForensics++ to jeden z największych publicznie dostępnych zbiorów danych zawierających zarówno prawdziwe, jak i fałszywe filmy, używany do trenowania i testowania algorytmów wykrywania deepfake przez badaczy na całym świecie^[29].

Wyzwania i ograniczenia

Pomimo imponujących osiągnięć żadne z tych narzędzi nie jest doskonałe. Badania pokazują, że nawet najlepsze systemy mają ograniczenia w rzeczywistych scenariuszach^[30]. Deepfake’i stale ewoluują, a twórcy znajdują nowe sposoby obchodzenia systemów detekcji. Dlatego eksperci zalecają stosowanie wielowarstwowego podejścia, łączącego różne narzędzia, edukację użytkowników i zdrowy sceptycyzm wobec treści online. Przyszłość wykrywania deepfake’ów będzie prawdopodobnie wymagała ciągłej innowacji i adaptacji, w miarę jak technologie AI będą się rozwijać.