​Deepfake – co to jest i jak działa?

Deepfake działa pograniczu zaawansowanej technologii i manipulacji, a na pewno zmienia sposób, w jaki patrzymy na obraz i dźwięk w mediach cyfrowych. Dlaczego technologia ta wywołuje debatę na temat etyki, prywatności i odpowiedzialności za generowane treści, a także jakie skutki może mieć dla społeczeństwa?

Z tego artykułu dowiesz się m.in.:

• Czym jest deepfake i jaka jest jego historia?
• Jak działa deepfake?
• Jakie są zastosowania deepfake’ów?
• Jakie prawa regulują deepfake’i?
• Jakie zagrożenia wynikają z deepfake’ów?
• Jak rozpoznawać deepfake?
• Jak przeciwdziałać deepfake’om?

​Deepfake – definicja i historia

Deepfake to technologia wykorzystująca sztuczną inteligencję i algorytmy uczenia maszynowego, w szczególności sieci neuronowe, do generowania lub modyfikowania obrazów oraz materiałów wideo tak, że wyglądają jak autentyczne. Główne założenie polega na manipulacji wizualnej lub dźwiękowej, w wyniku której można stworzyć realistyczną imitację osoby, która wypowiada słowa lub wykonuje gesty, mimo że w rzeczywistości tego nie robiła. Umożliwia to tworzenie filmów, w których konkretna osoba pojawia się w sytuacjach, w których nie brała udziału, lub wypowiada słowa, których nigdy nie powiedziała^{[1] [2] [3]}.

Deepfake to technologia wykorzystująca sztuczną inteligencję do tworzenia realistycznych, choć fałszywych materiałów wideo i audio, które mogą przedstawiać osoby w nieautentycznych sytuacjach.

Definicja deepfake

Deepfake wykorzystuje się m.in. w rozrywce, na przykład w branży filmowej, aby „ożywić” aktorów z przeszłości lub tworzyć realistyczne efekty specjalne. Technologia ta jednak budzi poważne kontrowersje i obawy związane z etyką i bezpieczeństwem, ponieważ stwarza zagrożenie manipulacji informacją, co prowadzi do szerzenia fałszywych treści, wprowadzania opinii publicznej w błąd, a także do naruszania prywatności^{[4] [5] [6]}.

Sam termin „deepfake” pochodzi od połączenia angielskich słów „deep learning” (głębokie uczenie) oraz „fake” (fałszywy^)[7]. Jego oczątki deepfake sięgają 2014 roku, kiedy to naukowcy zaczęli eksperymentować z generatywnymi sieciami przeciwstawnymi (Generative Adversarial Networks, GAN), które stały się fundamentem tej technologii^[8]. W 2017 roku termin „deepfake” zyskał rozgłos za sprawą użytkownika Reddita o pseudonimie Deepfakes, który opublikował zmanipulowane filmy pornograficzne z twarzami znanych osób^[9].

W 2018 roku pojawiły się pierwsze przypadki wykorzystania deepfake do tworzenia fałszywych wypowiedzi polityków, co wzbudziło obawy dotyczące dezinformacji i manipulacji opinią publiczną^{[10] [11]}. W 2022 roku odnotowano incydent, w którym deepfake przedstawiający prezydenta Ukrainy Wołodymyra Zełenskiego nawoływał do kapitulacji^{[12] [13]}. W odpowiedzi na rosnące zagrożenia naukowcy i instytucje zaczęli opracowywać narzędzia do wykrywania fałszywych treści.

​Działanie deepfake

Deepfake wykorzystuje do działania^{[14] [15] [16]} sieci neuronowych, zwłaszcza Generative Adversarial Networks, które pozwalają tworzyć realistyczne, choć fałszywe, materiały multimedialnych. GAN składają się z dwóch współpracujących, a jednocześnie konkurencyjnych sieci neuronowych:

• Generator odpowiada za tworzenie obrazu lub dźwięku, który naśladuje oryginał.
• Dyskryminator analizuje wygenerowane przez generator treści, porównując je z rzeczywistymi materiałami i oceniając ich autentyczność.
• Proces powtarza się wielokrotnie, aż generator osiągnie na tyle wysoki poziom realizmu, że oszuka dyskryminator.

Podczas tworzenia deepfake’ów twarzy osoba generująca materiał wykorzystuje odpowiednią ilość danych, takich jak obrazy twarzy i mimiki, żeby odwzorować pełny zakresu ruchów oraz emocji. Na początku algorytm analizuje strukturę i mimikę twarzy wybranej osoby, żeby później dostosować wygenerowane obrazy do konkretnych ruchów. W zaawansowanych przypadkach używa się także technik synchronizacji dźwięku z obrazem, aby odwzorować głos oraz ton wypowiedzi danej osoby.

Współczesne systemy deepfake są niezwykle precyzyjne, więc czasami rozróżnienie fałszywego materiału od rzeczywistego jest trudne nawet dla wprawnych odbiorców. Z tego powodu technologia ta działa na granicy etyki, ale nie da się ukryć, że można ją stosować w dziedzinach, takich jak film, reklama czy rozrywka.

​Zastosowania deepfake

W branży filmowej deepfake można stosować do tworzenia postaci wyglądających i zachowujących się jak aktorzy z przeszłości, co pozwala np. „wskrzeszać” nieżyjących artystów lub odmładzać aktorów dla potrzeb fabularnych. Pozwala to też doskonalić efekty specjalne, co obniża koszty i zwiększa jakość produkcji filmowych.

W edukacji deepfake można wykorzystywać do do tworzenia realistycznych symulacji, które pomagają w treningu specjalistów, takich jak lekarze, piloci czy przedstawiciele służb mundurowych.

W marketingu deepfake stosuje się w tworzeniu spersonalizowanych kampanii reklamowych, w których wizerunki celebrytów czy liderów opinii mogą zostać zaadaptowane do przekazywania konkretnych komunikatów reklamowych.

Deepfake może być również stosowany w obszarze bezpieczeństwa cyfrowego, gdzie bywa używany w działaniach badawczych i testach technologii służących do wykrywania oszustw. Jest też – niestety – wykorzystywany nieetycznie, na przykład do tworzenia fałszywych wiadomości czy materiałów kompromitujących osoby publiczne.

​Deepfake a prawo

Deepfake stawia przed systemami prawnymi na całym świecie liczne wyzwania. W polskim systemie prawnym brak jest obecnie specyficznych przepisów dotyczących tej technologii, ale w zależności od jej kontekstu i skutków użycia, można wobec niej stosować istniejące regulacji:

• Prawo cywilne, szczególnie w zakresie naruszenia dóbr osobistych, takich jak wizerunek, dobre imię czy prywatność, może skutkować roszczeniami o zadośćuczynienie lub odszkodowanie^[17].
• Wykorzystanie deepfake w sposób szkodliwy może podlegać pod przepisy dotyczące zniesławienia (art. 212 Kodeksu karnego) lub znieważenia (art. 216 Kodeksu karnego). Ponadto, tworzenie i rozpowszechnianie pornografii z udziałem deepfake może być kwalifikowane jako przestępstwo z art. 191a Kodeksu karnego, dotyczącego utrwalania wizerunku nagiej osoby bez jej zgody^[18].

Na poziomie Unii Europejskiej podjęto kroki w celu uregulowania kwestii związanych z deepfake:

• Akt o usługach cyfrowych (Digital Services Act) wprowadzono w celu zwiększenia odpowiedzialności platform internetowych za treści publikowane przez użytkowników, w tym treści generowane za pomocą deepfake. Nakłada on na platformy obowiązek szybkiego reagowania na dezinformację oraz wprowadza mechanizmy identyfikacji i usuwania nielegalnych treści^[19].
• Zaktualizowany w 2022 roku Kodeks postępowania w zakresie zwalczania dezinformacji obejmuje zobowiązania platform internetowych do przeciwdziałania dezinformacji, w tym treściom tworzonym za pomocą deepfake. Promuje przejrzystość reklamy politycznej oraz ogranicza zachowania manipulacyjne, takie jak tworzenie fałszywych kont czy wykorzystywanie botów^[20].

Na arenie międzynarodowej podejście do regulacji deepfake jest zróżnicowane:

• Niektóre stany USA, takie jak Kalifornia i Teksas, wprowadziły przepisy zakazujące wykorzystywania deepfake w kontekście wyborczym oraz w pornografii bez zgody osoby przedstawionej^[21].
• W Chińskiej Republice Ludowej od 1 marca 2020 roku obowiązuje prawo wymagające od twórców treści generowanych za pomocą sztucznej inteligencji, w tym deepfake, wyraźnego oznaczania takich materiałów, aby zapobiegać dezinformacji^[22].

​Zagrożenia wynikające z deepfake’ów

Jednym z głównych niebezpieczeństw deepfake’ów jest ich potencjał dezinformacyjny. Już są one wykorzystywane do tworzenia fałszywych materiałów, które, prezentując osoby publiczne wypowiadające nieistniejące oświadczenia czy biorące udział w fikcyjnych wydarzeniach, mogą wprowadzać w błąd opinię publiczną i prowadzić do destabilizacji społecznej. W przypadku kampanii wyborczych czy napięć międzynarodowych mogą posłużyć do manipulacji nastrojami społecznymi, a nawet eskalacji konfliktów.

Technologia ta niesie także zagrożenie dla prywatności jednostek, ponieważ umożliwia nieuprawnione wykorzystanie wizerunku danej osoby, żeby ją skompromitować. W szczególności bywa wykorzystywana do tworzenia treści pornograficznych z udziałem nieświadomych osób, co może mieć dla nich poważne konsekwencje zawodowe, osobiste oraz psychiczne.

Deepfake stawia także wyzwania w zakresie cyberbezpieczeństwa, ponieważ może zostać użyty do wyłudzania informacji i manipulacji w procesach biznesowych. Przykładem może być technika oszustwa „voice phishing”, w której za pomocą sztucznie wygenerowanego głosu uzyskuje się dostęp do poufnych informacji lub zachęca ofiarę do podjęcia niekorzystnych działań finansowych.

Na poziomie społecznym i psychologicznym deepfake rodzi obawy dotyczące zaufania wobec informacji wizualnych i dźwiękowych, które dotychczas uznawano za wiarygodne. Coraz większa dostępność tej technologii sprawia, że odbiorcy mogą nabrać dystansu do prezentowanych w mediach treści, co prowadzi do zjawiska post-prawdy – sytuacji, w której emocje i subiektywne przekonania dominują nad faktami. Zagraża to nie tylko jednostkom czy instytucjom, ale także destabilizuje fundamenty społeczeństwa, osłabiając jego zdolność do podejmowania decyzji na podstawie rzetelnych danych i wiarygodnych źródeł.

​Rozpoznawanie deepfake

Rozpoznawanie materiałów typu deepfake wymaga znajomości stosowanych w tej technologii metod i narzędzi technologicznych^{[23] [24]}. Jedną z podstawowych technik jest analiza mikromimiki i ruchów twarzy, które w przypadku deepfake bywają nieco zniekształcone lub nienaturalne. Częstym sygnałem są niespójności w ruchach oczu, takie jak nieregularne mruganie lub nietypowy sposób patrzenia.

Drugą metodą jest analiza szczegółów obrazu na poziomie pikseli – można w nich dostrzec niedoskonałości, nieregularne krawędzie, sztuczne zatarcie konturów lub nienaturalne oświetlenie i cienie. Deepfake ma również trudności w odwzorowaniu tekstur skóry, co można zauważyć jako zniekształcenia przy intensywnym przybliżeniu materiału.

Nie należy też zapominać o analizie jakości dźwięku – może ona wykazać, że głos postaci brzmi nienaturalnie, jest nadmiernie wygładzony lub odbiega od typowych intonacji oraz barwy głosu osoby, którą ma przedstawiać.

W rozpoznawaniu deepfake stosuje się także uczenie maszynowe – modele wytrenowane na ogromnych zbiorach danych zawierających zarówno autentyczne, jak i sztuczne materiały pozwalają automatycznie wykrywać fałszywe treści. Platformy do analizy materiałów multimedialnych, wspierane przez sztuczną inteligencję, potrafią wskazywać na obecność anomalii w czasie rzeczywistym, dzięki czemu są coraz częściej stosowane przez media, instytucje rządowe oraz firmy do weryfikacji informacji.

Na poziomie praktycznym dla indywidualnych użytkowników przyda się także zdrowa ostrożność w interpretacji materiałów multimedialnych, szczególnie gdy treści przedstawiają kontrowersyjne lub szokujące sytuacje. Pomocna będzie też znajomość potencjalnych oznak deepfake, takich jak zniekształcenia wizualne, nieautentyczne ruchy mimiczne lub dziwne efekty dźwiękowe.

​Przeciwdziałanie deepfake’om

Przeciwdziałanie deepfake wymaga zarówno rozwoju technologii, jak i wprowadzenia środków edukacyjnych oraz regulacji prawnych. Opracowanie algorytmów zdolnych do automatycznego wykrywania zmanipulowanych materiałów pozwala wyszukiwać nieprawdziwe treści już w fazie ich publikacji. Instytucje badawcze i firmy technologiczne inwestują w rozwój sztucznej inteligencji zdolnej do analizy mikroskopijnych anomalii i wzorców w obrazach i dźwięku. Systemy te stają się coraz bardziej precyzyjne, co pozwala np. automatycznie blokować potencjalnie niebezpieczne treści w mediach społecznościowych.

Ważne jest też zwiększenie świadomości społecznej, co powinno obejmować uświadamianie odbiorców o potencjalnych zagrożeniach oraz wskazywanie, jak rozpoznawać fałszywe materiały. Zorganizowane kampanie informacyjne czy warsztaty dla osób zawodowo związanych z mediami mogą pomóc we wzmocnieniu krytycznego myślenia wobec treści wizualnych i dźwiękowych.

Warto też podkreślić, że na poziomie ustawodawczym wprowadza się przepisy zobowiązujące platformy internetowe do monitorowania i usuwania nielegalnych treści, a także wymóg oznaczania treści wygenerowanych przez sztuczną inteligencję. Pomaga w tym też współpraca międzynarodowa, ponieważ fałszywe treści przekraczają często granice państw, więc organizacje międzynarodowe, rządy oraz duże platformy internetowe wspólnie podejmują działania zmierzające do wypracowania globalnych standardów i praktyk w zakresie rozpoznawania i ograniczania wpływu deepfake na społeczeństwo.