Lekcja 5.2
Deepfake i dezinformacja
Fałszywe wideo, głos i zdjęcia są dziś łatwe do zrobienia. Jak się nie dać nabrać?
5.2Deepfake i dezinformacja
Halucynacje to przypadkowe błędy AI. Deepfake'i to coś innego: fałszywe nagrania, zdjęcia i głosy, które ktoś tworzy celowo, żeby oszukać. Dziś są tak realistyczne, że oko i ucho często nie wystarczą. Nauczysz się więc metody, która działa nawet wtedy, gdy podróbka jest doskonała.
Każdy rozdział zaczyna się prosto. Chcesz więcej? Otwórz Zaawansowany, a w nim Ekspert.
Podróbka doskonała
Deepfake to fałszywe nagranie albo zdjęcie zrobione przez AI, na którym ktoś mówi lub robi coś, czego nigdy nie powiedział ani nie zrobił. Wystarczy kilka sekund nagrania czyjegoś głosu, żeby go podrobić.
Dawniej podróbkę zdradzały dziwne palce albo brak mrugania. Dziś takie błędy zdarzają się coraz rzadziej.
Wyobraź to sobie tak
„Deepfake jest jak perfekcyjna podróbka banknotu: gołym okiem nie zawsze dostrzeżesz różnicę, więc sprawdzasz zabezpieczenia i to, skąd go masz.”
Deepfake'i powstają dzięki modelom generatywnym, które poznałeś na poziomie 3: dyfuzyjnym (obraz i wideo), klonującym głos z krótkiej próbki i zamieniającym twarze. W 2025–2026 narzędzia do realistycznego wideo z dźwiękiem są powszechnie dostępne.
Szukanie „błędów” w obrazie działa coraz słabiej, bo każda nowa generacja modeli je usuwa. Bardziej niezawodne jest sprawdzanie źródła i kontekstu niż samego materiału.
Częsty błąd
Deepfake'a zawsze zdradzą dziwne dłonie lub brak mrugania.
Jak jest naprawdę
Nowe modele usunęły większość takich błędów. Bardziej niezawodna jest weryfikacja źródła i kontekstu niż szukanie artefaktów.
Nightingale i Farid (PNAS, 2022) pokazali, że ludzie rozpoznawali twarze wygenerowane przez StyleGAN2 z trafnością 48,2% — na poziomie rzutu monetą — i oceniali je jako bardziej godne zaufania niż prawdziwe.
Automatyczna detekcja to wyścig zbrojeń: detektory trenowane na jednym generatorze słabo uogólniają na nowe. Dlatego obok detekcji rozwija się dowodzenie pochodzenia treści.
Do czego służą oszustom
Oszuści dzwonią podrobionym głosem wnuczka albo dziecka i proszą o pilny przelew. W firmach zdarzały się wideorozmowy z fałszywym prezesem.
Deepfake'i służą też do kłamstw w polityce i do nękania ludzi, także nastolatków. Jeśli ktoś udostępnia fałszywe intymne zdjęcia, zgłoś to dorosłym, szkole i policji — to przestępstwo.
Najgroźniejsze zastosowania to oszustwa finansowe (fałszywy krewny lub przełożony), dezinformacja polityczna oraz nękanie — szczególnie intymne deepfake'i, których ofiarami są głównie kobiety i dziewczęta.
Wspólna cecha oszustw: presja czasu i silne emocje. „Pilnie”, „nikomu nie mów”, „przelej teraz” to sygnały, żeby się zatrzymać.
Przypadek Arup (Hongkong, 2024): pracownik przelał około 25 mln USD po wideokonferencji, w której dyrektor finansowy i współpracownicy byli deepfake'ami.
Art. 50 AI Act wymaga od 2 sierpnia 2026 roku oznaczania deepfake'ów i treści syntetycznych w formie czytelnej maszynowo. Wiele krajów, w tym państwa UE, wprowadza też przepisy karne dotyczące intymnych deepfake'ów bez zgody.
Metoda S.T.O.P.
Zanim uwierzysz lub udostępnisz, zastosuj metodę S.T.O.P.: Stop — zatrzymaj się. Twórca — sprawdź, kto to opublikował. Oryginał — poszukaj pierwszego źródła. Pomyśl — czy to ma sens i czy potwierdzają to zaufane media?
Przy podejrzanym telefonie rozłącz się i oddzwoń na znany numer. Warto ustalić z rodziną hasło bezpieczeństwa na takie sytuacje.
Skuteczne nawyki to: weryfikacja źródła, kontakt drugim, znanym kanałem, rodzinne hasło, wyszukiwanie obrazem (żeby znaleźć oryginalny kontekst zdjęcia) i sprawdzanie oznaczeń pochodzenia treści.
Przećwiczysz metodę w widgecie z tej lekcji i w grze „Prawdziwe czy AI?”.
- 1Stop: nie reaguj od razu
- 2Sprawdź źródło i datę
- 3Szukaj potwierdzenia w zaufanych mediach
- 4Zweryfikuj drugim kanałem
- 5Nie udostępniaj, gdy masz wątpliwości
Standard C2PA (Content Credentials) dołącza do plików kryptograficznie podpisane informacje o pochodzeniu i edycji; wspierają go m.in. Adobe, Microsoft, Google, OpenAI i producenci aparatów. Słabość: metadane łatwo usunąć, dlatego uzupełnia się je znakami wodnymi ukrytymi w samej treści, takimi jak SynthID (Google, 2023).
Żaden pojedynczy sygnał nie wystarcza. Zaufanie buduje się z kilku niezależnych: podpisu pochodzenia, wiarygodnego źródła i potwierdzenia w innych miejscach.
Zapis formalny
zaufanie = pochodzenie (C2PA) ∧ wiarygodne źródło ∧ niezależne potwierdzenie
Zapamiętaj
- Deepfake = realistyczna fałszywka stworzona przez AI.
- Sprawdzaj źródło i kontekst, a nie tylko „usterki”.
- Ustal z rodziną hasło bezpieczeństwa na wypadek oszustw głosowych.
Metoda S.T.O.P.
przejdź przez kroki
krok 1 z 4
Zatrzymaj się. Silne emocje (szok, złość, strach) to sygnał ostrzegawczy.
Telefon „od wnuczka” z płaczącym głosem? Rozłącz się i oddzwoń na znany numer albo zapytaj o rodzinne hasło bezpieczeństwa.
Ciekawostka
W 2024 roku oszuści wyłudzili od firmy Arup ok. 25 mln dolarów, organizując wideokonferencję, w której wszyscy uczestnicy poza ofiarą byli deepfake'ami.
W liczbach
25 mln $
straty firmy po wideokonferencji z deepfake'ami (2024)
Źródło: Arup / policja Hongkongu
Ewaluacja · 3 pytania
Sprawdź się
Co robisz, gdy widzisz szokujące wideo ze znaną osobą?
Dokąd dalej
Następny przystanek: Uprzedzenia w algorytmach
Deepfake'i są dziś realistyczne, a oko często nie wystarczy. Chroni Cię metoda S.T.O.P., kontakt drugim kanałem i sprawdzanie pochodzenia treści.
Deepfake to fałsz tworzony celowo. Ale AI może też krzywdzić bez niczyjej złej woli — po prostu dlatego, że uczyła się na niesprawiedliwym świecie. O tym w następnej lekcji: uprzedzenia w algorytmach.