Deepfake to spreparowany materiał wideo, grafika albo plik audio, którego celem jest zasymulowanie głosu lub wyglądu innej osoby. Część deepfake’ów powstaje w ramach memów, jednak w sieci coraz częściej pojawiają się przeróbki zachęcające do wzięcia udziału np. w: loterii, internetowym kasynie czy fałszywej akcji charytatywnej. Jak rozpoznać nowe narzędzie oszustów?
Spis treści
Deepfake – najpopularniejsze przykłady
Jednym z najgłośniejszych przypadków, w których tożsamość popularnej osoby została wykorzystana przez cyberprzestępców, jest afera związana z internetowym kasynem reklamowanym przez sfingowanego Budde. Materiały zaczęły krążyć po sieci w tym roku, a ich głównym celem było namówienie użytkowników do instalacji aplikacji mobilnej, która – jedynie w teorii – miała być szansą na wygranie dużej nagrody finansowej.
Elementem przytaczanej akcji było kilka podobnych do siebie klipów, a w części z nich wykorzystano także wizerunki innych osób (np. prezenterów telewizyjnych).
Cała sprawa od początku wydawała się podejrzana, a posty na ten temat szybko stały się viralem w serwisie X i trafiły do materiałów autorstwa dużych polskich kanałów commentary. Oszustwa przeprowadzane przy pomocy deepfake’ów mogą być jednak o wiele trudniejsze do rozpoznania i zawierać jedynie subtelne sugestie, które w dłuższej perspektywie będą miały realny wpływ na np.: wyniki wyborów czy nastroje społeczne w konkretnej sprawie.
Warto również pamiętać o tym, że oszuści zazwyczaj manipulują oryginalnym materiałem tylko na jednej płaszczyźnie, a więc np.: wykorzystując realne nagranie wideo i podkładając do niego sfingowany głos z spreparowaną treścią.
Z samymi materiałami wideo jest nieco trudniej, ale nie można zignorować tego, jak gigantyczny progres poczyniła sztuczna inteligencja w imitowaniu cudzego wizerunku. Jeszcze 2 lata temu na większości odbiorców robił wrażenie słynny materiał z wygenerowanym przez AI Morganem Freemanem, który ostrzega użytkowników przed deepfake’ami.
Dzisiaj powyższe wideo wygląda raczej jak demo technologiczne silnika Unreal Engine 5, niż poważna próba oszustwa.
Jak rozpoznać deepfake?
Jakość obrazu:
- Niska rozdzielczość (deepfake’i często mają niższą rozdzielczość niż oryginalne nagrania. Sprawdź, czy obraz jest wyraźny, czy widać piksele lub inne błędy),
- Nienaturalne wygładzenie (skóra twarzy na deepfake’u może wyglądać nienaturalnie gładko, bez widocznych porów lub zmarszczek),
- Rozmycia (szczególnie wokół twarzy lub krawędzi mogą być widoczne rozmycia).
Ruch i mimika:
- Nienaturalne ruchy oczu (zwróć uwagę na ruchy oczu – deepfake’i mogą mieć problemy z płynnym mruganiem lub śledzeniem obiektów),
- Niesynchronizowany ruch warg (sprawdź, czy ruch warg jest zsynchronizowany z wypowiadanymi słowami),
- Brak ekspresji (mimika twarzy na deepfake’u może być sztywna i nienaturalna).
Dodatkowe wskazówki:
- Analiza dźwięku (w deepfake’ach ścieżka dźwiękowa może mieć gorszą jakość niż wideo lub mogą być słyszalne zakłócenia. Warto również zwrócić uwagę na ton mówcy, który zazwyczaj brzmi nienaturalnie i brakuje mu skoków w dynamice),
- Nienaturalne oświetlenie (zwróć uwagę na oświetlenie – deepfake’i mogą mieć problemy z prawidłowym odwzorowaniem cieni i odblasków),
- Błędy w detalach (sprawdź drobne szczegóły, takie jak biżuteria, ubranie lub fryzura, które mogą być zniekształcone w deepfake’u).
Programy do rozpoznawania deepfake’ów
Popularni producenci technologii pracują nad narzędziami, których zadaniem jest wychwytywanie oraz rozpoznawanie sfingowanych nagrań. Już w 2022 roku firma Intel ogłosiła wypuszczenie na rynek programu FakeCatcher, służącego do weryfikowania autentyczności materiału wideo w czasie rzeczywistym.
W przeciwieństwie do innych detektorów skupiających się na anomaliach, FakeCatcher szuka subtelnych fizjologicznych oznak autentyczności w filmach, takich jak wzorce przepływu krwi. Z całą pewnością jest to technologia, która może pomóc w minimalizowaniu ilości dezinformacji w przestrzeni publicznej, jednak w przypadku deepfake’ów niezwykle istotny jest nie tylko czas reakcji (od momentu wypuszczenia filmu do jego kompromitacji), ale i ogólny dostęp do wiadomości o tym, że rozpowszechniane wideo jest w rzeczywistości oszustwem.
Jeżeli chcesz zweryfikować swoje własne umiejętności w rozpoznawaniu deepfake’ów to polecam wziąć udział w krótkim teście, przygotowanym przez serwis iProov. Na 3D-Info znajdziesz natomiast artykuł mojego autorstwa, w którym zamieściłem najważniejsze informacje na temat dokumentu AI Act, czyli nowego rozporządzenia, którego celem jest regulacja rozwoju sztucznej inteligencji na terenie Unii Europejskiej.
