Ostatnio Reddit ponownie tworzy wiadomości z subredditem, w którym ludzie używają narzędzia do nauki maszyn o nazwie "Deep Fake", aby automatycznie zastąpić twarz jednej osoby drugą w filmie. Oczywiście, ponieważ jest to internet, ludzie używają go na dwie rzeczy: fałszywe porno z celebrytami i wkładanie Nicolasa Cage'a w przypadkowe filmy.
Podczas gdy zamiana czyjejś twarzy na zdjęciu zawsze była względnie łatwa, zamiana czyjejś twarzy w wideo była czasochłonna i trudna. Do tej pory robią to głównie studia VFX dla dużych, hollywoodzkich filmów, w których twarz aktora zostaje zamieniona na swój kaskader. Ale teraz, dzięki Deep Fake, każdy z komputerem może to zrobić szybko i automatycznie.
Zanim przejdziesz dalej, musisz wiedzieć, jak wygląda Deep Fake. Zobacz film SFW, poniżej którego jest kompilacja różnych kontraktów ze sławną twarzą, głównie z Nic Cage.
Oprogramowanie Deep Fake działa z wykorzystaniem uczenia maszynowego. Najpierw trenuje się z twarzą docelową. Zniekształcone obrazy celu są uruchamiane przez algorytm i uczy się je korygować, aby przypominały niezmienioną tarczę docelową. Kiedy algorytm jest następnie karmiony obrazami innej osoby, zakłada, że są to zniekształcone obrazy celu i próbuje je poprawić. Aby uzyskać wideo, oprogramowanie Deep Fake działa na każdej klatce indywidualnie.
Powodem, dla którego Deep Fakes w większości zaangażowali aktorów, jest to, że jest ich dużo dostępnych pod różnymi kątami, co sprawia, że trening jest skuteczniejszy (Nicolas Cage ma 91 głosów na IMDB). Jednak biorąc pod uwagę ilość zdjęć i wideo zamieszczonych w Internecie oraz to, że potrzeba naprawdę tylko około 500 obrazów do szkolenia algorytmu, nie ma powodu, aby zwykli ludzie nie mogli być celem, choć prawdopodobnie z mniejszym powodzeniem.
W tej chwili Deep Fake są dość łatwe do wykrycia, ale będzie coraz trudniej, gdy technologia się poprawi. Oto niektóre prezenty.
Dziwnie wyglądające twarze. W wielu Deep Fakes twarze wyglądają dziwnie. Funkcje nie pasują idealnie i wszystko wydaje się nieco woskowe jak na poniższym obrazku. Jeśli wszystko inne wygląda normalnie, ale twarz wydaje się dziwna, to prawdopodobnie Deep Fake.
Migocący. Wspólną cechą złych filmów "Deep Fake" jest twarz migocząca i pojawiające się od czasu do czasu oryginalne funkcje. Zwykle jest bardziej oczywiste na krawędziach twarzy lub kiedy coś przed nią przechodzi. Jeśli pojawi się dziwne migotanie, patrzysz na Deep Fake.
Różne ciała. Deep Fakes to tylko face swap. Większość ludzi próbuje uzyskać dobre dopasowanie, ale nie zawsze jest to możliwe. Jeśli dana osoba wydaje się zauważalnie cięższa, lżejsza, wyższa, krótsza lub ma tatuaże, których nie ma w rzeczywistości (lub nie ma tatuaży, które mają w rzeczywistości), istnieje duża szansa, że jest fałszywa. Poniżej widać naprawdę oczywisty przykład, w którym twarz Patricka Stewarta została zamieniona na J.K. Simmons w scenie z filmu Whiplash. Simmons jest znacznie mniejszy niż Stewart, więc wygląda dziwnie.
Krótkie klipy. W tej chwili, nawet jeśli oprogramowanie Deep Fake działa idealnie i tworzy niemal nieodróżnialną zamianę twarzy, może to zrobić naprawdę tylko przez krótki czas. Zbyt długo, jeden z powyższych problemów zacznie się dziać. Dlatego większość klipów Deep Fake, z którymi ludzie się dzielą, trwa tylko kilka sekund, a reszta nagrania jest bezużyteczna. Jeśli pokazujesz bardzo krótki klip celebryty, który robi coś, a nie ma dobrego powodu, że jest tak krótki, jest to wskazówka, że jest to Deep Fake.
Brak synchronizacji dźwięku lub złą wargą. Oprogramowanie Deep Fake dostosowuje tylko funkcje twarzy; nie magicznie sprawia, że jedna osoba brzmi jak druga. Jeśli z klipsem nie ma dźwięku, a nie ma powodu, by nie wydawać dźwięku, to kolejna wskazówka, że patrzysz na Deep Fake. Podobnie, nawet jeśli jest dźwięk, jeśli wypowiadane słowa nie pasują do poruszających się warg (lub usta wyglądają dziwnie, gdy osoba mówi jak w klipie poniżej), możesz mieć Deep Fake.
Niewiarygodne klipy. Ten jeden rodzaj jest oczywisty, ale jeśli pokazujesz naprawdę niewiarygodny klip, jest duża szansa, że nie uwierzysz w to. Nicolas Cage nigdy nie zagrał Loki w filmie Marvela. Ale byłoby fajnie.
Wątpliwe źródła. Podobnie jak w przypadku fałszywych zdjęć, gdzie film rzekomo pochodzi, jest często dużą wskazówką co do jego autentyczności. Jeśli w New York Times jest opowiadanie o nim, o wiele bardziej prawdopodobne jest, że coś odkryjesz w przypadkowym zakątku Reddit.
Na razie Deep Fakes są bardziej przerażającą ciekawością niż poważnym problemem. Rezultaty są łatwe do wykrycia i chociaż nie można zaakceptować tego, co się robi, nikt nie próbuje przekazać Deep Fakes jako prawdziwych filmów.
Ponieważ technologia staje się lepsza, prawdopodobnie będą one znacznie większym problemem. Na przykład, przekonujące fałszywe nagranie Kim Jong Un, które wypowiada wojnę w USA, może wywołać wielką panikę.
