Deepfake na wojnie: sfałszowane nagrania z Zełenskim i Putinem

Szesnastego marca wojna się skończyła. Najpierw prezydent Zełenski wezwał ukraińskich żołnierzy do poddania się. Kilka godzin później Władimir Putin ogłosił, że „udało się osiągnąć pokój z Ukrainą”. Oba nagrania jak burza rozeszły się na Twitterze, Facebooku, Telegramie i rosyjskim VKontakte.

Wojna, niestety, toczy się dalej. Oba nagrania były fałszywe. To jeden z pierwszych odnotowanych przypadków wykorzystania w realnym konflikcie tzw. deepfake’ów – nagrań zmanipulowanych w taki sposób, by w usta prawdziwych osób wkładać słowa, których nigdy nie wypowiedziały. Ukraińcy już wcześniej ostrzegali, że Rosjanie przygotowują podobne nagrania z „udziałem” ich prezydenta. 2 marca ukraińskie Centrum Koordynacji Strategicznej podało, że zgodnie z jego informacjami wkrótce w sieci może pojawić się nagranie, w którym Zełenski ogłasza ukraińską kapitulację.

Dziecinna prowokacja, ale niebezpieczna

Nagranie, które ostatecznie trafiło na Facebooka, YouTube’a, Telegram i rosyjską sieć społecznościową VKontakte, przedstawia nieruchomego ukraińskiego prezydenta z nienaturalnie dużą głową, który dziwnym tonem wzywa żołnierzy do złożenia broni. Metadane wskazują, że powstało 16 marca, dwie godziny przed tym, jak trafiło do sieci.

Tego samego dnia kanał telewizyjny Ukraine 24 poinformował, że hakerzy włamali się do wewnętrznych systemów stacji i zamieścili na pasku informacyjnym niektóre ze stwierdzeń zawartych w sfabrykowanym nagraniu, na przykład te mówiące, jakoby Zełenski „chciał zdobyć Donbas”, ale po klęsce ofensywy uciekł do Kijowa. Zdjęcie z nagrania i jego pełna transkrypcja zostały przez włamywaczy zamieszczone także na stronie internetowej stacji.

Sam Wołodymyr Zełenski zamieścił na Instagramie nagranie, na którym zaprzecza, jakoby krążące w sieci wideo było autentykiem. Nazwał deepfake „dziecinną prowokacją”. Facebook, YouTube i Twitter błyskawicznie zaczęły usuwać ze swoich serwisów kopie zwodniczego nagrania. Szybka reakcja ukraińskiego prezydenta, mediów i sieci społecznościowych ograniczyły zasięg fałszywki. W osłabieniu jej siły oddziaływania pomogło też to, że Ukraińcy zawczasu ostrzegali, iż podobne nagrania mogą się pojawić. Słaba jakość zmanipulowanego nagrania także nie posłużyła jego perswazyjnej sile.

„Gdyby to było bardziej profesjonalne wideo i zostało opublikowane na samym początku rosyjskiego ataku, mogłoby wywołać wiele zamieszania” – mówił magazynowi „Wired” Samuel Bendett, analityk amerykańskiej Center for Naval Analysis.

Nie wiadomo, kto stworzył i rozpowszechnił deepfake z ukraińskim prezydentem, ale przeprowadzony symultanicznie atak hakerski na ukraińską telewizję może wskazywać, że nie mamy tu do czynienia z „dowcipnisiem”. To raczej zorganizowana akcja dezinformacyjna – choć nie jest jasne, czy prowadzona przez rosyjski rząd, czy przez wspierających go „ochotników”, hakerów atakujących ukraińskie cele tak, jak międzynarodówka Anonymous atakuje cele rosyjskie.

Zamiana twarzy

Nie jest również jasne, kto stał za zmanipulowanym nagraniem z Władimirem Putinem. Ten deepfake, oparty na prawdziwym orędziu rosyjskiego przywódcy z 21 lutego, wygląda na wykonany bardziej profesjonalnie.

Obraz

Przemontowana ścieżka dźwiękowa i zmanipulowana mimika, którą dopasowano do zmienionej treści, sprawia wrażenie bardziej przekonującej niż deepfake z Zełenskim, ale równie szybko sfałszowane nagranie udało się zidentyfikować. Nie jest zresztą pewne, czy intencją zamieszczających je była realna dezinformacja. Serhii Sternenko, który jako jeden z pierwszych umieścił je na Twitterze, sam przyznał w kolejnym tweecie, że nagranie nie jest autentyczne.

Technologia tworzenia deepfake’ów, pozwalająca każdemu użytkownikowi komputera z minimalną wiedzą techniczną otrzymać podobne fałszywki, trafiła do szerokiego obiegu pod koniec 2017 r. Eksperci od początku wieszczyli, że może posłużyć do tworzenia zupełnie nowej generacji fake newsów i siania dezinformacji. Do tej pory te kasandryczne wizje się nie spełniały: podrobione wideo stało się domeną pornografów-amatorów i cyberprzestępców. W ubiegłym roku indyjska szajka szantażowała tamtejszych biznesmenów przy pomocy sfabrykowanych nagrań erotycznych z ich „udziałem”. Aż do teraz bardziej popularne były nagrania po prostu zmanipulowane – np. wideo z Nancy Pelosi (spikerką Izby Reprezentantów USA) w zwolnionym tempie, by sprawiała wrażenie chorej bądź pijanej, czy nagranie lubieżnie oblizującego się prezydenta Trumpa.

Narzędzia deepfake wykorzystują algorytmy uczenia maszynowego do dopasowania mimiki z jednego nagrania do twarzy z drugiego. W swojej podstawowej wersji pozwalają one wymieniać twarze zarejestrowanych osób. Do uzyskania pełnego efektu, czyli włożenia w usta zarejestrowanej osoby słów, które nigdy nie padły, potrzeba jeszcze dodatkowych narzędzi symulujących barwę i ton czyjegoś głosu bądź po prostu utalentowanego naśladowcy. W przypadku zarówno fałszywego Zełenskiego, jak i fałszywego Putina analitycy podkreślają, że ich głosy były niskiej jakości i nie przypominały oryginałów na tyle, by przekonać uważnego widza. Ale kogoś, kto ogląda takie nagrania na niewielkim ekranie smartfona w strefie wojny, mogły wprowadzić w błąd.

Fake news przyszłości

W polityce takie nagrania wciąż są rzadkością. Poza kilkoma reklamówkami wyborczymi, których celem nie była dezinformacja, lecz raczej satyryczna emfaza (np. nagranie, na którym twarz prezydenta Argentyny Mauricio Macriego zastąpiono twarzą Adolfa Hitlera), eksperci wskazują np. na zeszłoroczne nagranie z Birmy, na którym były minister przetrzymywany w areszcie ma przyznawać, że dostarczył złoto i gotówkę byłej przywódczyni kraju Aung San Suu Kyi. Choć nagranie było wyjątkowo złej jakości, junta wykorzystała je do postawienia jej zarzutów korupcyjnych.

Zastosowanie takich narzędzi w kontekście realnej wojny może jednak sugerować, że w przyszłości podobne fabrykacje będą pojawiać się częściej. Kilka ośrodków akademickich pracuje nad narzędziami, które mogłyby identyfikować deepfake’i automatycznie. Ale na razie jedyną obroną przed podobnymi nagraniami jest uwaga samych widzów.