Czy jesteś ofiarą deepfake?

Wielu z Was odezwało się do mnie po poprzednim artykule o publikowaniu zdjęć swoich dzieci w internecie. Szczególnie interesował Was temat deepfake, więc, żeby nie edukowała Was „byle stronka na EfBe” – dziś trochę więcej właśnie o nim.

Czym jest deepfake?

deepfake –  metoda obróbki obrazu, polegająca na łączeniu obrazów twarzy ludzkich przy użyciu technik sztucznej inteligencji

Wikipedia

Nazwa jest zbitką wyrazową powstałą od dwóch angielskich wyrażeń deep learning – głębokie uczenie – odnoszące się do sztucznej inteligencji – oraz fake, czyli fałszywy, podróbka. Jak dotąd nie ma polskiego odpowiednika tego słowa.

Kiedy mówimy o deepfake – głównie mamy na myśli filmy, w których twarz danej osoby została zamieniona na inną – młodszą / starszą wersję siebie – oraz wideo, na których ktoś podszywa się pod znaną osobę, używając rzeczywistego filmu, w którym zmienione są ruch warg, mimika lub treść wypowiadanych słów.

Poniżej jeden z bardziej znanych w internecie przykładów, mający już niemal 8 milionów wyświetleń na YouTube film, w którym został wykorzystany wizerunek Baracka Obamy i głos do złudzenia przypominający jego własny. W rzeczywistości, to nie sam były Prezydent Stanów Zjednoczonych wypowiada kontrowersyjne słowa.

W tym filmie jego autor – Jordan Peele – zwraca uwagę na poważne zagrożenie, płynące z używania nowoczesnego oprogramowania – nie możemy wierzyć w to, co widzimy w internecie. Prawdziwy Barack Obama nie powiedziałby, „Donald Trump is a horses***”, a przynajmniej nie publicznie. Doskonale podrobiony „Barack Obama” nie ma problemu z wypowiadaniem takich słów.

Deepfake nie wykorzystuje prostych filtrów do edytowania filmów, ale – uczenie maszynowe (Machine Learning). Rezultaty dobrze zrobionego wideo przy użyciu oprogramowania wykorzystującego sztuczną inteligencję, są niemal nie do odróżnienia od oryginalnego filmu. Widz jest w stanie uwierzyć, że ogląda i słucha prawdziwej osoby, a nie jej przetworzonego obrazu i dźwięku.

W przemyśle filmowym, technologia deepfake mogłaby pozwolić na zaoszczędzenie tysięcy dolarów lub na ożywienie zmarłych gwiazd kina, jednakże w świecie rzeczywistym, może stać się potencjalnym zagrożeniem.

W jaki sposób powstaje deepfake?

Sztuczna inteligencja (AI) uczy się naśladowania danej osoby na podstawie tysięcy zdjęć i filmów. Oprogramowanie, wykorzystujące Machine Learning, po wystarczająco długim okresie nauki jest w stanie samo dopasować mimikę oraz rysy twarzy osoby, którą chcemy udawać w filmie, do naszego własnego wideo. I odwrotnie – polityk może mówić Twoim głosem lub nieźle rapować, co zaprezentował ostatnio raper Grubson w swoim najnowszym teledysku:

Algorytmy wykorzystywane w technologii depfake potrafią wiarygodnie naśladować ruchy gałek ocznych, poruszanie ustami oraz obracanie głowy.

W jaki sposób maszyny się uczą?

Uczenie maszynowe (Machine Learning) to technika analizy danych, innymi słowy, jest to proces trenowania sztucznej inteligencji poprzez wskazywanie jej odpowiednich wzorców, na których powinna bazować, aby osiągnąć konkretny cel. Jednakże, aby rezultaty uczenia były jak najlepsze – potrzeba dużo, duuuuuuuuuużo danych.

Kto więc trenuje sztuczną inteligencję?

My sami.

Karmimy ją.

Pan karmi. Pani karmi. Ja karmię. Amazon karmi.

Każdy, kto wrzuca swoje zdjęcie i film do internetu przyczynie się do uczenia się algorytmów.

Niektóre aplikacje, takie jak ZAO czy TikTok sprawiają, że użytkownicy sami (CHĘTNIE sic!) uploadują do nich swoje wideo (ZA DARMO), aby udawać znane sceny filmowe lub tworzyć fałszywe wideo. Powiecie – przecież nie ma w tym nic złego, to tylko zabawa.

I tak i nie.

Dlaczego musimy o tym wiedzieć?

Ponieważ żyjemy w erze fake newsów. Stało się to szczególnie widoczne w okresie pandemii, gdy, także publiczne i ogólnoświatowe media, walczące o uwagę widzów i „klikalność” artykułów, zalewały nas wymyślonymi wiadomościami, wywołując panikę, strach i poczucie zagrożenia.

Niektóre deepfake wideo są tak przekonujące, że ciężko oprzeć się wrażeniu, że są prawdziwe.

Więcej o fake newsach dowiecie się z najnowszego filmu Kasi Gandor:

Nieprawdziwe informacje w mediach czy podsycanie strachu to tylko jedna część problemu. Dużo większym zagrożeniem wydaje się ich wpływ (w tym także filmów, w których osoby mające złe intencje i posługujące się techniką deepfake, podszywają się pod polityków) na życie publiczne i międzynarodowe decyzje podejmowane przez społeczeństwa, choćby przy okazji wyborów.

Nie brakuje w internecie filmów o charakterze satyrycznym, w których znani prezenterzy lub komicy podszywają się pod wspomnianego wyżej Baracka Obamę, Hilary Clinton, czy Vladimira Putina, ale te filmy mają już dwa – trzy lata. Dwa lata w technologii to wieczność, co więcej, oprogramowanie wykorzystujące sztuczną inteligencję jest nieustannie rozwijane i zastosowanie go może dawać coraz bardziej precyzyjne rezultaty i filmy, w których rzeczywiście nie da się stwierdzić czy występują w nich prawdziwe osoby czy ich „podróbki”. Efekty są co najmniej niepokojące.

Obecnie dostępnych jest wiele aplikacji, także open source, które każdy z nas może zainstalować na swoim komputerze i tworzyć deepfake’owe treści.

Polityka, to jednak nie wszystko. Co by się stało, gdyby Twoje zdjęcie posłużyło twórcom porno do wyprodukowania całkiem przekonywującego filmu z Twoim udziałem bez Twojej zgody i wiedzy? O ile oczywiście nie marzysz o karierze aktorki lub aktora porno – może to stanowić poważne zagrożenie dla dobrego imienia i dóbr osobistych. Przekonały się o tym między innymi piosenkarka Tylor Swift i aktorka Maisie Williams, których zdjęcia wykorzystano właśnie w takim celu w 2017 roku.

A co Wy myślicie o technologii deepfake? Czy mamy się czego bać?