Czym jest deepfake

Wyobraź sobie, że Twoja żona dostaje nagranie video, na którym uprawiasz seks z jej przyjaciółką. A wiesz, że tego nie zrobiłeś. Przynajmniej z tą przyjaciółką. Wyobraź sobie, że Twój mąż dostaje filmik, na którym zdradzasz go z jego bratem. A Ty wiesz, że tego nie zrobiłaś. Z tym bratem na pewno nie. Wyobraź sobie, że dyrektor szkoły puszcza Wam video, na którym widać jak Wasze dziecko kradnie w sklepie drogi sprzęt, a potem przed szkołą kopie swoją leżącą koleżankę. Wyobraź sobie, że najważniejszy polityk w kraju publikuje video i ogłasza wypowiedzenie wojny z sąsiednim krajem i niczym zdąży ogłosić, że tego nie zrobił, tamten kraj przekracza granice Polski.

Ale wiesz co? Nie musisz sobie tego wyobrażać, ponieważ już niedługo wszystko to i jeszcze więcej będzie możliwe. To jest właśnie deepfake.

Deepfake to łączenie i nakładanie istniejących obrazów filmowych na inne obrazy filmowe. Dzięki technice uczenia maszynowego można wyprodukować film, na którym ktoś mówi i robi rzeczy, których w rzeczywistości nie wypowiedział i nie zrobił. Sztuczna inteligencja uczy się coraz lepiej łączyć czyjąś twarz z innym ciałem, mimikę i głos z czyimiś słowami, podrabiać głosy konkretnych osób i tak dalej. Efekty są coraz doskonalsze i trudno będzie odróżnić postać z deepfake od prawdziwej osoby na realnym i nieprzetworzonym filmie.

Już to znasz?

Już teraz bawią nas filmiki z aktorami, których twarze zamieniają się w twarze ich koleżanek bądź kolegów. Już teraz możemy zobaczyć jak jeden polityk wypowiada słowa drugiego i to z przeciwnego obozu politycznego. Niektórzy widzieli też z pewnością filmy porno, na których znane osoby uprawiają seks z innymi znanymi. Każdy będzie mógł w domu zrobić sobie filmik z ulubionymi celebrytami, którzy będą uprawiać seks z kimkolwiek, nawet z nami.  

Już niedługo dużo lepsza technologia od obecnie istniejącej będzie dostępna dla każdego chętnego, który będzie chciał spłatać komuś figla, zabawić się czyimś kosztem lub zniszczyć czyjeś życie, karierę lub firmę. A nawet całe państwa.

Manipulowanie słowami i zdjęciami mamy opanowane do perfekcji. Jednak fałszowanie zdjęć i przypisywanie komuś słów, które nie wypowiedział to nic w porównaniu z tym, co zobaczymy. I uwierzymy. Część z nas, i to niemała, wierzy we wszystko lub większość z tego, co widzi w sieci i TV. Deepfake obejrzany raz będzie miał nieporównanie większą siłą oddziaływania od tysięcy słów i zdjęć.

Skutki dla człowieka i świata

Nikt nie jest w stanie w tej chwili przewidzieć skutków istnienia i wpływu deepfake na ludzi, funkcjonowanie firm i państw. Zniszczenie komuś życia, firmy lub państwa będzie bardzo łatwe. Dementowanie głębokich ściem, głębokich fałszywek będzie bardzo trudne. Deepfake będzie doskonałym narzędziem wpływania na opinię publiczną, manipulowania wyborami przez partie czy wrogie państwa. Preparowanie „dowodów” zdrady małżeńskiej lub zdrady państwa, przyjęcia łapówki, przyjmowania narkotyków i szantażowanie ofiar będzie dostępne z poziomu każdego domowego komputera. I każdy będzie mógł być ofiarą i sprawcą.

Wszyscy będziemy mieli w końcu problemy w uwierzenie w prawdziwość jakiegokolwiek nagrania. I bardzo łatwo będzie można podważyć prawdziwe filmy, twierdząc, że to pewnie deepfake.

Prawo nie nadąża za technologią. A nawet jeśli deepfaki będą nielegalne, to przecież dla chcącego nic trudnego. W sieci jest mnóstwo treści, których nie powinno tam być. Chyba że nauczymy się krytycznie podchodzić do wszystkiego, co widzimy w sieci i TV. Ot, taki żarcik na koniec.