Deepfake – programy i technologie, przez które przestaniesz ufać social media

Czy gdybyś wiedział, że wpisy osób, które regularnie śledzisz na social media nie są przygotowywane przez nich, ale przez maszynę a do tego zdjęcia i filmy powstają w efekcie działania zaawansowanych algorytmów, bez udziału człowieka, to czy dalej zaglądałbyś/zaglądałabyś tam tak chętnie?

Matrix czy już nasza codzienność?

Chociaż brzmi to jak science-fiction, to jest to już nasza nieco smutna rzeczywistość. Niedawno termin deepfake powrócił jak bumerang wraz z wydaniem aplikacji ZAO, która w kilka dni stała się najpopularniejszą aplikacją w całych Chinach. Zacznijmy jednak od podstaw.

Na początku był deep learning (czyli ten dobry)

Temat sztucznej inteligencji fascynował pisarzy, wizjonerów i inżynierów od wielu lat. Początki nauczania maszynowego, czyli właśnie deep learning sięgają lat 80-tych ubiegłego stulecia.
Obecnie deep learning stał się niesłychanie powszechny w wielu dziedzinach naszego życia a zwłaszcza tam, gdzie konieczne jest wyciąganie wniosków z dużej ilości danych.

Na przykład?

Medycyna jest tutaj idealnym przykładem, ze względu na złożoność analizowanych problemów, takich jak rozpoznawanie stanów przedzawałowych.
Naukowcy z Oxfordu przeanalizowali przypadki pacjentów zgłaszających się do szpitala z podejrzeniem zawału serca. Badaczy zaniepokoiły częste sytuacje, gdy pomimo pozytywnych wyników z obrazu angiograficznego naczyń wieńcowych i w konsekwencji odesłania do domu, pacjent dostawał wkrótce faktycznego ataku serca, mającego często poważne konsekwencje.
Lekarze spodziewali się, że musi być jakaś prawidłowość pozwalająca zdiagnozować tę sytuację, ale ręczne szukanie podobieństw w tysiącach przypadków zajęłoby lata albo nawet i dłużej.

Źródło: https://www.cnbc.com/2019/09/06/ai-tech-could-identify-those-at-risk-of-fatal-heart-attacks.html

Deep learning ratujący życie

Z pomocą przyszła właśnie sztuczna inteligencja. Maszyna zbudowana w oparciu o sieci neuronowe może dużo szybciej i nieporównywalnie dokładniej przeanalizować tysiące wyników angiografii i odszukać w nich pewne podobieństwa.
Tak właśnie się stało — algorytm był w stanie z dużą dokładnością diagnozować niebezpieczne dla zdrowia sytuacje. W rezultacie okazało się możliwe nawet diagnozowanie stanów przedzawałowych u pacjentów bez wyraźnych objawów.
Cały artykuł dostępny jest na stronach CNBC.

I żyli długo i szczęśliwie…

W zasadzie tak to wygląda, że sztuczna inteligencja i deep learning może stanowić przełom i ratunek w wielu dziedzinach naszego życia.
Życie jednak lubi zaskakiwać i często przekonujemy się, że tam gdzie pojawia się dobro, tam automatycznie rodzi się czarny charakter.

Deepfake — czarny charakter w świecie nauczania maszynowego

Ktoś oczywiście wpadł na pomysł, że skoro deep learning służy ludziom, to można go również wykorzystać w przeciwnym celu, aby zaszkodzić innym osobom czy instytucjom.
W ten sposób zrodził się deepfake, czyli idea aby podszywać się pod innych dzięki zaawansowanym algorytmom nauczania maszynowego.
Proste? Coraz bardziej tak. Prześledźmy kilka przykładów.

Nie wierzę w to, co czytam!

Czy wiesz co to jest GPT2? Jest to mechanizm sztucznej inteligencji przygotowany przez organizację non-profit OpenAI, wspieraną m.in. przez Elona Muska.
Co ciekawe, produkt ten wbrew ogólnej polityce organizacji nie został upubliczniony w obawie przed wykorzystaniem go do nieetycznych celów.
Algorytm ten potrafi generować deepfake’owe wpisy i artykuły wartościowe merytorycznie oraz utrzymane w spójnej konwencji i narracji. Jest to niewątpliwy krok milowy a jednocześnie koniec ery, w której każde słowo pisane pochodziło wprost od człowieka.

Nie wierzysz? Sprawdź co potrafi GPT2

Zanim więc zaczniesz analizować interesujące przemyślenia któregoś z Twoich idoli pomyśl, czy masz pewność że te słowa napisał faktycznie człowiek.

Nie wierzę w to, co widzę na zdjęciu!

Być może są na Ziemi jeszcze drobne skrawki nieodkryte przez człowieka. Na pewno takich miejsc będzie z czasem coraz więcej w Internecie. Dotyczy to również pojawiania się wizerunku osób, które nigdy nie istniały.
Jak to możliwe? Bardzo prosto — dzięki deepfake.
Firma NVIDIA od wielu miesięcy prezentuje możliwości jakie w tym obszarze oferuje sztuczna inteligencja.

Obejrzyj poniższy krótki film, gdzie z bardzo ogólnego szkicu powstaje realistyczne zdjęcie miasta, które nie istnieje naprawdę i które zamieszkują fikcyjne postaci.

Zanim więc następnym razem pozazdrościsz komuś wspaniałego zdjęcia na tle zapierających dech w piersiach widoków zastanów się, czy faktycznie to zdjęcie powstało naprawdę.

Nie wierzę w ani jedną klatkę tego filmu!

Kolejną popularną formą przekazywania treści są nagrania video. Tutaj również z „pomocą” deepfake możesz stać się gwiazdą filmową w kilka chwil.
Przytaczana na początku artykułu aplikacja ZAO pozwala podstawić Twoje (lub kogoś innego) zdjęcie do wygenerowanego fragmentu filmu.
Po kilku dniach od opublikowania na rynku chińskim oprogramowanie to stało się najczęściej pobieraną aplikacją a jednocześnie wzbudziło szereg kontrowersji i dyskusji na temat bezpieczeństwa oraz wiarygodności naszych wizerunków w sieci.



Jakie mogą być tego skutki? Do klasyki przeszło już chyba poniższe nagranie, w którym Jordan Peele wciela się w Baracka Obamę.

Co dalej z deepfake?

Deepfake jest nieuniknionym elementem naszego życia, co do tego nie ma wątpliwości. Ani ja ani Ty nie zatrzymamy rozwoju Internetu i nowych technologii. Nie damy też rady wyjąć wtyczki zasilającej z każdej serwerowni.

Przekłamane komunikaty w mediach mogą mieć ogromny wpływ na otaczającą nas rzeczywistość.
Wyobraź sobie, że systemy deepfake podszywają się pod którąś z wpływowych osób ze świata globalnej polityki i zaczynają publikować radykalne, nawołujące do wrogich zachowań treści. Dla przeciętnego czytelnika sytuacja jest nie do rozpoznania, bo algorytm utrzymuje ten sam styl pisania co dana osoba. Na potwierdzenie tych słów widzisz idealnie podrobione zdjęcie wraz z krótkim nagraniem video.
To wszystko nie wymaga zespołu specjalistów i drogich narzędzi. Wkrótce każdy będzie mógł przygotować taką mistyfikację używając własnego telefonu i kilku aplikacji.

Jak więc walczyć z deepfake? Według mnie są dwie drogi.

Klin klinem

Czyli deep learningiem w deepfake. Niech maszyny się skonfrontują ze sobą. Z jednej strony coraz lepsze algorytmy wykrywające oszustwa kontra coraz sprytniejsi oszuści w drugim narożniku. Kto wygra? Tego nie wiadomo, ale jasnym jest, że walka się już rozpoczęła.
Przykładem może być projekt Deeptrace, czyli taki antywirus na medialnych oszustów.

Włącz offline mode

Druga droga jest dla tych, którzy tak jak Neo w Matrixie wybierają czerwoną pastylkę, czyli świat rzeczywisty, pełen wzlotów i upadków, ale jednak realistyczny.
Zamiast więc w swoim smartfonie bez końca wpatrywać się w social media, oglądać sfabrykowane zdjęcia, czytać wygenerowane wpisy i ekscytować się nieprawdziwymi nagraniami, po prostu wykorzystujemy telefon do tego, do czego został stworzony. Zwyczajnie wybierasz numer telefonu, dzwonisz do którejś ze znajomych osób, rozmawiasz, a najlepiej jak od razu umawiasz się na spotkanie „w realu”.

Ta droga jest trudniejsza, wymaga inicjatywy, czasami przełamania pewnych oporów, ale daje dużo większe możliwości.
Co najważniejsze, jest jedyną rzeczywistą opcją, jaka nam w obecnym świecie pozostała.

A Ty, którą opcję wybierasz?


Artur GułaArtur Guła, pasjonat tematyki zarządzania i przywództwa z życiową misją dzielenia się wiedzą i doświadczeniami z innymi menedżerami.
Doświadczony lider w projektach IT z różnych dziedzin.
Autor książki Fascynujący świat przywództwa.

1 myśl na “Deepfake – programy i technologie, przez które przestaniesz ufać social media”

Dodaj komentarz

Twój adres email nie zostanie opublikowany.