Deepfake: O dezinformacji i manipulacji

W dzisiejszym, cyfrowym świecie spotykamy niesamowite, kreatywne i piękne rzeczy - od perfekcyjnych zdjęć, po realistyczne filmy. A jeśli to, co widzisz, nie jest wcale prawdziwe? Poznajcie DEEPFAKE - technologię, która potrafi w zaskakujący sposób manipulować obrazem i dźwiękiem, a tym samym stwarza realne zagrożenie dezinformacją.

Czym właściwie jest deepfake?

Najprościej mówiąc, deepfake to rodzaj syntetycznego medium, w którym istniejąca osoba na obrazie lub nagraniu wideo jest zastępowana inną osobą przy użyciu sztucznej inteligencji, a konkretnie zaawansowanych algorytmów uczenia maszynowego zwanych sieciami neuronowymi.

Wyobraź sobie, że widzisz film, na którym znana osoba mówi coś, czego nigdy nie powiedziała, albo robi coś, czego nigdy nie zrobiła. To właśnie jest DEEPFAKE. Dzięki AI stworzenie takiego fałszywego nagrania staje się coraz łatwiejsze i bardziej realistyczne.

Jak to działa?

Proces tworzenia deepfake zazwyczaj polega na "nauczeniu" algorytmu, jak wygląda i mówi docelowa osoba, poprzez dostarczenie mu ogromnej ilości zdjęć i nagrań wideo tej osoby. Następnie algorytm ten jest w stanie "przenieść" mimikę, ruchy ust i głos testowanej osoby na inną, tworząc iluzję, że to ta druga osoba mówi lub robi daną rzecz.

Kiedyś tworzenie takich manipulacji wymagało zaawansowanych umiejętności i drogiego oprogramowania. Dziś, z rozwojem AI i dostępnością narzędzi online (często jeszcze w fazie rozwoju i z etycznymi ograniczeniami), proces ten staje się coraz bardziej dostępny, co budzi poważne obawy.

Dlaczego deepfake jest niebezpieczny? Potencjał nadużyć związanych z deepfake jest ogromny:

• Dezinformacja i fake newsy: Fałszywe nagrania polityków lub znanych osób mogą być wykorzystywane do szerzenia nieprawdziwych informacji i manipulowania opinią publiczną.

• Oszustwa i wyłudzenia: Deepfake mogą posłużyć do tworzenia fałszywych dowodów lub podszywania się pod inne osoby w celu wyłudzenia pieniędzy lub poufnych informacji.

• Cyberprzemoc i nękanie: Tworzenie fałszywych nagrań kompromitujących kogoś może prowadzić do poważnych konsekwencji psychologicznych i społecznych.

• Podważanie zaufania do mediów: W świecie, w którym tak łatwo o manipulację, coraz trudniej jest odróżnić prawdę od fałszu, co podważa zaufanie do wiarygodnych źródeł informacji.

Jak się chronić przed deepfake? Musimy być czujni!

Na szczęście, istnieją pewne kroki, które możemy podjąć, aby zwiększyć naszą świadomość i zmniejszyć ryzyko padnięcia ofiarą deepfake:

• Bądźmy sceptyczni: Jeśli natrafisz na wideo lub nagranie audio, które wydaje Ci się szokujące, niewiarygodne lub zbyt emocjonalne, zachowaj ostrożność. Zastanów się, czy jest to zgodne z dotychczasowym wizerunkiem danej osoby. 

• Zwracaj uwagę na detale: Czasami deepfake mają pewne niedoskonałości. Szukaj niespójności w mimice, nienaturalnych ruchów ust, rozmazanych krawędzi twarzy, dziwnego oświetlenia lub nienaturalnego dźwięku.

• Sprawdzaj źródło: Zawsze weryfikuj informacje w wiarygodnych źródłach. Czy inne media również o tym donoszą? Czy źródło jest znane i zaufane?

• Szukaj analiz deepfake: Istnieją organizacje i narzędzia, które zajmują się analizowaniem mediów pod kątem manipulacji. Jeśli masz wątpliwości co do autentyczności nagrania, poszukaj informacji na ten temat.

• Świadomość kontekstu: Zastanów się, kto i dlaczego mógłby chcieć stworzyć i rozpowszechnić dany deepfake. Jakie są motywy takiej manipulacji?

• Edukuj siebie i innych: Rozmawiaj z rodziną i przyjaciółmi o zagrożeniach związanych z deepfake. Im więcej osób będzie świadomych tego problemu, tym trudniej będzie szerzyć dezinformację.

• Wspieraj inicjatywy walczące z dezinformacją: Istnieją organizacje i projekty, które pracują nad wykrywaniem i przeciwdziałaniem deepfake. Możesz je wspierać poprzez udostępnianie informacji lub inne formy zaangażowania.

Czy to oznacza, że nasza przyszłość już zawsze będzie w cieniu manipulacji?

Technologia deepfake rozwija się w szybkim tempie, a wykrywanie fałszywych nagrań staje się coraz trudniejsze. Dlatego tak ważna jest nasza czujność, krytyczne myślenie i ciągłe edukowanie się w tym zakresie. Nie dajmy się zwieść iluzji stworzonej przez sztuczną inteligencję. Bądźmy świadomymi odbiorcami treści w cyfrowym świecie! Korzystajmy z AI w sposób etyczny i pamiętajmy, że twórcy i osoby rozpowszechniające deepfake mogą ponosić odpowiedzialność karną za przestępstwa, które popełniają przy użyciu tej technologii.

Oto przykłady głośnych deepfake'ów krążących w sieci. Które z nich kojarzysz?

• Deepfake Baracka Obamy: w kwietniu 2018 roku serwis Buzzfeed stworzył przykład politycznego deepfake’a- wideo, w którym Barack Obama zwraca się do Prezydenta Trumpa w obraźliwy i niemiły sposób. W rzeczywistości zdania wypowiadał reżyser Jordan Peele, a postać Obamy była wygenerowana na podstawie istniejących nagrań. Eksperyment pokazywał, jak technologia sztucznej inteligencji może namieszać w polityce.

• Deepfake Marka Zuckerberga: Artyści Bill Posters i Daniel Howe stworzyli deepfake'a Marka Zuckerberga, w którym wydawał się przyznawać do manipulowania danymi użytkowników Facebooka. Miało to na celu skomentowanie kwestii prywatności i kontroli danych.

• Deepfake Wołodymyra Zełenskiego: Na początku wojny w Ukrainie pojawił się deepfake prezydenta Zełenskiego, w którym miał nawoływać ukraińskich żołnierzy do złożenia broni. Wideo było dość słabej jakości i szybko zostało zdemaskowane, ale pokazało potencjał wykorzystania tej technologii w wojnie informacyjnej.

• Deepfake Toma Cruise'a na TikToku: Użytkownik @deeptomcruise na TikToku publikował niezwykle realistyczne deepfake'i Toma Cruise'a, wykonującego różne codzienne czynności i sztuczki magiczne. Jakość tych filmów była tak wysoka, że wielu użytkowników miało trudności z odróżnieniem ich od prawdziwych nagrań.

• Deepfake'i w reklamach i oszustwach finansowych: Pojawiają się przypadki wykorzystania wizerunków znanych osób (np. Elon Musk, Sachin Tendulkar) w fałszywych reklamach kryptowalut lub innych podejrzanych inwestycji. Celem jest uwiarygodnienie oszustwa i nakłonienie ludzi do wpłacania pieniędzy.

• Deepfake'i polityków w kampaniach dezinformacyjnych: W okresie wyborów pojawiają się deepfake'i polityków, mające na celu ich zdyskredytowanie lub rozpowszechnianie fałszywych informacji na ich temat. Przykładem może być zmanipulowane wideo Nancy Pelosi, które sugerowało, że jest pod wpływem alkoholu.

• Deepfake'i w oszustwach typu "CEO fraud": Znane są przypadki, w których oszuści używali deepfake'ów głosowych, imitujących głos dyrektorów firm, aby nakłonić pracowników do wykonania przelewów na fałszywe konta.

Te przykłady pokazują, jak zaawansowana stała się technologia deepfake i jak różnorodne (często niebezpieczne) może być jej zastosowanie. Świadomość tych przypadków jest kluczowa w walce z dezinformacją.

Oznacz jako przeczytane (tylko dla siebie).