Deepfake to podszywanie się pod człowieka stworzone za pomocą zaawansowanych technologii, w tym sztucznej inteligencji (AI) i głębokiego uczenia się. Może to być fałszywe zdjęcie lub klip z wyrazem twarzy osoby, plik dźwiękowy lub filtr imitujący jej mowę lub cokolwiek innego, co przypomina osobę korzystającą z uczenia maszynowego (ML).
Zmiany wizualne i dźwiękowe były praktykowane od wielu lat. Na przykład w filmach stosowano techniki edycji graficznej, aby załagodzić wady filmu, a ludzie od zarania Internetu używają oprogramowania do edycji obrazów do generowania memów. Deepfake to rozszerzenie tego działania, które obsługuje sztuczną inteligencję, które może być wykorzystywane do wprowadzania użytkowników w błąd.
Mogą również wykorzystywać nowo powstające technologie, takie jak autokodery i syntetyczne systemy przeciwstawne. Zagrożenia mogą wykorzystywać algorytmy głębokiego uczenia się, aby atakować określone cechy podobieństwa danej osoby, takie jak budowa twarzy lub język ciała. Zapewnia niewiarygodnie przekonujące podszywanie się, które hakerzy próbują wykorzystać.
Oczekuje się, że rosnące uzależnienie przedsiębiorstw od interakcji wideo zachęci napastników do angażowania się w ataki typu deepfake.
Jak działa deepfake?
Uczenie maszynowe jest kluczowym elementem tworzenia deepfake’a. Splotowe sieci neuronowe to sztuczne Inteligentne systemy komputerowe zbudowane częściowo na ludzkim umyśle, przeznaczone do wykrywania trendów w informacjach. Deepfake opierają się na sztucznych sieciach neuronowych. Tutaj zaczyna się proces tworzenia deepfake.
Aby stworzyć deepfake wideo, twórca najpierw przesyła niezliczone godziny rzeczywistego materiału wideo do głębokiej sieci neuronowej, która jest następnie „uczona” w rozpoznawaniu szczegółowych rytmów i cech osoby. Jest to wykonywane, aby zapewnić algorytmowi realistyczną reprezentację tego, jak dana osoba wygląda z różnych perspektyw.
Następnym krokiem jest połączenie wytrenowanego algorytmu uczenia się z technologiami grafiki komputerowej, aby nałożyć wideo w czasie rzeczywistym osoby z generowanymi przez sztuczną inteligencję wzorami twarzy i głosu uzyskanymi z danych wejściowych sieci neuronowej. Chociaż wiele osób uważa, że budowanie deepfake’a wymaga skomplikowanych narzędzi i specjalistycznej wiedzy, tak nie jest — można je również stworzyć, mając jedynie podstawową wiedzę z zakresu projektowania graficznego.
Podczas gdy do hiperrealistycznych podróbek wymagane są wyrafinowane podejścia, haker potrzebuje jedynie dostępu do czyjegoś materiału wideo lub audio. Biorąc pod uwagę ogromną ilość dostępnych obecnie treści, jest to szczególnie wykonalne, ponieważ oryginalny materiał jest dostępny w obfitości, aby napędzać algorytm i budować przekonujący deepfake.
Chociaż zdolność do ciągłej zamiany twarzy w celu stworzenia prawdziwego i realistycznie wyglądającego sztucznego wideo ma kilka intrygujących nieszkodliwych zastosowań (takich jak filmy i gry), jest to potężna broń z pewnymi niepokojącymi konsekwencjami. Tworzenie syntetycznych materiałów pornograficznych było jednym z najwcześniejszych praktycznych zastosowań deepfake’ów.
Rodzaje oszustw typu Deep Fake
1. Tekstowe deepfake
Wcześniej sądzono, że maszyna nie może wykonać kreatywnego projektu, takiego jak rysowanie lub pisanie na wczesnych etapach uczenia maszynowego i przetwarzania języka naturalnego (NLP). Szybko do 2021 r., kiedy to najwyżej oceniane pisanie generowane przez sztuczną inteligencję może teraz tworzyć zwięzłość i przejrzystość wyglądającą na człowieka, dzięki solidnym modelom językowym i bibliotekom rozwijanym przez dziesięciolecia przez stopniową pracę uczonych i specjalistów od analizy danych.
2. Głębokie wideo
Główną bronią przestępców Deepfake jest tworzenie fałszywych zdjęć i filmów. Biorąc pod uwagę, że żyjemy w wszechobecnym świecie mediów społecznościowych, w którym filmy i zdjęcia wyjaśniają incydenty i historie lepiej niż format tekstowy, jest to najczęściej używany rodzaj deepfake.
Współczesna sztuczna inteligencja generująca wideo jest bardziej kompetentna niż sztuczna inteligencja w języku naturalnym i może być bardziej niebezpieczna. Hyperconnect, firma programistyczna z siedzibą w Seulu, wydała MarioNETte w 2020 roku, program, który może tworzyć filmy typu deepfake przedstawiające ludzi historycznych, celebrytów i przywódców. Osiąga się to poprzez odtworzenie przez inną osobę gestów twarzy pożądanej osobowości, które są następnie umieszczane na deepfake zamierzonej osobowości.
3. Głębokie fałszowanie dźwięku
Tekst, zdjęcia i wideo to nie jedyne rzeczy, które mogą zrobić sieci neuronowe i sztuczna inteligencja. Mogą również klonować ludzki głos. Potrzebne jest tylko repozytorium danych zawierające nagranie osoby, której głos trzeba naśladować. Algorytmy Deepfake będą mogły uczyć się na podstawie zebranych danych i odtwarzać prozodię głosu konkretnej osoby.
Wprowadzono komercyjne oprogramowanie, takie jak Lyrebird i Deep Voice. Jednak wystarczy powiedzieć kilka fraz, aby sztuczna inteligencja przyzwyczaiła się do Twojego głosu i akcentu. Ten program staje się wystarczająco silny, aby kopiować Twój głos w miarę wysyłania kolejnych nagrań siebie. Możesz po prostu dostarczyć frazę lub zdanie po załadowaniu do kolekcji swoich nagrań głosowych, a ten program do deepfake opisze tekst w twoim tonie.
4. Deepfake w mediach społecznościowych
Innowacje deepfake można wykorzystać w połączeniu z tworzeniem historii lub blogów, aby zbudować fałszywy profil internetowy, który byłby trudny do wykrycia dla zwykłego użytkownika. Deepfake z tożsamością Maisy Kinsley w serwisach społecznościowych, takich jak LinkedIn i Twitter, był przekonująco (nieistniejącym) reporterem Bloomberga. Jej zdjęcie profilowe było niezwykłe, jakby zostało zrobione przez oprogramowanie. Publiczny profil Maisy Kinsley regularnie próbował połączyć się z krótkimi sprzedawcami akcji Tesli, co wskazuje, że profil najprawdopodobniej został sfabrykowany w celu uzyskania korzyści finansowych.
5. Deepfake w czasie rzeczywistym lub na żywo
Technologia Deepfake jest zadziwiająco zaawansowana, pozwalając firmom na generowanie klonów reklamowych, rządom naśladowanie przeciwników politycznych, a hakerom na odtworzenie głosów użytkowników, aby przejść uwierzytelnianie głosowe.
Youtuberzy już zmieniają swoje twarze w czasie rzeczywistym za pomocą nowatorskiego programu do deepfake. Na przykład DeepFaceLive to oprogramowanie wykorzystujące sztuczną inteligencję typu open source, które za pomocą wideokonferencji i sieci strumieniowych może przekształcić Twoje oblicze w cudze. Streamerzy już zaczęli korzystać z tej funkcji na platformach takich jak Twitch, a zarówno nadawcy, jak i twórcy wszelkich innych treści multimedialnych mogą korzystać z tego programu.
Autor artykułu: Adam Mucha