Deepfakes sind manipulierte Bild-, Audio- oder Videodokumente, in die vorsätzlich Produkte, Personen und Handlungen mit künstlicher Intelligenz in die Dokumente eingefügt wurden. In den Dokumenten werden die Inhalte verfälscht um dadurch Falschdarstellungen in Umlauf zu bringen und namhafte Persönlichkeiten zu diskreditieren.
Deepfakes sind Bild- und Tonfälschungen. In den Fotos und Video werden Gesichter und auch ganze Personen ausgetauscht und im Bewegungsablauf imitiert. Während das Austauschen von Gesichtern auf Fotos, das Face-Swapping, noch einfach ist, gestalten sich Videos in denen die Körperhaltung, die Bewegungsdynamik, das Body-Puppetry, oder die Sprach- und Akzentadaption, das Voice-Swapping, wesentlich komplizierter und rechenintensiver. Daher auch der Einsatz von künstlicher Intelligenz.
Um die rechenintensiven Deepfake- Operationen durchführen zu können, arbeitet man mit zwei künstlichen neuronalen Netzen, Generative Adversarial Networks ( GAN). Die beiden Netze arbeiten zusammen, wobei eines einen Generator, das andere einen Diskriminator bilden. Der Generator ist eine lernende Komponente, deren Ergebnisse nach einer bestimmten Verteilung generiert werden. Dagegen analysiert der Diskriminator die Ergebnisse gegenüber der vorgegebenen Verteilung. Abweichungen werden von dem Diskriminator angepasst.
Durch den Lernalgorithmus werden die dargestellten Ergebnisse ständig besser.