Deepfakes

Gefälschte Videos sorgen für Verwirrung.

Warum können sie so gefährlich sein?

„Das hat er wirklich gesagt? Gibt’s ja gar nicht!“ Haben Sie auch schon mal ein Video gesehen und sich gewundert, weil die abgebildete Person etwas gesagt oder gemacht hat, was gar nicht zu ihr passt? Mittlerweile muss man sich dabei immer häufiger fragen: Ist das Video wirklich echt oder nicht? Diese Frage zu beantworten, ist allerdings ganz schön schwierig. Denn dank neuester Technik wird es immer einfacher, mit Hilfe von Künstlicher Intelligenz (KI), täuschend echt aussehende Videos mit real existierenden Menschen zu erstellen. Hier gibt es Tipps, wie solche Deepfakes erkannt werden können.

Was sind Deepfakes?

Deepfakes sind von Computerprogrammen erstellte Videos, Bilder oder Tonaufnahmen. Auf den Videos werden z. B. Gesichter oder Stimmen so verändert, dass Personen plötzlich etwas sagen oder machen, was sie aber gar nicht selbst gesagt oder gemacht haben. Früher waren stundenlange kreative Arbeit, sehr viel technisches Wissen und vor allem sehr teure Programme sowie rechnungsstarke Computer nötig, um ein Bild oder ein Video zu fälschen. Heute genügt eine kurze Anweisung und ein Computerprogramm mit Künstlicher Intelligenz erstellt einen neuen Inhalt. Dabei greifen die Programme auf Millionen von online-gestellten Bildern und Videos zurück. Das geht ziemlich schnell, recht einfach auch übers Handy und ist in den Testversionen auch meistens kostenlos.

Warum können Deepfakes so gefährlich sein?

Deepfakes können ziemlich lustig sein. Mit Hilfe sogenannter „Faceswap-App“ („to swap“ ist Englisch und bedeutet „tauschen“, also eine Gesichts-Tausch-App) ist das eigene Gesicht in einem Video-Clip auf dem Körper eines Action-Helden zu sehen. Nicht mehr lustig ist es allerdings, wenn stattdessen Vorlagen mit Kraftausdrücken, derbem Humor oder pornografischem Inhalt hergenommen werden. Oder wenn Deepfakes zur Manipulation von Meinungen eingesetzt werden. So lässt sich gefährliches Chaos in der Politik verbreiten. Besonders, wenn sich ein Land im Wahlkampf befindet, können professionelle Deepfakes viel Verwirrung stiften, indem mit den Videos Rufschädigung und Hetze betrieben wird. Nämlich dann, wenn eine Politikerin oder ein Politiker plötzlich Aussagen vor der Kamera macht, die überhaupt nicht zu ihr oder ihm passen, die aber von der Bevölkerung nicht als Fälschung erkannt werden. Solche Videos verbreiten sich ungeprüft rasend schnell über die sozialen Medien. Zudem kann die Technik der Deepfakes auch im Umkehrschluss dazu führen, dass echte Videos für unecht gehalten werden. Möglicherweise vertrauen manche Menschen dann gar keiner Quelle mehr, und tun alles, was nicht in ihr persönliches Meinungsbild passt, als „Fake News“ bzw. als Fälschung ab.

Wie lassen sich gefälschte Bilder, Videos oder Audios erkennen?

Amateurhafte Deepfakes sind meistens recht schnell mit bloßem Auge zu erkennen. Gerade wenn nur das Gesicht ausgetauscht wurde. Allerdings gibt es auch komplett neu erstellte, professionelle Videos, bei denen sehr genau hingeschaut werden muss, um sie als Fälschung zu erkennen:

• Übergänge vom gefälschten zum echten Bild sind oft unscharf und verschwommen.
• Licht und Farben passen meist nicht genau zusammen. Da die Programme überwiegend auf Gesichter „trainiert“ sind, können die Hintergründe verschwommen wirken.
• Der Blick der verfälschten Person wirkt oft ausdruckslos, die Blickrichtung unnatürlich. In gefälschten Videos blinzeln die Menschen oft nicht oder sie blinzeln zu regelmäßig.
• Manchmal sind Haare oder Ohren seltsam geformt. Auch kann die Hand zu wenige oder zu viele Finger haben und die Augen und die Augenbrauen zu symmetrisch sein.
• Quellen prüfen: Ist es ein Video von einer Person des öffentlichen Lebens, z. B. eine Politikerin oder ein Schauspieler? Dann kann recherchiert werden, ob es das Video noch an weiteren Stelle online zu sehen gibt.
• Manchmal helfen jedoch nur weitere Programme. Spezielle Software kann mittlerweile Fälschungen entlarven. Hierfür werden z.  B. Farbwerte verglichen oder die Metadaten des Bildes. Die Metadaten zeigen z. B. an, wo und wann ein Foto mit welcher Kamera aufgenommen wurde.

Worauf sollten Eltern achten?

Hilfe, jemand hat ein Video oder Foto von mir (oder meinem Kind) manipuliert und gepostet

Da die Programme so leicht zu bedienen sind, bieten sie großes Potential, um jemandem absichtlich zu schaden. Denn sobald genügend Video- oder Bildmaterial von einer Person online verfügbar ist, lassen sich damit neue Videos erstellen. Ganz leicht eignet sich dazu der Inhalt von öffentlichen Social-Media-Kanälen. Ist das passiert und wird so ein Video verbreitet, kann das für die betroffene Person erhebliche Nachwirkungen haben.

Betroffene sollten deshalb zuerst versuchen, das Deepfake-Video aus dem Verkehr zu ziehen und eine Weiterverbreitung zu unterbinden. Passiert sowas im schulischen Kontext, sollte unbedingt die Klassenleitung oder eine Vertrauensperson eingeschaltet werden. Zudem können die sozialen Netzwerke, über welche die manipulierten Videos verbreitet werden, kontaktiert werden. Diese sind aufgrund des Telemediengesetzes und des Netzwerkdurchsetzungsgesetzes verpflichtet, rechtsverletzende Inhalte schnell zu prüfen und zu löschen. In einem solchen Fall ist das Recht am eigenen Bild verletzt. Der § 22 des Kunsturheberrechtsgesetzes (KunstUrhG) verbietet die Nutzung von Bildnissen einer Person ohne deren Einwilligung. Zudem verletzt so eine Fälschung das Persönlichkeitsrecht der abgebildeten Person (Art. 2 Abs. 1, Art. 1 Grundgesetz). Strafrechtlich kann der Täter oder die Täterin wegen Beleidigung, Verleumdung oder übler Nachrede und wegen des Verstoßes gegen § 33 KunstUrhG angezeigt werden. Hierbei sind bei einer Verurteilung Freiheitsstrafen von bis zu einem Jahr oder eine Geldstrafe möglich.

Welche praktischen Tipps gibt es zum Schutz vor Deepfakes?

Deshalb und aus vielen anderen weiteren Gründen ist es ratsam, möglichst wenig Material von sich oder den eigenen Kindern im Netz öffentlich zur Verfügung zu stellen. Gerade Jugendliche posten selbst viele Fotos und Videos von sich im Netz. Hier ist es wichtig, dass Eltern Jugendliche auf die Gefahren aufmerksam machen, die damit verbunden sind. In den meisten sozialen Netzwerken ist es möglich, gepostete Inhalte nur für einen ausgewählten Freundeskreis sichtbar zu machen. Das kann dazu beitragen, dass sie nicht so leicht von fremden Personen für Deepfakes verwendet werden können.

Unsere Lesetipps:

 "Künstliche Intelligenz im (Familien-) Alltag"

Was heißt "Fake News“ und was sind die Ziele?

Fünf Medienbriefe mit konkreten Tipps, Checklisten und weiterführende Beratungslinks zur Medienerziehung.