Vor dem Eiffelturm, der Oper von Sydney oder gefilmt bei einem Bungeesprung – mittels KI-generierter Bilder und Videos kann man digital die Welt bereisen. Die Bilder wirken täuschend echt und oft ist nur schwer zu erkennen, dass es sich um eine Fälschung – einen Deepfake – handelt.
Leider werden auf diese Art erzeugte Bilder und Videos nicht immer verantwortungsbewusst eingesetzt. Sie können genutzt werden, um andere Personen zu demütigen, zu bedrohen und öffentlich bloßzustellen. Werden die Bilder und Videos sexualisiert verfremdet, kommen sie häufig als Druckmittel für Erpressungen —
SextortionÖffnet sich in einem neuen Fenster — zum Einsatz.
Was sind Deepfakes?
Deepfakes sind digitale Medien – Bilder, Videos oder Audios – die mit Hilfe von Künstlicher Intelligenz (KI) verändert oder erstellt werden. So kann etwa das Gesicht einer Person auf ein Video gesetzt werden, das sie in Wirklichkeit nie gedreht hat, oder die Stimme kann synthetisch nachgebildet werden.
Der Begriff „Deepfake“ setzt sich aus „deep learning“ (eine Form von KI) und „fake“ (Fälschung) zusammen. Ziel ist nicht immer Täuschung: Deepfakes werden auch kreativ eingesetzt, etwa in Filmen, Werbung oder für Unterhaltung.
Wie entstehen Deepfakes?
Aus vielen vorhandenen Fotos, Videos oder Sprachaufnahmen einer Person lernt die KI wie diese aussieht, spricht oder sich bewegt. Die KI erkennt typische Merkmale – zum Beispiel Gesichtszüge, Mimik oder die Stimme – und kann diese anschließend in neue Aufnahmen einfügen. So kann der Eindruck entstehen, dass jemand etwas gesagt oder getan hat, obwohl das tatsächlich nie passiert ist.
Die Technik selbst ist komplex, doch Nutzerinnen und Nutzer müssen dafür keine Experten sein – es gibt bereits Software, die automatisch Videos oder Bilder manipuliert.
Risiken von Deepfakes
Deepfakes bergen verschiedene Risiken, insbesondere für Kinder und Jugendliche:
- Täuschung und Manipulation:
Personen können durch gefälschte Inhalte in ein falsches Licht gerückt werden. - Cybermobbing und Rufschädigung:
Deepfakes können gezielt zur Bloßstellung oder Belästigung eingesetzt werden, wenn sie zum Beispiel in einem Klassenchat gepostet werden. - Betrug:
Falsche Videos oder Stimmen können genutzt werden, um Geld oder sensible Daten zu erlangen. - sexualisierte Deepfakes:
Im Internet veröffentlichte Bilder können genutzt werden, um sie in einen sexualisierten Kontext zu setzen
Betroffene eines Deepfakes tragen keine Schuld. Die Verantwortung liegt bei denjenigen, die die Inhalte erstellen oder verbreiten.
Chancen von Deepfakes
Neben Risiken gibt es auch positive Einsatzmöglichkeiten – unter anderem im Bereich Bildung und in der kreativen Mediengestaltung.
Das Hessische Ministerium für Kultus, Bildung und Chancen stellt mit der Handreichung
„Künstliche Intelligenz (KI) in Schule und Unterricht“Öffnet sich in einem neuen Fenster Lehrkräften eine Hilfestellung zur Verfügung, um das Potenzial von KI für den Unterricht nutzen zu können.
Was Eltern und Fachkräfte tun können
- im Gespräch bleiben:
Sprechen Sie mit Kindern und Jugendlichen über digitale Inhalte und deren Vertrauenswürdigkeit. - Medienkompetenz fördern:
Helfen Sie, Inhalte kritisch zu hinterfragen und Quellen zu prüfen. - Sicherheitsregeln vermitteln:
Persönliche Fotos, Videos oder Audiodateien sollten nur mit Bedacht geteilt werden. - Bei Vorfällen handeln:
Sind Kinder oder Jugendliche von Deepfakes betroffen wenden Sie sich an Fachstellen, Beratungsangebote oder bei strafrechtlich relevanten Fällen an die Polizei. - Positives Vorbild sein:
Zeigen Sie selbst verantwortungsbewussten Umgang mit digitalen Medien. - sich austauschen
Die Beratungsstelle Jugend und Medien HessenÖffnet sich in einem neuen Fenster berät Eltern, Jugendliche und Fachkräfte bei Fragen zum Thema Mediennutzung.
Zusammenfassung
Deepfakes sind ein Teil der digitalen Realität. Sie können faszinierende kreative Möglichkeiten bieten, bergen aber auch Risiken für persönliche Integrität und Sicherheit. Mit Aufklärung, kritischem Blick und klaren Regeln können Kinder, Jugendliche und Erwachsene sicher im digitalen Raum unterwegs sein.