23.05.2024

Täuschend echt: Deepfakes - was ist das?

In diesem Blogbeitrag möchten wir dich auf das Thema Deepfakes und im allgemeinen synthetische Medien aufmerksam machen. Sie sind bereits Teil des alltäglichen Lebens und bleiben oftmals unentdeckt. Ob in der Unterhaltungsbranche oder auch in den sozialen Medien und Politik - das Wissen über Deepfakes kann uns Menschen vor Desinformationen schützen. Daher sollten auch diese Themen im Unterricht besprochen werden, um die Schüler:innen auch mit den Herausforderungen und Gefahren Künstlicher Intelligenz vertraut zu machen. Im Anschluss findest du zu diesem Thema Links zu kostenlosen Materialien für deinen Unterricht und ergänzende Literatur.

Was sind Deep Fakes?

Deepfakes sind realistisch wirkende Medieninhalte, die mithilfe von künstlicher Intelligenz und maschinellem Lernen, insbesondere durch Techniken des Deep Learnings, erzeugt oder manipuliert werden. Der Begriff "Deepfake" setzt sich aus "Deep Learning" (eine Methode des maschinellen Lernens) und "Fake" (englisch für Fälschung) zusammen. Deepfakes können verwendet werden, um Personen in Bildern, Videos oder Audiodateien Dinge sagen oder tun zu lassen, die nie wirklich stattgefunden haben. Der Begriff Deepfake ist jedoch durch seinen Ursprung auf der Plattform Reddit bezüglich pornografischer Inhalte grundlegend negativ behaftet.

Synthetische Medien statt Deepfakes

Seit letztem Jahr wird vermehrt der Begriff synthetische Medien als Überbegriff für alle, von KI erzeugten und manipulierten, Medien verwendet. Diese Anpassung der Bezeichnung soll neutralisierend wirken und KI-erzeugte Videos, Bilder etc. zunächst wertfrei begegnen. Warum synthetische Medien nicht immer negativ behaftet als Deepfakes eingestuft werden sollten, erfährst du in den folgenden Beispielen:

Hier stellen wir dir einige Arten von Deepfakes kurz vor:

Gesichtsaustausch / Face-Swap

Diese Art von synthetischen Medien tauscht die Gesichter von Personen in Videos oder Bildern aus. Das bekannteste Beispiel dafür sind Videos, in denen das Gesicht einer Person nahtlos durch das Gesicht einer anderen ersetzt wird. Diese Technologie wird oft in Filmen für Spezialeffekte verwendet, kann aber auch für schädliche Zwecke missbraucht werden.

Lip-Syncing

Hierbei werden die Lippenbewegungen einer Person in einem Video so manipuliert, dass es aussieht, als würde sie etwas anderes sagen. Diese Technik kann verwendet werden, um "gefälschte Nachrichten" zu erstellen, bei denen prominente Persönlichkeiten scheinbar kontroverse oder falsche Aussagen treffen.

Ganzkörper-Deep Fake / Puppet-Master

Diese fortschrittlichere Form synthetischer Medien kann eine ganze Person in einem Video durch eine andere ersetzen. Dies kann von harmlosen Anwendungen wie dem Ersetzen von Schauspielern in Filmen bis hin zum Erstellen gefälschter Pornografie reichen, in der die Gesichter von Prominenten auf die Körper von Darstellern gesetzt werden.

In diesem Beispiel beweist US-Filmemacher Jordan Peele, wie ganze Persönlichkeiten in ihrer Mimik, Gestik und Körperbau nachgeahmt werden können. So legte er augenscheinlich Obama seine eigenen Worte in den Mund.

Stimmimitation / Audio-Deep Fakes

Hierbei wird KI verwendet, um die Stimme einer Person nachzuahmen und Audioaufnahmen zu erzeugen, in denen es so klingt, als würde die nachgeahmte Person Dinge sagen, die sie nie gesagt hat. Diese Technologie kann für das Erstellen gefälschter Sprachnachrichten oder für Betrug verwendet werden.

Deep Fake Texte

Obwohl nicht so bekannt wie Video- oder Audio-Deep Fakes, können KI-Modelle auch verwendet werden, um glaubwürdig wirkende Texte zu erzeugen. Diese können von gefälschten Rezensionen bis hin zu gefälschten Nachrichtenartikeln oder gefälschten sozialen Medienposts reichen.

Wofür werden synthetische Medien genutzt?

Unterhaltung und Kreativität

  • In der Film- und Videoproduktion können synthetische Medien genutzt werden, um jüngere oder ältere Versionen von Schauspieler:innen zu erzeugen, verstorbenen Schauspielern neues Leben einzuhauchen oder beeindruckende Spezialeffekte zu kreieren. Hier findest du eine Sammlung beeindruckender KI-manipulierter Videos aus der Film-Branche: Diese 12 Deepfake-Videos sind beeindruckend

Bildung und Training

  • In der Bildung können historische Persönlichkeiten "zum Leben erweckt" werden, um Bildungsinhalte ansprechender und interaktiver zu gestalten.
  • In Simulationen und Training können realistische Szenarien geschaffen werden, um Fachkräfte besser auszubilden, z.B. in der Medizin oder im Katastrophenschutz.

Medizin und Forensik

  • In der Rechtsmedizin können Deepfakes genutzt werden, um zu zeigen, wie Personen, die seit langem vermisst werden, heute aussehen könnten.

Welche Gefahren verbergen sich hinter Deepfakes?

Desinformation und Propaganda: Deepfakes können verwendet werden, um falsche Nachrichten zu verbreiten oder politische Inhalte zu manipulieren.

Betrug: Sie können für Identitätsdiebstahl oder um betrügerische Video- oder Audioaufnahmen zu erstellen, genutzt werden.

Erpressung und Rufschädigung: Durch die Erstellung kompromittierender oder peinlicher Inhalte können Individuen erpresst oder ihr Ruf geschädigt werden.

Wie kannst du synthetische Medien erkennen?

Synthetische Medien zu erkennen kann eine Herausforderung sein, da die Technologie zur Erstellung dieser Fälschungen immer besser wird. Es gibt jedoch bestimmte Anzeichen und Techniken, die dir dabei helfen können, diese zu identifizieren:

  • Achte auf unnatürliche Bewegungen und Gesichtsausdrücke, seltsame Mimik oder Lippenbewegungen, die nicht mit der gesprochenen Sprache synchron sind.
  • Ältere Modelle hatten oft Schwierigkeiten, einen realistischen Lidschlag zu simulieren.
  • Überprüfe die Hautstruktur auf unnatürliche Glätte, die Bewegung der Haut und ihre Falten und Muttermale.
  • Besonders bei bekannten Persönlichkeiten kann die originale Stimmfarbe von einer manipulierten Stimme oder ausgetauschten Fremdstimme unterschieden werden. Beachte auffällige Unterschiede in der Tonqualität.

Mehr zum Thema Deepfakes

Josi Künstler