Deepfakes im Netz: Methoden zur Erkennung und ihre Grenzen
„Hallo, mein Name ist Angela Merkel.“ So beginnt die Aufnahme, und sie klingt absolut echt. Kein Zweifel, dass hier die ehemalige Bundeskanzlerin spricht. Doch dann folgt der nächste Satz: „Ich bin eine Stimme, die durch künstliche Intelligenz erstellt worden ist.“ Gesprochen hat nicht wirklich Angela Merkel, sondern eine „Demonstrator-Software“, die am Fraunhofer-Institut für Angewandte und Integrierte Sicherheit (AISEC) entwickelt wurde und Stimmen klonen kann. In eine Textzeile kann man alles eingeben, was der Merkel-Klon sagen soll, dann wird eine gefälschte Audiospur erstellt. Mit der Demonstrator-Software will das Fraunhofer AISEC zeigen, welche Risiken Deepfakes bergen.
Es gibt durchaus positive Beispiele für den Einsatz von Sprachklonen. In der Medizintechnik können sie Menschen, die nicht mehr sprechen können, eine Stimme verleihen. Der unkontrollierte Einsatz ist hingegen ein Riesenproblem: Manipulierte Aufnahmen von Politikern und Politikerinnen können die Meinungsbildung beeinflussen. Auch in der Geschäftswelt drohen Gefahren: In Telefon- oder Videocalls lässt sich die Identität von Unternehmenschefs und -chefinnen nachahmen, um Zahlungen anzuweisen. Und im privaten Bereich kann die Technik missbraucht werden, um pornografische und entwürdigende oder diffamierende Inhalte zu erzeugen.
Software wird mit Daten gefüttert
Geforscht wird nun weltweit an Technik, mit der man sich vor Deepfakes schützen kann. Dabei kommt – genau wie bei der Deepfake-Erstellung – künstliche Intelligenz (KI) zum Einsatz. Das Fraunhofer AISEC zum Beispiel hat eine Web-App entwickelt, die Audiospuren prüft. Den Prototypen kann man online testen. „Wir haben die KI darin trainiert, zu entscheiden, ob eine Audiospur echt oder falsch ist. Für das menschliche Gehör ist das oft nicht möglich. Die KI lernt, viel genauer hinzuhören“, erklärt Nicolas Müller, einer der beteiligten Forschenden.
Auf den Punkt
Die Software wurde durch maschinelles Lernen trainiert. Das bedeutet: Sie wurde mit großen Mengen echter und falscher Inhalte gefüttert und lernte selbstständig, deren charakteristische Merkmale zu erkennen. „Welche Merkmale das sind, wissen wir nicht, wir können es nur vermuten“, sagt Müller. „Tendenziell hat eine KI-Stimme immer noch eine eher monotone Betonung, und diese passt nicht immer gut zum Inhalt des Gesagten.“ In jedem Fall stellt die Software eine Berechnung an: „Sie stellt zum Beispiel fest, dass es sich bei einem Inhalt mit 75-prozentiger Wahrscheinlichkeit um Fake handelt. Das bedeutet dann, dass 75 Prozent der Inhalte mit ähnlichen Merkmalen Fakes waren“, erklärt Müller.
Funktioniert nicht zu 100 Prozent
Maschinelles Lernen kann gleichermaßen genutzt werden, um einer Software die Erkennung gefälschter Bilder und Videos beizubringen. Eine andere Methode ist es, KI gezielt nach Fehlern suchen zu lassen, die Fälschungen häufig aufweisen – oder die Verfahren zu kombinieren. Eine Deepfake-Erkennung für Videos und Bildmaterial hat zum Beispiel das Startup „Detesia“ entwickelt, das aus dem Helmholtz-Zentrum für Informationssicherheit (CISPA) heraus entstanden ist. Der Prototyp kann ebenfalls kostenlos getestet werden. Auch dieses Tool wurde mit echten und gefälschten Inhalten angelernt, um sie zu unterscheiden. Verschiedene Varianten sind besonders gut darauf spezialisiert, Schwachstellen vollsynthetisch erstellter Bilder oder Teilmanipulationen im Gesichtsbereich zu erkennen und diese auch anzuzeigen.
Was allen Ansätzen gemein ist – sie können echte und gefälschte Inhalte nicht mit absoluter Sicherheit trennen. So kann die KI oft sehr gut die Art von Fälschungen erkennen, mit der sie auch trainiert wurde. Im Netz kursieren allerdings immer wieder neue Deepfake-Varianten.
In einem großangelegten Test erkannten verschiedene Modelle Deepfake-Videos, die ihrem Trainingsmaterial ähnelten, mit mehr als 80 Prozent Genauigkeit. An anderen Videos aus dem Netz scheiterten sie: Das beste Verfahren konnte Fakes nur mit 65 Prozent Treffsicherheit erkennen. Das ist sehr wenig; da es nur die Varianten echt oder falsch gibt, würden 50 Prozent Treffsicherheit dem Zufall entsprechen. In einer Studie vom Januar diesen Jahres waren Menschen sogar besser als KI darin, Deepfake-Videos zu erkennen. Nur bei der Erkennung gefälschter Bilder schnitt die künstliche Intelligenz besser ab.
„Die Deepfake-Erkennung kann Schwachstellen haben“, räumt der Experte vom Fraunhofer Institut ein, „aber diese hat eine Anti-Virensoftware ja auch.“ Dennoch sei die Technik nützlich, denn es gehe darum, höhere Hürden zu schaffen, um Betrug und anderen Missbrauch von Deepfake-Inhalten deutlich zu erschweren.
Statt Fälschung Echtheit belegen
Das Gegenstück zur Deepfake-Erkennung sind sogenannte Content Credentials. Sie dienen nicht dazu, die Falschheit von Bildern zu erkennen, sondern dazu, deren Echtheit zu belegen. „Content Credentials sind kryptographische Signaturen in den Metadaten eines Bildes, die sich nicht fälschen lassen. Man kann sich das wie eine Urkunde oder ein Zertifikat vorstellen“, sagt Müller. So könnten digitale Bilder mit einer Art Datenstempel versehen werden, der bestätigt, wann sie mit welchem Gerät erstellt wurden. Auch alle späteren Änderungen an einem Bild ließen sich dann als Metadaten aufzeichnen. Die Technik könnte zum Beispiel dem Urheberschutz in der Fotografie dienen.
Was vor fünf Jahren nur Experten konnten, kann heute ein Internet-Tool für 10 Euro.
Nicolas Müller,;Fraunhofer-Institut für Angewandte und Integrierte Sicherheit (AISEC)
Allerdings lasse sich dieser Ansatz theoretisch umgehen, sagt Müller: Würde man ein Bild verfälschen und es danach abfotografieren, würde das Foto neue Metadaten erhalten. Die Fälschung würde nicht aufgezeichnet. Das wäre jedoch deutlich aufwendiger als die bisherige Deepfake-Produktion. Und: Es ließe sich eine zusätzliche Sicherheitsstufe einbauen, indem die Signatur Links zu den Urhebern enthält oder die Original-Signaturen nicht gefälschter Bilder in einer Datenbank gespeichert würden.
Deepfakes vorab verhindern
Noch ein anderer Ansatz wäre es, die Produktion von Deepfakes von vornherein zu verhindern. Ein Projekt am CISPA ist es, die Software für die Erstellung von „Memes“ weiterzuentwickeln – Bilder, bei denen Textinhalte eingebunden werden und die sich massenweise im Internet verbreiten. Die Erstellungssoftware könnte man so programmieren, dass beleidigende und obszöne Textinhalte automatisch durch harmlose Wörter ausgetauscht werden, die zu dem Bild passen. In einem Beispiel auf der Seite des CISPA wird etwa das Wort „fuck“ automatisch durch „duck“ (Ente) ersetzt.
Damit sich Anwendungen zur Vermeidung oder Erkennung und Kennzeichnung von Deepfakes durchsetzen, müssten allerdings die Anbieter der Social-Media-Plattformen mitspielen. „Das erfordert in jedem Fall eine Zusammenarbeit“, betont Müller. Zum Geschäft der Anbieter gehöre es jedoch vor allem, schnelle und viele Klicks zu generieren - was ja durch Deepfakes gelingt.
Niemand ist vor Deepfakes sicher
Auch dürfen die Hürden für Nutzer und Nutzerinnen nicht zu hoch sein. Es sei unrealistisch, dass jemand jedes TikTok-Video vor dem Ansehen einzeln auf deren Echtheitsgehalt hin überprüft, sagt der Experte vom Fraunhofer AISEC. Denkbar sei aber zum Beispiel, eine Software zu integrieren, die Bilder und Videos grün, orange oder rot einrahmt: je nachdem, ob der Inhalt echt, womöglich gefälscht oder mit hoher Wahrscheinlichkeit gefälscht sei. Gegen KI, die pornographische Deepfakes erstellt, will zumindest die EU künftig auch mit Verboten vorgehen. Wie effektiv so etwas sei, müsse sich zeigen, sagt Müller. Sobald Anbieter im Ausland sitzen, sei ihnen mit Verboten jedenfalls kaum beizukommen.
Um sich selbst vor der Täuschung durch Deepfakes zu schützen, müsste jeder und jede ein Bewusstsein dafür entwickeln: „Das Wichtigste ist, dass man weiß, dass es das gibt, und dass es uns alle treffen kann“, sagt Müller. So müsse man heute wissen, dass ein vermeintlicher Schockanruf, in dem Verwandte um eine schnelle Überweisung bitten, ein Fake sein kann. Eine Weiterentwicklung des „Enkeltricks“, nur mit professionell gefälschter Stimme. Wie überall im Bereich der Internetsicherheit werde es weiter ein Katz-und-Maus-Spiel geben. Neuen Tools zur Deepfake-Erstellung werden neue zu deren Erkennung folgen und denen wieder neue Deepfake-Tools.
„Deepfakes werden immer besser und immer günstiger möglich“, sagt Müller: „Was vor fünf Jahren nur Experten konnten, kann heute ein Internet-Tool für 10 Euro.“ Zumindest gewöhnliche, nicht mit besonderem Aufwand erstellte Deepfake-Inhalte werde man mit entsprechender Software in Zukunft aber wohl leichter erkennen können: „Denn auch die Verteidigerseite bleibt aktiv und wird immer besser.“
Von Irene Habich







