02.08.2022
Das Gehirn lässt sich nicht so einfach von Deep Fakes hinters Licht führen wie gedacht – zu dieser Erkenntnis kam eine australische Forschergruppe. Zwar ist die Trefferquote nicht einmal annähernd einhundert Prozent, dennoch könnten diese Beobachtungen zu weiteren Ansätzen für die Detektion führen.
Dass das Gehirn die Fakes erkennt bedeutet jedoch nicht immer, dass man sie auch bewusst wahrnimmt.
Deep Fakes entwickeln sich immer weiter
Computer haben immer besser gelernt, Bilder und Videos zu generieren, die vermeintlich echte Menschen zeigen – egal ob es sich um das Konterfei von Prominenten handelt oder ob es diese Personen in Wirklichkeit gar nicht gibt. So gut, unsere Gehirne komplett auszutricksen, sind sie allerdings noch nicht.
Gefälschte Bilder mehr als zur Hälfte erkannt
Forscher an der Uni Sydney haben dazu Experimente mit Hirnstrommessung der Probanden durchgeführt. Dazu gab es zwei Gruppen: Eine Gruppe sollte ohne weitere Messungen 50 Bilder als echt oder falsch identifizieren, während bei einer zweiten Gruppe dabei die Hirnströme mittels einer EEG-Kappe gemessen wurden.
Diese zweite Gruppe zeigte deutliche Veränderungen in den Hirnströmen, wenn ein Deep Fake erkannt wurde. Das war zwar nur in 54 Prozent der Fälle so, dennoch stufen die Forscher diese Quote als statistisch verlässlich ein. Die Gruppe ohne EEG-Messung musste die Deep Fakes verbal bestimmen – hier lag die Quote nur bei 37 Prozent. Das Erkennen gefälschter Bilder findet demnach vielfach unterbewusst statt. Grundsätzlich bestätigt das Experiment aber, dass das menschliche Gehirn überhaupt in der Lage ist, sie zu erkennen.
Merkmale von Deep Fakes unklar
Durch das Experiment konnten die Forscher allerdings nicht herausfinden, welche Merkmale Deep Fakes an sich haben, um vom Gehirn als solche erkannt zu werden. Sagen lässt sich immerhin, dass es unter anderem Details wie Lichtreflexionen in den Augen sind, die nicht zur Belichtung des Bildes passen.
Gelänge es, diese Merkmale genauer zu identifizieren, hätte man mehr Möglichkeiten im Kampf gegen die gefälschten Bilder und könnte Algorithmen besser darauf abstimmen. Allerdings würde das im Umkehrschluss zu perfekteren Deep Fakes führen. Denn auch die Fälscher würden von einem solchen Wissen profitieren. (tl)
