Warum alle über das „Deepfake“-Verbot von Facebook sprechen
Soziales Netzwerk, um Videos, die durch künstliche Intelligenz modifiziert wurden, von seinen Plattformen zu entfernen
Facebook-Chef Mark Zuckerberg
Josh Edelson/AFP/Getty Images
Facebook hat angekündigt, vor der bevorstehenden US-Präsidentschaftswahl alle Videos, die mit künstlicher Intelligenz (KI) gefälscht wurden, von seinen sozialen Netzwerkplattformen zu entfernen.
Die als Deepfakes bekannten Videos werden so modifiziert, dass sie echt aussehen und haben sich als sehr überzeugend und online schwer zu entlarven erwiesen.
In einem Blogeintrag Facebook gab diese Woche zu, dass Deepfakes eine große Herausforderung für Technologie und soziale Netzwerke darstellen, versprach jedoch, alle Arten von manipulierten Medien zu bekämpfen.
Was ist ein Deepfake?
Deepfakes sind Videos, in denen KI verwendet wurde, um das Gesicht einer Person mit dem Körper einer anderen Person zu überlagern.
Die umstrittene Praxis machte erstmals 2017 Schlagzeilen, als Internetnutzer pornografische Videos veröffentlichten, in denen weibliche Prominente wie Taylor Swift und Katy Perry abgebildet waren.
Die meisten Websites, auf denen die Videos gehostet werden, haben den Inhalt anschließend entfernt und von ihren Plattformen verbannt, aber gefälschtes Filmmaterial mit hochkarätigen Persönlichkeiten aus verschiedenen Bereichen hat sich weiterhin online verbreitet.
Obwohl diese Videos im Internet noch selten sind, stellen sie mit zunehmender Nutzung eine große Herausforderung für unsere Branche und Gesellschaft dar, schreibt Monika Bickert, Vice President of Global Policy Management bei Facebook, in dem Blogbeitrag.
Warum verbietet Facebook sie?
Der Social-Media-Riese, dem auch Instagram gehört, hat sich verpflichtet, manipulierte Videos zu entfernen, wenn für einen Durchschnittsmenschen nicht offensichtlich war, dass sie bearbeitet wurden, oder wenn sie den falschen Eindruck erwecken, dass das Thema des Videos etwas gesagt oder getan hat dass sie nicht haben.
Es gebe Menschen, die Medien manipulieren, um irrezuführen, warnt Bickert im Blog.
Das Verbot von Deepfake-Videos ist Teil der Versuche von Facebook, einer Welle neuer irreführender Medien und Inhalte zuvorzukommen, die voraussichtlich im Vorfeld der Wahlen in den USA im November geteilt werden.
Und die Reaktion?
Einige Kritiker argumentieren, dass die neue Richtlinie von Facebook nicht weit genug gehe. Das Verbot von Deepfakes gilt beispielsweise nicht für Videos, die als Parodie oder Satire gelten.
Das soziale Netzwerk wurde im vergangenen Sommer dafür kritisiert, dass es sich weigerte, ein virales Video der Sprecherin des US-Repräsentantenhauses, Nancy Pelosi, zu entfernen, das so manipuliert wurde, dass es so klingt, als würde sie ihre Worte betrunken undeutlich machen.
In einer Erklärung an Reuters Facebook sagte diese Woche: Das manipulierte Video von Sprecher Pelosi entspricht nicht den Standards dieser Richtlinie und würde nicht entfernt. Nur Videos, die mit künstlicher Intelligenz erstellt wurden, um Menschen zu zeigen, die fiktive Dinge sagen, werden entfernt.
Auch sogenannte seichte Fakes – also Videos, die mit herkömmlichen Bearbeitungswerkzeugen erstellt und nicht von KI bearbeitet wurden – werden weiterhin erlaubt sein.
Bisher gab es keine nennenswerten Beispiele dafür, dass Deepfake-Inhalte auf Facebook-Plattformen hochgeladen wurden, die gegen die neuen Regeln verstoßen würden. Wie Der Wächter stellt fest, dass die schädlichsten Beispiele für manipulierte Medien in den letzten Jahren eher mit einfachen Videobearbeitungswerkzeugen erstellt wurden.
Aber der Informatiker William Tunstall-Pedoe, dessen KI-Unternehmen Evi die Technologie hinter Amazons Alexa erfunden hat, sagte dem BBC dass Facebook Anerkennung dafür verdient, dass er versucht hat, das schwierige Gebiet anzugehen.
Die Tatsache, dass das Video gefälscht und irreführend sein soll, ist für mich das Wichtigste, sagte er. Ob ausgefeilte KI-Techniken oder weniger ausgefeilte Techniken verwendet werden, ist nicht relevant.
Warum macht sich Facebook Sorgen um die Wahl?
Der multinationale Konzern hat immer noch mit den Folgen zu kämpfen, die ihm vorgeworfen werden, die Verbreitung von Desinformation während der Präsidentschaftswahlen 2016 und der US-Halbzeitwahl 2018 zugelassen zu haben.
Und der Ruf von Facebook hat durch seine Beteiligung am Datensammelskandal um Cambridge Analytica und Kontroversen über gezielte politische Werbung einen weiteren Schaden erlitten.
Der daraus resultierende Druck von Gesetzgebern, Journalisten und Aktivisten, gegen die Verbreitung irreführender oder falscher Informationen vorzugehen, könnte ein wesentlicher Faktor für das neue Verbot von Deepfakes sein.
