Nur ich habe das Recht, ich selbst zu sein: Nach diesem Motto bietet YouTube Prominenten und Künstlerinnen aus Hollywood ein kostenloses Tool zur Erkennung von Deepfakes an. Die Google-Plattform treibt damit den Kampf gegen Identitätsdiebstähle, die durch Künstliche Intelligenz (KI) erzeugt wurden, weiter voran.
Im vergangenen Monat hat YouTube sein Tool zum Schutz von Bildmaterial eingeführt, das dabei hilft, Inhalte zu identifizieren, in denen ein Gesicht mithilfe von KI-Technologien verändert oder generiert wurde.
Das Projekt richtete sich zunächst an Regierungsvertreterinnen, Journalisten und andere politische Akteure. Nun erweitert die Plattform den Zugang auf Schauspielerinnen und Musiker über Talentagenturen, Managementfirmen und die von ihnen vertretenen Stars.
«Wendepunkt für Identitätsschutz»
Das Tool ermöglicht es, «nach KI-generierten Inhalten zu suchen, die das Aussehen einer Person nachahmen, wie beispielsweise ein Deepfake ihres Gesichts, und gibt ihr die Möglichkeit, diese aufzuspüren und deren Löschung zu beantragen». Prominente können darauf zugreifen, auch wenn sie keinen eigenen Kanal auf der Plattform haben.
«Die Tatsache, dass YouTube seine Funktionen zur Erkennung von Deepfakes für Persönlichkeiten des öffentlichen Lebens öffnet, markiert einen Wendepunkt in der Art und Weise, wie Plattformen den Identitätsschutz im Zeitalter der generativen KI angehen», meint Alon Yamin, Geschäftsführer und Mitbegründer von Copyleaks. Das ist eine Plattform zur Erkennung von KI-generierten Inhalten.
«Die Technologie, mit der Gesicht, Stimme und Mimik einer Person reproduziert werden können, hat sich schneller entwickelt als die Schutzmassnahmen, die sie umgeben. Dadurch ist eine Lücke entstanden, die böswillige Akteure bereits ausnutzen», so Yamin.
Zentrale Herausforderungen
Die Initiative kommt zu einer Zeit, in der zusehends auch hyperrealistische Videos von verstorbenen Prominenten auftauchen, die mit Anwendungen für die breite Öffentlichkeit wie Sora, dem Tool von OpenAI, erstellt wurden. Die App löste eine Flut von Videos von Michael Jackson oder Elvis Presley aus. Im vergangenen Monat hat OpenAI seine App Sora geschlossen.
Bereits im Februar dieses Jahres hatte der irische Regisseur Ruairí Robinson anhand einer zweizeiligen Eingabe einen erschreckend realistischen Clip erstellt, in dem Brad Pitt auf einem Dach mit Tom Cruise kämpft. Das Video fand weite Verbreitung und löste in Hollywood grosse Besorgnis aus.
Es wurde mit Seedance 2.0 erstellt, einem Tool des chinesischen Konzerns ByteDance. Weitere Videos des Iren zeigen Brad Pitt im Kampf gegen einen mit einem Schwert bewaffneten Zombie-Ninja oder im Kampf gegen einen Roboter, flankiert vom unvermeidlichen Tom Cruise.
Charles Rivkin, Chef der Motion Picture Association, dem Verband der grossen amerikanischen Produktionsfirmen, forderte ByteDance auf, «seine Fälschungsaktivitäten unverzüglich einzustellen». Er warf dem Unternehmen vor, das Urheberrecht zu verletzen.
YouTube erklärt seinerseits, mit den wichtigsten Talentagenturen zusammenzuarbeiten, um die Erkennung problematischer Bilder zu verbessern und die Künstler besser zu schützen. Die Plattform tue «das Richtige, indem sie den Talenten diese Tools kostenlos zur Verfügung stellt, damit sie ihr Erbe schützen können», freut sich Jason Newman von der Management- und Produktionsfirma Untitled Entertainment. «Ihr Erbe ist ihr Gesicht, ihr Körper, wer sie sind, was sie tun, ihre Art, sich auszudrücken», fügt er in einem Interview mit dem Magazin Hollywood Reporter hinzu.
Reaktion auf Beschwerden
Die Entwicklung des Tools ist eine Reaktion auf Beschwerden führender US-amerikanischer Persönlichkeiten, die die umständlichen Verfahren auf YouTube zur Meldung und Entfernung von Deepfakes kritisiert haben.
«Es steht besonders viel auf dem Spiel, da Deepfakes dazu genutzt werden können, Falschinformationen zu verbreiten, Märkte zu manipulieren, Reputationen zu schädigen oder den Anschein einer irreführenden Unterstützung zu erwecken. Eine zuverlässige Erkennung ist nicht mehr optional, erklärt Alon Yamin von Copyleaks.
«Erkennungssysteme müssen äusserst präzise sein, ständig aktualisiert werden und mit klaren Regeln sowie schnellen Löschverfahren einhergehen, um wirksam zu sein.» Das werde Deepfakes zwar nicht vollständig beseitigen, «kann aber ihre Reichweite und ihre Auswirkungen erheblich verringern, indem sie erschweren, dass manipulierte Inhalte verbreitet und nicht einmal entdeckt oder angefochten werden». (sda/afp/spo)
Von Anuj Chopra, AFP
