Deepfakes von Bollywood-Stars schüren KI-Sorgen bei Indien-Wahl

Mumbai, 22. Apr (Reuters) – In Indien wecken gefälschte Videos von Bollywood-Stars Befürchtungen über die Auswirkungen Künstlicher Intelligenz (KI) bei der Unterhauswahl. Im Internet gingen zwei Videos viral, in denen Ministerpräsident Narendra Modi kritisiert und zur Wahl der oppositionellen Kongresspartei aufgerufen wurde. In dem einen Clip war Schauspieler Aamir Khan und in dem anderen Ranveer Singh zu sehen, die erklärten, Modi habe es während seiner beiden Amtszeiten nicht geschafft, seine Wahlversprechen einzuhalten und entscheidende wirtschaftliche Probleme anzugehen. Beide Schauspieler teilten mit, die Videos seien gefälscht. Facebook, X und mindestens acht Faktencheck-Websites erklärten, die Clips seien verändert oder manipuliert. Auch die digitale Verifizierungseinheit von Reuters kommt zu diesem Schluss.

Reuters-Analysen zufolge wurden beide Videos seit letzter Woche mehr als eine halbe Million mal angesehen. Ihre Verbreitung unterstreicht die potenzielle Rolle, die von Künstlicher Intelligenz (KI) generierte Inhalte bei der Wahl in Indien spielen könnten. Die mit knapp einer Milliarde Wahlberechtigten größte Wahl der Welt hatte am Freitag begonnen. Sie dauert bis zum 1. Juni. Aufgrund der Größe des Landes und zur Wahrung der Sicherheit findet die Wahl über mehrere Wochen in mehreren Etappen statt. Das Ergebnis soll am 4. Juni bekanntgegeben werden.

Der Wahlkampf in Indien konzentrierte sich lange auf Haustürwerbung und öffentliche Kundgebungen. 2019 wurde damit begonnen, WhatsApp und Facebook in großem Umfang als Wahlkampfinstrumente zu nutzen. Die diesjährige Unterhauswahl ist die erste, bei der KI zum Einsatz kommt. KI und von KI generierte Fälschungen oder Deepfakes werden auch bei Wahlen in anderen Teilen der Welt immer häufiger eingesetzt, unter anderem in den USA, Pakistan und Indonesien.

Eine Sprecherin der Kongress-Partei teilte das Video des Schauspielers Singh am 17. April mit ihren 16.000 Followern auf X. Sie sagte Reuters am Telefon, sie sei sich bewusst gewesen, dass das Video von X als “manipuliertes Medium” gekennzeichnet worden sei. Sie habe es jedoch nicht löschen wollen, da sie gedacht habe, die Person sei ein Doppelgänger von Singh. Es sei auf jeden Fall Kreativität im Spiel. Modis Büro und der IT-Leiter seiner Partei BJP antworteten zunächst nicht auf Anfragen für eine Stellungnahme. Modi gilt als Wahlfavorit. Er könnte sich eine dritte Amtszeit sichern, was vor ihm nur ein Politiker seit der Unabhängigkeit Indiens geschafft hat.

In Indien haben fast 900 Millionen Menschen Zugang zum Internet. Eine Umfrage des Forschungsinstituts Esya Centre und der Business School des Indian Institute of Management ergab, dass ein Inder durchschnittlich über drei Stunden pro Tag soziale Medien verfolgt.

Einige Versionen der Videos wurden in den sozialen Medien blockiert, aber mindestens 14 waren am Samstag noch auf X sichtbar. Facebook löschte zwei Videos, die Reuters dem Unternehmen gemeldet hatte, aber ein weiteres war noch sichtbar. Facebook erklärte in einer Stellungnahme, dass es die Videos wegen Verstoßes gegen seine Richtlinien entfernt habe. X antwortete nicht auf Anfragen von Reuters.

Die Polizei ermittelt im Fall der Videos. Schauspieler Khan erstattete am 17. April in Mumbai Anzeige gegen Unbekannt wegen mutmaßlichem Identitätsdiebstahls und Betrugs im Zusammenhang mit der Erstellung des gefälschten Videos. Die Urheberschaft der Videos ist nicht bekannt. Khan erklärte, er sei alarmiert. Singh schrieb am Freitag auf X: “Hütet euch vor Deepfakes, Freunde.” (Bericht von Aditya Kalra, Munsif Vengattil, Dhwani Pandya; geschrieben von Kerstin Dörr, redigiert von Christian Rüttger. Bei Rückfragen wenden Sie sich bitte an unsere Redaktion unter [email protected] (für Politik und Konjunktur) oder [email protected] (für Unternehmen und Märkte)