Mittels Künstlicher Intelligenz können etwa Fotos so bearbeitet werden, dass die Inhalte täuschend echt verfälscht werden. Sogenannte Deepfakes. Aktuell kursiert ein Bot, der Frauen auf Bildern entkleidet.

Schon 2019 war die besorgniserregende App aufgefallen und durch den Druck zahlreicher Medienberichte schnell wieder vom Markt verschwunden: Eine Anwendung, die mittels Künstlicher Intelligenz Fotos nutzt und den darauf abgebildeten Personen die Kleider auszieht und so täuschend echte Nacktbilder generiert. Die Betreiber hatten via Twitter angekündigt, dafür zu sorgen, dass niemand Zugang zu ihrer Technologie bekäme. Nun ist jedoch erneut eine solche Funktion aufgetaucht. Und wie schon im vergangenen Jahr wurde diese dazu genutzt, zahlreiche Frauen – vermutlich ohne deren Wissen – auf Fotos zu entblößen.  

Statt als App funktioniert die KI diesmal als Bot, der sich über den Nachrichtendienst Telegram verbreitet. Wer ihm ein Foto schickt, erhält kurz darauf ein Nacktfoto zurück – kostenlos aber mit Wasserzeichen. Für ein paar Euro wird dieses jedoch entfernt. Medienberichten zufolge soll der Bot im Juni 2020 bereits mindestens 100.000 jungen Frauen entkleidet haben. Der Bot soll auf verschiedenen Telegram-Kanälen unterwegs sein, die mehrere zehntausend Mitglieder haben, von denen viele russisch sprechen. 

Deepfakes auch bei Videos möglich 

Forscher haben den Entkleidungs-Algorithmus untersucht und festgestellt, dass dieser allmählich auch bei Videos angewandt wird, etwa auf Filmmaterial von Bikini-Models auf dem Laufsteg. Zwar muss die KI derzeit noch jedes Bild einzeln bearbeiten, doch gehen die Forscher davon aus, dass die Anwendung schnell perfektioniert werde. Die Cybersicherheitsfirma Sensity AI, die den Bot auf Telegram ausfindig gemacht hat, hat sich damit an den Nachrichtendienst selbst und etwa das FBI gewandt. Jedoch ohne wirklichen Erfolg. Aber immerhin: Unternehmen wie Facebook und Google haben begonnen, ernsthafter in die automatische Erkennung von Deepfakes, also realistisch wirkende aber durch KI verfälschte Inhalte, zu investieren.  

Bitte beachten Sie

Die Beiträge in der Rubrik "Trends und Innovationen" sind Inhalte unseres Medienpartners Vogel Communications Group GmbH & Co. KG. Sie spiegeln nicht unbedingt die Meinung von DATEV wider.

Vogel Communications Group