Sur Instagram, des influenceurs IA utilisent des deepfakes pour gagner des abonnés

Certaines influenceuses générées par l’IA utilisent des vidéos de créatrices de contenu sans leur consentement. Les comptes ont été suspendus par Instagram.

Sur Instagram, Adrianna Avellino, influenceuse générée par une intelligence artificielle (IA), explose les compteurs. Elle cumule plus de 94.000 abonnés sur son compte. Sur son profil, un lien vers une page Fanvue, concurrent d’Onlyfans, où la jeune femme poste des photos d’elle dénudée, moyennant un abonnement de 5 dollars par mois.

Le problème, c’est que certains de ses contenus Fanvue et Instagram sont en réalité des deepfaakes, des fausses images ou vidéos truquées. Selon le média américain 404media, des dizaines de vidéos d’utilisatrices Instagram ont été volées sans leur consentement et détournées pour remplacer leur visage, par celui d’Adriana. Avec, à la clé, des millions de likes et d’abonnés.

À gauche, la véritable influenceuse. À droite, le deepfake.

Dernier exemple en date, une vidéo postée le 24 mars par Adriana. On y voit l’influenceuse numérique en sous-vêtements. La publication cumule près de 5.000 likes. La vidéo originale est en réalité celle du mannequin australien Ella Cervetto (1,4 million de followers sur Instagram).

Et Adrianna Avellino est loin d’être une exception. De plus en plus d’influenceuses générées par une IA volent des contenus à d’autres créatrices de contenu et stars de l’industrie du X, qui sont, elles, bel et bien réelles. Parmi elles, Sophie Skye (258.000 abonés), Aurora Kate Harris (100.000 abonnés) ou encore Ira Sharma (260.000 abonnés).

Les comptes supprimés par Meta

Le but de ces deepfakes? Rendre l’influenceur IA plus “crédible” pour tromper les internautes et, in fine, gagner un maximum d’abonnés sur des sites comme OnlyFans ou Patreone ou les internautes payent un abonnement mensuel pour accéder à du contenu exclusif concernant leur influenceur préféré. Certains comptes auraient ainsi accumulé “des centaines de milliers de followers et des millions de vues” en utilisant “presque exclusivement” du contenu volé. Selon le média américain Manofmany, les influenceurs IA gagnent en moyenne 3.200 à 11.000 dollars sur Onlyfans.

Car ces deepfakes sont particulièrement bien réalisés et donc, difficiles à détecter. Résultat, les utilisateurs tombent dans le panneau. “Absolument magnifique”, écrit un internaute. “J’aime tout de toi”, ajoute un autre.

Depuis, les comptes des trois influenceuses ont été signalés à la plateforme et supprimés par Meta. Mais des comptes de secours n’ont pas tardé à apparaître sur le réseau social.

Le groupe, propriétaire de Facebook, Instagram et Whatsapp, a récemment annoncé vouloir identifier sur ses réseaux sociaux les sons, images et vidéos générées par l’intelligence artificielle à partir du mois de mai.