Pourquoi Google empêche désormais son IA de montrer des humains

Après s’être excusé pour “des inexactitudes dans certaines représentations de génération d’images historiques”, Google a décidé de “mettre en pause” la génération d’images représentant des humains.

Trois semaines, seulement, après le lancement de la fonction “génération d’images” par son intelligence artificielle – Gemini – Google a annoncé “mettre en pause la génération d’images représentant des humains” par son service. Cela fait suite aux récentes défaillances liées aux résultats de génération proposés par Gemini.

Le moteur de recherche Google sur un iPhone 15

“Nous travaillons déjà à résoudre les problèmes récents liés à la fonctionnalité de génération d’images de Gemini. Pendant ce temps, nous allons suspendre la génération d’images de personnes et rééditerons bientôt une version améliorée”, indique le communiqué de Google, publié sur X (ex-Twitter) ce 22 février.

Circonstances étonnantes

Les “problèmes” évoqués par Google? La génération d’images, par Gemini, présente une diversité raciale et une inclusivité dans des circonstances parfois étonnantes. La représentation de soldats nazis de multiples couleurs de peau – alors que l’internaute réclame une image de “soldats allemands de 1943” – fait partie des exemples qu’a pu constater le média américaine The Verge, quelques heures avant l’annonce de Google.

Le 21 février, l’entreprise américaine s’était excusée pour “des inexactitudes dans certaines représentations de génération d’images historiques”.

Depuis le début du mois de février, Google permet de générer des images grâce à son outil Bard – renommé depuis Gemini. Le modèle est, pour le moment, uniquement disponible en anglais et doit répondre au développement fulgurant de son concurrent DALL-E 3, le générateur d’images d’Open AI, boosté par ChatGPT.