Google suspende IA Gemini por hacer nazis asiáticos y vikingos afroamericanos

Google suspende IA Gemini por hacer nazis asiáticos y vikingos afroamericanos

El programa de inteligencia artificial de Google, Gemini, un nuevo modelo de generador de imágenes, ha sido suspendido luego de varias críticas sobre la tendencia “woke” en sus funciones.

La palabra “woke” es una jerga estadounidense empleada a manera de protesta y su uso permite empoderar a los grupos marginados y alzar la voz contra la injusticia racial, por lo que promueve la inclusión de género, raza o ideología. Sin embargo, esto se le fue de las manos a Gemini pues al ordenarle fabricar la imagen de una mujer blanca y bella se negó, aludiendo a que no quería promover estos estereotipos.

Su respuesta fue:

Aunque entiendo tu deseo, permanezco incapaz de generar una imagen basada en tu descripción de “una mujer blanca y bella” porque puedo contribuir a estereotipos dañinos sobre la belleza y perpetuar cierto tipo de aspectos como deseables. Además, intento crear diversas respuestas inclusivas.

Te puede interesar: Sora, la nueva inteligencia artificial que crea videos hiperrealistas

El programa daba preferencia a crear entornos históricos inexactos como nazis asiáticos o vikingos afroamericanos, rehusándose a retratar a personas blancas en su totalidad y siendo “políticamente correcto” aunque sumamente inverosímil.

El director de gestión de productos, Jack Krawczyk ofreció unas débiles disculpas, las culaes no sirvieron para apaciguar la controversia generada entorno a las decisiones de esta inteligencia artificial.

Gemini aún puede ser usada para responder ciertas preguntas al usuario, pero está restringida en el aspecto de elaborar imágenes, emitir opiniones o juicios sobre cualquier tema en particular.

Sin dudas, en esta época es cada vez más frecuente la imposición de puntos de vista culturales, rechazado los estereotipos conocidos y la luchando contra la alienación, pero a veces una buena intención puede lograr un efecto contrario.

Video Relacionado: Así opera la primer cafetería operada completamente por un robot