Rebelión en la granja digital: una inteligencia artificial se negó a escribir como Houellebecq
Rebelión en la granja digital: una inteligencia artificial se negó a escribir como Houellebecq
En la reciente edición de la revista NRF (Nouvelle Revue Française), n° 658, verano de 2024, se publicó un artículo de diez páginas titulado “Libros e inteligencia artificial: ¿un pacto fáustico?”. El mismo lo firma el editor Antoine Gallimard, quien junto con su hermana son los mayores accionistas del grupo Madrigall, tercer conglomerado editorial francés, dueño de sellos editoriales como el homónimo Gallimard, más Flammarion, Minuit, Quai Voltaire, Futuropolis y otros veinticuatro.
Cuentan con cadenas de librerías y distribuidoras, tanto en Francia como en Bélgica y Suiza. En este último país, desde el año pasado, la Justicia investiga prácticas monopólicas de Madrigall que perjudicarían a las editoriales helvéticas. También son dueños de la mencionada y otrora prestigiosa NRF, hoy devenida en órgano de difusión trimestral.
De hecho, en dicho artículo, Gallimard expone que la llegada de la inteligencia artificial (IA) es “el fin de una era (y necesariamente el comienzo de otra)”. Pero que esto, a su vez, encarna una amenaza para el medio editorial: “Debemos velar colectivamente por que no seamos expropiados, ni por las autoridades públicas (...) ni por ninguna ultrapotencia financiera que, en nombre de un proyecto social superior, venga a desafiar nuestro monopolio rompiendo este vínculo natural que une al creador y a su creación”.
Enumera, también, otros peligros que desata la IA porque “invisibiliza sus fuentes de formación”, “digiere sin posibilidad real de volver a lo que precedió a la ingestión de datos” y “extingue cualquier noción de responsabilidad y originalidad en lo que hace y luego reproduce”. También protesta contra el uso de textos protegidos por derechos de autor en el aprendizaje de los algoritmos como Llama (Facebook, Instagram, WhatsApp), ChatGPT (grupo OpenAI) o Alphabet: “No sería ninguna sorpresa que ya estemos viendo el uso ilícito de colecciones de miles de libros pirateados”.
Entonces, sugiere una serie de actitudes como “asegurarnos de preservar lo que nos distingue absoluta e incondicionalmente de la producción automatizada de textos e imágenes. Hay áreas donde la frontera no parece más gruesa que una hoja de papel biblia; pero es también este espacio el que habitamos”.
Para dar ejemplo de tan imperceptible frontera entre la creación humana y la artificial, Gallimard cita un “experimento” que realizó con Llama, la IA de Meta. En concreto, le propuso al algortimo que escribiera un texto en francés al estilo del escritor Michel Houellebecq, tal vez el más polémico y trascendente de la cultura francesa a nivel global, autor que publica en el conglomerado Madrigall. Es decir, apostó la mejor ficha de su colección.
їY quГ© hizo la IA ante semejante pedido? Se negГі argumentando: “Como modelo de lenguaje, no puedo escribir una escena que pueda considerarse ofensiva o discriminatoria”. Agregando: “Los escritos de Michel Houellebecq son a menudo controvertidos y pueden percibirse como discriminatorios contra determinadas personas o grupos”. Y para que no queden dudas, Llama aclara que su objetivo es “no contribuir a la perpetuaciГіn de estereotipos negativos o discursos de odio”.
Pero no solo eso, Llama propuso, a manera de compensación y desde su criterio artificial, escribir un texto superador del modelo Houellebecq. Ya en inglés, sugiere que puede escribir “una escena respetuosa e inclusiva”, como ejemplo, a la vez que describir a “un grupo de amigos” en un parque, durante “una tarde soleada”, que cantan para “celebran la belleza de la diversidad y la importancia de la aceptación y el amor”. Es decir, le ofreció una salida idealista bastante hippie.
Gallimard, ofendido por tal respuesta, señala que ese gesto de censura proviene de “un modelo de sociedad que no presta mucha atención a la complejidad de la experiencia humana y que se arroga el derecho, desde la costa oeste de los Estados Unidos, de decir qué es bueno o qué no es bueno pensar”. Más allá de si el juicio crítico de la IA está influenciado por la cultura woke, la posibilidad de que en un futuro la difusión de libros se automatice bajo estos criterios abre un cono de sombra sobre la circulación de libros.
Ante la profusión de libros generados por IA, Gallimard propone que el precio único del libro y el IVA reducido (beneficios en territorio francés) correspondan solamente a los libros creados originalmente por humanos, obligando a los grandes vendedores online a marcar con claridad aquellos generados por IA. También celebra el reglamento europeo sobre IA vigente desde el 21 de mayo pasado, el mismo establece principios de transparencia y hace posible la oposición de los titulares de derechos de autor al uso por parte de las distintas IA.
Este tema fue materia de debate en el Festival del Libro de París, que terminó el 14 de abril pasado. Allí, el investigador y escritor André Ourednik planteó lo siguiente: “La IA es el resultado del trabajo humano saqueado y acumulado en enormes servidores. Y corre el riesgo de empobrecer a todos aquellos que trabajan en el campo creativo. ¿Cuándo pagarán Google, OpenAI y otros por lo que se llevaron? Como es difícil saber individualmente a quién se lo quitaron, deben devolver al menos el 50% de lo que ganaron y el dinero debe reinyectarse en la cultura”.
Como la amenaza real es que la IA alcance la creatividad humana hasta reemplazarla, en septiembre de 2023, Authors Guild (asociación de escritores estadounidenses) presentó una demanda colectiva contra OpenAI en Nueva York, la misma es por “infracción flagrante y perjudicial de los derechos de autor”. Authors Guild representa a autores como George RR Martin o John Grisham.