La regulación de la inteligencia artificial no debe ser un freno a su desarrollo

La irrupción de la inteligencia artificial está suponiendo un cambio sin precedentes en el mundo empresarial. El escenario que había hace 12 meses dista mucho del que hay en la actualidad, hasta tal punto, que los avances que hace un año estaban todavía muy verdes están ahora en su mayor punto de madurez. Esto está obligando a las compañías a llevar a cabo una actualización constante. Tanto, que gran parte de los players del sector están trabajando en casos de uso en procesos de negocio basados en Inteligencia Artificial. Para esto es fundamental que se trabaje también en el nivel de la sensibilidad y la concienciación respecto al riesgo en el uso de la IA en las diferentes áreas de negocio.

La regulación de la inteligencia artificial no debe ser un freno a su desarrollo

Sobre estas cuestiones se debatió en el foro Confianza y seguridad en la IA organizado por elEconomista.es y PwC. El coloquio contó con la participación de Esther Mateo, directora general de Seguridad, procesos y Sistemas operativos de Adif; Antonio Requena, socio líder de Telco, Media y Tecnología de Consulting en PwC; Irene Yusta, head of data and IA de MásOrange y Jaime Castro, CISO de EVO Banco.

La nueva revolución industrial que está viviendo el tejido empresarial, ya no solo en el español, sino a nivel mundial, está obligando a las administraciones públicas a mover ficha y empezar a regular el impacto de la IA.

Una regulación que, pese a que todavía no está aprobada, está teniendo muy buena acogida entre las empresas. “Todavía no está aprobada, pero el hecho de que esté encima de la mesa es positivo. Tanto por el enfoque como por la necesidad de controlar los riesgos que supone”, explicó la directora general de sistemas, seguridad y procesos de Adif.

Para que la Unión Europea pueda sacar adelante la regulación es necesario que cuente con la colaboración de las empresas. “La Unión Europea siempre ha sido pionera en este tipo de regulación, pero es necesario que desde las empresas colaboremos. Se nos está dando la oportunidad de participar en cómo se implementa esta regulación y nuestra obligación es dar feedback de cómo puede ayudar para que no frene los avances”, apuntó por su parte la head of data and IA de MásOrange.

Antonio Requena, socio líder de Telco, Media y Tecnología de Consulting en PwC: “Una decisión basada en IA siempre estará supervisada por un razonamiento humano”

Desde la consultora PwC trabajan con la inteligencia artificial desde dos vertientes. Por un lado, de manera interna para mejorar su trabajo en el día a día y, por otro lado, desarrollando casos de uso con sus clientes. Para mejorar sus procesos internos acaban de implementar un chat basado en inteligencia artificial que ayuda en la toma de decisiones en sus actividades.

Para ello, es necesario que los empleados de la compañía tengan una serie de conocimientos previos. “Para poder hacer uso de la tecnología es necesario el cumplimento de una formación obligatoria y la aceptación de unas estrictas Business Rules. El éxito de la utilización de la tecnología radica más en cómo hacemos las preguntas, en cómo realizamos la formulación del prompt, apuntó el socio líder de los sectores Telco, Media y Tecnología de Consulting en PwC. Desde el área de actividad de consultoría, Requena explicó que tienen muy presentes los riesgos que puede suponer el uso de inteligencia artificial a la hora de realizar determinados tipos de trabajos. “Por ejemplo, el uso de IA Generativa, está prohibido en todos los trabajos relacionados con la auditoría de cuentas. En los trabajos donde permitimos su uso, si usamos algún dato de cliente, nos aseguramos de que dicho uso se ajusta a sus expectativas. Limitamos muy bien y somos conocedores de los posibles riesgos. Sobre todo, lo que siempre obligamos es a que de una decisión basada en inteligencia artificial no esté supervisada por un razonamiento humano”, detalló el socio de PwC.

Uso muy controlado

Las ventajas que aporta la IA son innegables, pero Requena destaca la importancia de no perder de vista la regulación y el control. “Entendemos que ofrece una ventaja competitiva, eso es una realidad. Se trata de una herramienta que nos va a ayudar a mejorar en nuestro trabajo, pero hay que hacerlo con mucho control”, añadió.

Este control sirve, además de la protección del impacto en derechos y libertades, de posible freno a ese pensamiento extendido entre la sociedad ante el miedo a que esta tecnología acabe sustituyendo a la mano de obra en el futuro. “En todo caso, el uso de IA que tenga impacto de alto riesgo debe tener supervisión humana”, según indica el acta europea.

“Luego está también la racionalidad y el sentido común del caso de uso que utilices y el impacto que tiene en tu proceso de negocio. Pero sí es cierto que dejar una decisión importante en manos de una tecnología no supervisada es un riesgo que debes tener controlado”, explicó. Sobre la regulación que está ahora mismo encima de la mesa de la Unión Europea, Requena no cree que vaya a ser un freno en el potencial de esta tecnología.

“Hasta ahora la tecnología no impactaba tan directamente. En el momento en el que ese impacto puede tener relevancia en la vida de las personas sí es necesario tener la regulación más en cuenta. ¿Freno? Sí pero hay que ver lo positivo que es esa minimización del riesgo. Sin duda va a ser un reto adaptarse a los procesos basados en IA en producción con los requisitos de la UE”, apuntó.

Esther Mateo, directora general de Seguridad, procesos y Sistemas operativos de Adif: “El sector público tiene muchos retos y este de la transformación digital no puede quedarse atrás”

Aunque en términos generales el sector privado suele disponer de más recursos económicos y humanos para realizar la inversión necesaria en tecnologías disruptivas como está ocurriendo ahora con la Inteligencia Artificial, la Administración Pública tiene mucho que aportar y está apostando por ella, aunque está siendo un proceso a dos velocidades. “El sector público tiene muchos retos por delante, uno de los más importantes es el de la transformación digital que tiene que ver con modificar los procesos actuales, simplificándolos, automatizándolos y digitalizarlos”, apuntó la directora general de seguridad, procesos y sistemas corporativos de Adif.

La dificultad que tiene la Administración Pública es que está más regulada, si cabe que el sector privado, y por tanto los cambios que la sociedad reclama que se implementen y estén disponibles de forma acelerada requieren un tiempo de reflexión por el impacto que tiene en la actividad y en el servicio que se presta.

“Las áreas de negocio se sienten rápidamente atraídas por el beneficio que se está vendiendo que aporta la implantación de la Inteligencia Artificial, pero ahora más que nunca, por el impacto que tiene dicha tecnología, es necesario mesura, pensar bien los casos de uso que más aporten al servicio que presta Adif y en los que el gobierno del dato esté asegurado. Además, este despliegue debe ir acompañado de una formación y sensibilización de toda la organización para aprender a utilizarlo”, destacó la directora general de sistemas, seguridad y procesos de Adif.

Mateo es fiel defensora de que el uso de la inteligencia artificial no va a reemplazar a las personas, ni en el sector público ni en el privado. “Pensar que la IA va a quitar trabajo a las personas es un error. Lo que hay que hacer es identificar aquellos procesos donde la persona aporte menos valor añadido para desplegar la tecnología adecuada”, explicó. Para la experta, el mejor uso de la IA será el que aporta como copiloto en la toma de decisiones, pero siempre supervisado por un humano. Así, además, ayudará a identificar posibles errores y patrones que puedan ser corregidos antes de actuar. “La IA bien gobernada y con la monitorización del modelo adecuado va a generar muchas oportunidades en las empresas. Me gusta compararlo con lo que aporta ponerse unas gafas bien graduadas cuando eres miope, que al ponértelas ves información disponible que antes no podías analizar y que permite capacidad de análisis y cálculo para tomar mejores decisiones que antes no aprovechabas”, apuntó.

Regular no frena la IA

Al contrario de lo que se acostumbraba a pensar, la regulación que está estudiando la UE no va a suponer un freno al desarrollo de la IA, sino una oportunidad de gestionar los riesgos asociados a su implantación. Es una tecnología en continuo cambio y que puede ser alterada, por tanto, requiere vigilancia, así lo cree al menos la directora general de Seguridad, procesos y Sistemas operativos de Adif. “Regular siempre parece un freno, y en una revolución como esta en la que estamos de la IA, es una garantía”.

Irene Yusta, head of data and IA de MásOrange: “El ‘boom’ que hubo el año pasado de ChatGPT nos pilló muy bien posicionados”

La irrupción de ChatGPT hace algo más de un año es uno de los efectos de la inteligencia artificial más visibles día a día tanto a nivel individual como a nivel empresarial. Esta aplicación permite a las empresas desde investigar y recopilar información hasta generar ideas atractivas. Bien lo saben desde MásOrange, empresa resultado de la fusión de MásMóvil y Orange. “Si es verdad que el boom que hubo el año pasado con ChatGPT nos pilló muy bien posicionados en cuanto a madurez del dato. En todos los telediarios y toda la prensa se hablaba de ChatGPT y nosotros internamente en MásMóvil aprovechamos para hacer un levantamiento de casos de uso. La IA no nació el año pasado, pero nosotros nos hemos querido subir a esa ola y aprovechar que todo el mundo habla de ella para darle un lugar dentro de la organización”, explicó la head of data and IA de MásOrange.

La directiva explica que a raíz de la llegada de ChatGPT en la compañía, por entonces MásMóvil, hicieron un ejercicio a través del cual se propusieron entre 50 y 60 casos de uso entre las diferentes áreas de negocio del grupo y “eso nos permitió que a día de hoy tengamos en producción casos de uso con IA Generativa muy concretos de cara al cliente y mejora de nuestros procesos”, detalló.

Uno de esos casos de uso que ya está funcionando en la actualidad es un chatbot que explica la factura a los clientes. “Este caso de uso en concreto de explicabilidad de las facturas nos ha permitido enriquecer nuestra documentación. De la operativa de nuestros call center, así como mejorar el servicio que ofrecemos a nuestros clientes dando más opciones para entender sus facturas”, añadió Yusta.

La utilidad de la IA no solo mejora los procesos a nivel externo, de cara a los clientes, MásOrange también está potenciando su uso a nivel interno. “Nos ha permitido mejorar en la amplitud de la muestra que auditábamos, ahora lo podemos hacer de manera masiva. Y luego nosotros hemos puesto mucho foco en las llamadas. Gracias a que almacenamos las transiciones podemos sacar mucha más información en favor del cliente. Antes les ofrecíamos un solo producto y ahora tenemos mucha más información y le estamos sabiendo sacar partido”, detalló la directiva.

Es importante a la hora de aplicar la inteligencia artificial en el día a día que esta esté supervisada, dado que el camino por recorrer es todavía muy amplio. “Siempre está supervisada, pero aun supervisada nos está ayudando mucho a acelerar los procesos. El tiempo nos dirá si en algunos casos de uso puede no estar supervisada”, detalló Yusta.

La head of data and IA de MásOrange resta importancia a los errores que cometen todavía estos procesos. “Los humanos también se equivocan. Una de las cosas más importantes que hemos extraído del chatbot de facturas es que nos ha ayudado a detectar cosas que el humano hubiera tardado mucho más”, analizó. Para supervisar la IA, juega un papel fundamental la formación de los empleados. “Hay que empoderar más a las personas en el uso de nuevas tecnologías”, concluyó.

Jaime Castro, CISO de EVO Banco: “Estamos aprendiendo a usar la IA y necesitamos evolucionar en su uso y más supervisión”

Con la irrupción de la inteligencia artificial en las empresas ha ganado especial relevancia el papel del director de Seguridad de la Información (CISO, por sus siglas en inglés). Y es que entre sus funciones esta analizar y gestionar los riesgos de las TIC en la organización, definir la normativa de seguridad o formar y concienciar a la organización en materia de seguridad de la información. Es por ello que sobre él recaen las responsabilidades si se produce algún error relacionado con la inteligencia artificial que genere algún problema de seguridad para la compañía.

Bien lo sabe Castro, que ostenta el cargo de CISO de EVO Banco. “El rol del CISO es relevante porque eres el último responsable en materia de seguridad de todos los elementos de la plataforma, y este es uno más, así que debemos tenerlo en cuenta a la hora de proteger a la empresa y el negocio. En materia de IA el papel del CISO dependerá? del caso de uso y sobre todo de su evolución ya que según los datos y exposición, tienes unos riesgos u otros”, explicó.

Tenemos que tener en cuenta que la Inteligencia Artificial es todavía un elemento que, aunque conceptualmente lleva muchos años, evoluciona día a día y por ello tenemos que estar en constante análisis y evolución nosotros también. De hecho, avanza más rápido que las propias compañías que van siempre un paso por detrás a la hora de implementar sus avances. “Estamos todavía aprendiendo a usarla y necesitamos más supervisión durante este proceso de evolución. Según vaya evolucionando, saldrán nuevas formas de supervisión que permitirán evitar riesgos de forma eficiente.

Mientras evoluciona esta tecnología, el papel del CISO es fundamental en la supervisión de estos procesos. “Se irán mejorando las capacidades de tal forma que la supervisión será más fácil y más certera y eso también te ahorra trabajo. El objetivo de fondo que impulsa el uso de cualquier tecnología en el mundo empresarial es optimizar procesos y la IA será igual. El uso de la IA en las empresas irá evolucionando en esa línea y ahí yo creo que el rol del CISO es intentar buscar esa eficiencia, asegurando que su uso no genera riesgos a la empresa por encima de su apetito”, matizó Castro.

Por el momento EVO Banco está trabajando con la inteligencia artificial de manera interna. “En nuestro caso llevamos tiempo trabajando con ello. Lo que hemos hecho ha sido desplegar una instancia privada que nos da un entorno controlado y seguro. Algunos casos de uso ya los tenemos identificados y estamos analizando en detalle tanto la parte funcional a la vez que la parte de riesgos, políticas, impacto legal… y en ello estamos”, explicó.

El CISO de EVO Banco augura que será en el corto plazo cuando amplíen la IA al uso externo, enfocada a sus clientes: “EVO fue hace pocos años el primer banco del mundo en lanzar una IA por voz en lengua castellana para ayudar a clientes con sus consultas y operaciones. Ahora estamos viendo las nuevas posibilidades de la IA. De momento estamos priorizando el uso interno y en el futuro veremos de qué manera podemos generar valor para el cliente”.