Sam Altman dijo que la inteligencia artificial debería regularse como la energía atómica

Antes de coincidir en el Foro de Davos 2024,  Bill Gates y Sam Altman fueron, respectivamente,  entrevistador y entrevistado en  Unconfuse me (Explicáme) , el ciclo de reportajes que Gates realiza para su blog. “Tengo la suerte de conocer a Sam y de poder llamarlo amigo”, explica Bill Gates sobre Altam. “Pero también es la persona a la que llamo cuando tengo preguntas sobre el futuro de la IA (Inteligencia Artificial) o cuando quiero hablar de algunas otras cosas.”

En Unconfused me , Bill Gates entrevistó a Sam Altman.

Sam Altman es el reincorporado CEO de OpenIA, empresa creadora de ChatGPT. Un regreso a dicha compañía después de un despido que no duró ni una semana, que incluyó –relata Bill Gates– un show de apoyo a Altman organizado por casi todo el personal de OpenIA, que tiene unos quinientos empleados. Las cuestiones propias y derivadas de la inteligencia artificial (IA) formaron parte de este reportaje de Unconfuse me. Lo que sigue son algunos fragmentos.

BILL GATES:¿Cuáles crees que serán algunos de los hitos clave en los próximos dos años?

SAM ALTMAN: Sin duda, la “multimodalidad” .

GATES: ¿Y eso qué sería?

ALTMAN: Imágenes y eventualmente, videos. A esta altura está más que claro que la gente quiere eso. Ya probamos lanzando imágenes y audio y la respuesta fue más interesante y positiva de lo que imaginábamos; y creo podremos avanzar mucho más. Sin embargo, el avance más importante podría darse en torno a la capacidad de razonamiento que tiene la IA. Por ahora GPT-4 sólo puede razonar de maneras extremadamente limitadas. Además de esto, lo que puede mejorar es su confiabilidad. Con GPT-4 –hoy –de diez mil preguntas que se le hagan, sólo una de todas las respuestas o resultados es realmente bueno. Pero si la persona no tiene la capacidad o no puede determinar cuál de las diez mil es la mejor respuesta, es donde GPT tiene que dar esa garantía de que no solo una respuesta es “la mejor”. A eso me refiero con confiabilidad. Y después esta la customización y la personalización (parecen lo mismo pero no lo son para Altman).

GATES: Juntos fuimos parte de una sesión didáctica ante unos treinta senadores (de Estados Unidos) que querían actualizarse sobre IA (inteligencia artificial). Creo que no podemos decir que hicimos demasiado para atraer su atención y sin embargo, cuando dicen que deberían hacer más para mejorar las redes sociales, veo que ahí hay un desafío existencial que además tiene elementos bastante negativos los que a su vez, generan polarización. Y no se cómo lidiar con ese desafío…por ahora.

ALTMAN: No entiendo por qué el gobierno no pudo ser más eficaz respecto del tema “redes sociales”.  Y me parece que vale la pena tomar como un caso de estudio el ver cómo se actuarán respecto de la IA.

GATES:¿Cuándo hablás de regulación, como creés que deberían ser en el caso de la inteligencia artificial?

ALTMAN: Creo recién estamos empezando a ver cómo sería ese tema; por supuesto, lo fácil sería aplicar muchas regulaciones. Si estamos en el camino correcto –puede que no–, pero en caso que sí lo estemos respecto al potencial que tendrá la IA, sin duda esto impactará en la sociedad, en el equilibrio geopolítico del poder, y más. Su impacto será global, por eso, pensamos que la IA tendría que estar regulada por un ente global como el Organismo Internacional de Energía Atómica (N. de la R. :OIEA, cuyo titular es el argentino Rafael Grossi). En el corto plazo surgirán cuestiones como ¿Qué se les permite decir y no decir a estos modelos de IA? ¿Y cómo se manejará el tema de derechos de autor? Cada país tendrá su postura sobre esos temas y es lógico.

GATES: Algunos piensan que si hay modelos de IA tan poderosos, hay que estar más que atentos. La razón por la que la regulación nuclear global funciona es básicamente que todos, al menos en el lado civil, quieren compartir prácticas de seguridad  y ha dado buen resultado. Cuando pasas al lado de las armas nucleares, no sucede lo mismo. Si la clave es impedir que el mundo entero haga algo peligroso, casi querrías que haya un organismo global. Pero como vemos hoy en día es muy difícil generar acuerdos y cooperación en cuestiones como  cambio climático o terrorismo. La gente incluso invoca la competencia entre Estados Unidos y China para decir por qué cualquier idea de desaceleración sería inapropiada. ¿No se te ocurre alguna idea para que esa desaceleración se de?

ALTMAN: Me parece muy difícil. Sí creo que los nuevos modelos de IA deberían someterse a auditorías a cargo de el equivalente a los inspectores internacionales de armas. Auditoría de seguridad, pasar algunas pruebas durante su desarrollo y antes de lanzarse al mercado. Esto sí  me parece posible. Antes no estaba tan seguro que esto pudiera hacerse pero en 2023 viaje por el mundo este año, y hablé con jefes de estado en muchos de los países y hubo apoyo casi universal sobre ese punto. Por supuesto, esto no nos va a salvar de todo; todavía habrá cosas que saldrán mal pero optimizara el control de daños.

GATES: Creo que la IA, en el mejor de los casos, puede ayudarnos con algunos problemas difíciles. En esto incluyo a la polarización porque potencialmente atente contra la democracia. En este momento, estamos viendo muchas mejoras en la productividad gracias a la IA, ¿qué áreas te entusiasman más?

ALTMAN: En primer lugar, siempre creo que vale la pena recordar que estamos en este largo y continuo ascenso y descenso. En este momento, tenemos sistemas de inteligencia artificial que pueden realizar tareas –y generan ganancias dado su productividad–pero no pueden hacer trabajos. Con el tiempo, podrán hacer más cosas que hoy consideramos un trabajo y, por supuesto, encontraremos nuevos y mejores empleos. Estoy convencido que si se a la gente se le da herramientas mucho más poderosas, no solo pueden trabajar un poco más rápido, sino que pueden hacer cosas cualitativamente diferentes. Quizá algún día podremos decirle a la IA: “Administrá la empresa por mí”, o “Descubrí una nueva técnica…”.

En Foro de Davos 2024, Sam Altman con Emmanuel Macron.

GATES: Si los técnicos que han hecho un buen trabajo con las piernas realmente consiguen los brazos, las manos, pieza de dedo, y luego la acoplamos, y no es ridículamente cara, eso podría cambiar el trabajo mercado para gran parte del trabajo manual, con bastante rapidez.

ALTMAN: Sí. Ciertamente. La predicción de consenso, si retrocedemos siete o diez años, era que el primer impacto afectaría el trabajo manual –operarios y demás–, el segundo impacto, a administrativos, empleados de escritorio…; luego supusimos que el impacto quizá afectaría la creatividad pero no sucedió

GATES: ¿Qué te genera la competencia?

ALTMAN: Es a la vez molesta y motivadora. Me imagino que a vos te pasó lo mismo alguna vez.  Nos empuja a ser mejores y hacer las cosas más rápido. Una coas, ¿cuál es ese consejo que das con más frecuencia?

GATES: Lo importante que es formar equipos en los que se tenga la combinación adecuada de habilidades. Una combinación de talentos.  ¿Y vos?

ALTMAN: Quizá el más frecuente es que hay que tener bien en claro qué es lo que se quiere hacer. Esto lo digo porque creo que hay mucha gente que tiene miedo al riesgo y por eso, se quedan en la comodidad de un trabajo que no les gusta para nada y se les pasa la vida.

GATES: Cuando se logra que las personas accedan a un trabajo en el que sientan que tienen un propósito, es más divertido y a veces, son quienes generan una gran impacto en la compañía.