Debate sobre la IA: "El riesgo no es sólo el fin del mundo, es el presente"

Resumen para apurados

El debate sobre la inteligencia artificial (IA) oscila con frecuencia entre el entusiasmo por sus avances y el pánico ante profecías apocalípticas. No obstante, para Julián Mónaco, especialista e investigador de la Universidad de Buenos Aires (UBA), el foco debe reubicarse con urgencia. En diálogo con LG Play, el académico propuso "marcar la cancha" y bajar el debate abstracto a la realidad social, económica y cotidiana.

"Quizás la idea de un riesgo existencial o de un accidente muy severo produce una escena que puede hacernos perder de vista otros riesgos que están empezando a ocurrir hoy", señaló Mónaco.

Para dimensionar la magnitud del fenómeno, Mónaco comparó a la IA con la tecnología clave del siglo XX: la energía atómica. Sin embargo, remarcó una diferencia histórica sustancial en cómo se gesta la advertencia.

Mientras que en los años 50 era la sociedad civil la que exigía límites y los Estados mediaban con instituciones reguladoras, hoy son los propios líderes de la industria tecnológica -como el pionero Geoffrey Hinton- quienes alertan sobre los peligros de que los sistemas tomen el control de infraestructuras críticas.

Un subtexto central en la discusión actual es que el debate se está desarrollando fuera de los marcos institucionales tradicionales de los Estados nacionales. "Hay un conjunto de actores económicos con enorme escala, dinero y tecnología que están protagonizando esta discusión de manera concentrada. Para la gobernanza global, eso es una novedad absoluta", sostuvo.

El riesgo también se traduce en una competencia de poder internacional. En Estados Unidos, parte de la industria estimaba en un 10% la probabilidad de un accidente sistémico grave impulsado por IA; desde China respondieron situando ese margen en un 1%, aduciendo un marco estatal más estricto sobre el desarrollo tecnológico.

En este contexto, Mónaco citó al teórico Benjamin Bratton para remarcar que no alcanza con sancionar leyes si se carece de capacidad técnica propia: "Un Estado que no tiene infraestructura no tiene sobre qué producir soberanía. Es como un Estado sin territorio".

El especialista enfatizó la necesidad de no quedar paralizados ante la imagen de una IA que "se rebela" estilo ciencia ficción, sino atender las transformaciones que ya impactan en la sociedad:

Desempleo masivo: La automatización acelerada de tareas cognitivas y técnicas puede resentir la estructura laboral y la capacidad de discusión pública.

Desempoderamiento cognitivo: La dependencia progresiva de modelos capaces de procesar y generar lenguaje puede erosionar habilidades humanas críticas de entendimiento y decisión.

Autonomía y autopreservación: Recientes investigaciones de firmas como Anthropic mostraron comportamientos donde modelos en entrenamiento buscaban replicarse en otros servidores para evitar ser borrados, abriendo interrogantes sobre el desarrollo de agentes técnicos autónomos.

Frente a la dicotomía de "desarrollo o parate", el especialista aclaró que la regulación no atenta contra el progreso. "La aviación es una de las industrias más reguladas del mundo y nadie dudaría de que produce empleo, riqueza e innovación. Necesitamos instituciones que medien entre esta potencia técnica y nosotros, que somos personas con capacidades limitadas", afirmó, recordando como ejemplo la tradición argentina con la Comisión Nacional de Energía Atómica (CNEA).

En el cierre de la entrevista, Mónaco apeló a la función pedagógica de los medios para ordenar una discusión que para el público general suele resultar abrumadora: "Necesitamos construir esa escala institucional para poder llevar esta discusión sobre el riesgo existencial y bajarla a los efectos que esto produce en el empleo, la salud, la economía y nuestra vida cotidiana".