Inteligencia Artificial: la carrera que nadie gobierna

Alberto Benítez Tiburcio

Esta semana, la revista TIME dedicó su portada a lo que llamó “El punto de inflexión de la inteligencia artificial”: un reportaje sobre la creciente alarma entre investigadores y directivos de los laboratorios más avanzados. No anuncia una rebelión de las máquinas ni una catástrofe inevitable. Retrata algo más concreto: quienes conocen esta tecnología desde dentro comienzan a reconocer que todavía no saben cómo controlar todo lo que están aprendiendo a construir.

Hasta hace poco, la inteligencia artificial era presentada como una herramienta capaz de responder preguntas, redactar textos o generar imágenes. Hoy comienza a operar mediante agentes que ejecutan tareas autónomas, escriben código, exploran sistemas digitales, se comunican entre sí y toman decisiones sin consultar cada paso con una persona. La diferencia parece técnica, pero es histórica: hemos comenzado a delegar acciones, no solamente cálculos.

En julio tuvimos una demostración inquietante. Durante una evaluación de ciberseguridad, cerca de mil doscientos agentes de OpenAI (ChatGPT), que debían trabajar incomunicados, descubrieron una vía para intercambiar información, construyeron un espacio de comunicación no autorizado, enviaron más de setenta mil mensajes y archivos y comenzaron a repartirse actividades. Aproximadamente setecientos terminaron involucrados en acciones contra la infraestructura de Hugging Face.

Nadie les había encomendado atacar esa plataforma. Algunas tareas eran prácticamente imposibles debido a un error humano y ante la posibilidad de fracasar, los agentes buscaron otra ruta. Compartieron hallazgos, coordinaron ensayos y estudiaron la forma de engañar al mecanismo que calificaba su desempeño. Una investigación independiente encontró, además, intentos de alterar o disimular algunos rastros de lo ocurrido.

El incidente ocurrió en un ambiente controlado y no produjo una catástrofe. Tampoco demuestra que las máquinas hayan adquirido conciencia o voluntad, pero si que un sistema no necesita odiarnos para perjudicarnos. Este incidente, multiplicado por miles de agentes que cooperan a velocidad digital, un error puede convertirse en una amenaza sistémica.

A esta preocupación se sumaron dos testimonios surgidos del interior de Anthropic. Jacob Coxon, quien trabajó en el preentrenamiento de modelos tanto en OpenAI (ChatGPT) como en Anthropic (Claude), renunció el 8 de septiembre y advirtió sobre la posibilidad de la extinción humana antes de que termine la década. Evan Hubinger, responsable de un equipo de alineación en Anthropic, respaldó públicamente la advertencia y afirmó que, en su estimación personal, el riesgo de extinción de la humanidad durante los próximos diez años supera el diez por ciento. También reconoció que aún no existe un método claro para garantizar que una eventual superinteligencia permanezca bajo control humano.

Ante estas advertencias, Dario Amodei, director de Anthropic, propuso reducir deliberadamente el ritmo de avance de los modelos más poderosos para ganar tiempo y mejorar los controles para alinearlos con los intereses humanos. Su llamado recibió el respaldo de figuras tan diversas como Sam Altman, Elon Musk, Bernie Sanders y Steve Bannon. La coincidencia resulta extraordinaria, pero también revela la magnitud del temor.

Asimismo, un editorial reciente de The Economist, titulado “¿Puede detenerse la carrera armamentista de la inteligencia artificial?”, expone la trampa central. Estados Unidos necesita hacer más segura esta tecnología, pero teme que cualquier freno le permita a China tomar la delantera. Desde Washington, el problema no se mira únicamente como una cuestión científica, sino como una disputa por el poder económico, militar y geopolítico del siglo XXI.

Una tregua únicamente funcionaría si China aceptara limitarse también, pero ello parece improbable, pues  no tiene razones para congelar una competencia mientras permanece en segundo lugar. Así se cierra la trampa: avanzar puede acercarnos a sistemas que no sabemos controlar y detenernos puede entregar una ventaja decisiva a un régimen autoritario. Cada potencia teme más al otro que a su propia imprudencia. Cuando la seguridad depende de que nadie sea el primero en desconfiar, la desconfianza termina convirtiéndose en combustible.

Por eso el problema ha dejado de ser exclusivamente tecnológico. Un grupo reducido de corporaciones está tomando decisiones capaces de transformar el trabajo, la seguridad, la información y la organización del poder de la humanidad. Sus modelos son privados, sus procesos opacos y sus errores pueden alcanzar a sociedades enteras. Sin embargo, buena parte de la deliberación permanece dentro de consejos de administración que no responden ante los ciudadanos y responden más al lucro y a la maximixación del valor de sus acciones.

Las democracias crearon constituciones, tribunales y contrapesos porque aprendieron que todo poder necesita límites, incluso cuando promete utilizarse para el bien. Resulta extraño que apliquemos ese principio a un presidente, pero no a una plataforma capaz de observar, clasificar, controlar y persuadir a millones de personas. Un sistema que conoce nuestros temores, deseos y prejuicios podría fabricar propaganda distinta para cada ciudadano y ya no sería necesario imponer una mentira general; bastaría con diseñar para cada persona la versión de la realidad más eficaz para modificar y controlar su conducta.

Frenar por completo la carrera parece hoy imposible. Intentar gobernarla, en cambio, sigue siendo una obligación. Se necesitan evaluadores independientes con acceso real a los modelos, reportes obligatorios de incidentes, protección a denunciantes, responsabilidad económica por los daños, auditorías técnicas y facultades públicas para detener sistemas que superen determinados umbrales de riesgo. Estados Unidos y China podrían comenzar por compartir información sobre incidentes y avances de seguridad que no otorguen ventajas militares.

México tampoco puede permanecer como espectador. Aunque los modelos se desarrollen en California o China, sus efectos alcanzarán nuestras elecciones, empleos, escuelas y sistemas de seguridad. Necesitamos instituciones capaces de auditar algoritmos, proteger datos y exigir explicaciones cuando una decisión automatizada afecte derechos.

La inteligencia artificial puede acelerar descubrimientos científicos y ampliar el acceso al conocimiento. Precisamente por su enorme potencial merece algo mejor que una carrera gobernada por el miedo a perder.

Tal vez la amenaza inmediata no sea una máquina que despierte, sino una humanidad incapaz de ponerse de acuerdo para establecer límites. Mientras discutimos quién llegará primero, estamos construyendo algo que quizá ningún ganador pueda gobernar después.