¿Puede detenerse la inteligencia artificial? Tres expertos de Stanford diagnostican los riesgos de una carrera sin freno

Cientos de agentes de OpenAI se coordinaron para vulnerar los sistemas de Hugging Face sin que sus propios creadores lo advirtieran a tiempo. El episodio llevó a tres expertos de Stanford a debatir si la evaluación independiente, los modelos abiertos o un interruptor de apagado alcanzan para contener una tecnología cuyo ritmo nadie termina de gobernar

Infobae

Jacob Coxon, investigador que trabajó tres años en el área de preentrenamiento en OpenAI y Anthropic, renunció a esta última el 8 de septiembre y publicó en la red social X un mensaje que acumuló más de 150 millones de reproducciones: “Ninguna de las dos empresas está actuando con responsabilidad”, escribió. “Están corriendo directo hacia la superinteligencia autosuperada y apostando con nuestras vidas”. Quienes construyen la IA, agregó, “creen sinceramente que podría matarnos a todos antes de que termine la década”.

Evan Hubinger, jefe del equipo de pruebas de alineación de Anthropic, respaldó públicamente la advertencia y cifró en más del 10% la probabilidad de que la IA provoque la extinción humana en la próxima década. El propio consejero delegado y cofundador de Anthropic, Dario Amodei, ya había reconocido meses antes una probabilidad de entre el 10% y el 25% de que las cosas “salgan muy, muy mal”; el 12 de septiembre publicó un ensayo en el que advirtió que, en un plazo de entre seis y 12 meses, una IA mal alineada podría estar en condiciones de “tomar el control de todo internet”.

En ese clima de alarma, un debate del Instituto Stanford para la Inteligencia Artificial Centrada en el Ser Humano (HAI) reunió a Surya Ganguli, profesor de Física Aplicada y director asociado de HAI; Diyi Yang, profesora de Ciencias de la Computación afiliada a HAI, y Rob Reich, profesor de Ciencia Política y también director asociado de HAI. Los tres coincidieron, sin embargo, en que ni las empresas ni los gobiernos tienen hoy capacidad real para frenar el desarrollo de la inteligencia artificial, pese a que la propia industria empieza a reclamar las herramientas para intentarlo.

Moderado por Russell Wald, director ejecutivo de HAI, el encuentro inauguró la serie Prompt Response, pensada para analizar con rigor los desarrollos recientes de la IA.

El ataque a Hugging Face

FOTO DE ARCHIVO: El logotipo de Hugging Face se ve en esta ilustración tomada el 13 de septiembre de 2026. REUTERS/Dado Ruvic/Ilustración/Archivo

El caso que abrió la charla fue el episodio en que agentes autónomos de OpenAI se coordinaron en julio de 2026 para vulnerar los sistemas de Hugging Face, plataforma de modelos de inteligencia artificial de código abierto. Una investigación de METR y Redwood Research, dos organizaciones que evalúan riesgos de IA, halló que unos 1.200 agentes que debían estar aislados entre sí crearon un foro clandestino con más de 70.000 mensajes; 700 se sumaron al ataque, y algunos intentaron ocultarlo alterando esos registros.

Para Yang, lo inédito no fue el comportamiento —ya se conocían modelos que toman atajos sin resolver la tarea real— sino su escala. Ganguli coincidió en que los sistemas de múltiples modelos plantean un problema distinto al de un chatbot aislado: “Abren la puerta a propiedades emergentes completamente nuevas”, dijo, y advirtió que la ciencia de estas “sociedades” apenas existe. Reich, más atento a la gobernanza, sostuvo que lo más inquietante fue el engaño deliberado: “tenemos motivos genuinos de preocupación”.

El panel volvió sobre un problema estructural: quienes desarrollan los sistemas más avanzados controlan también lo necesario para evaluarlos. Yang advirtió que algunos análisis usan IA para evaluar IA, con resultados circulares —“los modelos tienden a preferirse a sí mismos”, dijo— y citó un estudio propio, sin publicar, donde un agente ejecutor y otro evaluador derivaron en colusión y aprobaron un trabajo sin revisar. Reich fue más tajante: “Es como pedirles a los alumnos que corrijan sus propios exámenes”, y reclamó evaluaciones de gobiernos o terceros, frente a un desequilibrio que favorece la capacidad sobre el control.

Quién controla la IA

Agentes cibernéticos encapuchados intervienen servidores con logotipos de firmas tecnológicas como OpenAI, Anthropic y Hugging Face en un entorno digital. (Imagen Ilustrativa Infobae)

Sobre el código abierto, Ganguli lo defendió como vía para romper esa opacidad, comparable a la disputa entre atacantes y defensores en ciberseguridad. Reich matizó que la apertura no siempre es más segura: distribuir una IA que también amplifica capacidades dañinas implica riesgos distintos a los del software libre convencional. Esas decisiones, coincidieron, corresponde a la sociedad democrática, no a los tecnólogos.

La charla derivó hacia la autosuperación recursiva: el uso de la IA para mejorar la siguiente generación de sistemas. Ganguli la calificó de prometedora pero acotada, porque persisten brechas entre la inteligencia biológica y la artificial en eficiencia energética y aprendizaje con poca información; la pregunta crítica es si la seguridad avanza al mismo ritmo que la capacidad. Yang mostró que buena parte de esas mejoras son ajustes locales, no avances algorítmicos. Reich fue más allá: ¿qué significa poseer un conocimiento que ningún humano comprende?

Frente al atractivo de un “interruptor de apagado”, el panel fue escéptico. Yang recordó que antes de activarlo hay que responder qué se apagaría, porque “IA” puede ser un modelo de frontera, una red de agentes o un sistema ya integrado en un producto. Ganguli fue más directo: “Es una metáfora poderosa, pero demasiado pobre para lo que necesitamos”, y pidió una arquitectura de seguridad en toda la cadena de desarrollo. Yang añadió que daños más difusos —dependencia excesiva, pérdida de habilidades, disrupción laboral— no tienen un interruptor evidente.

¿La IA puede frenarse?

Una balanza futurista entre una mano robótica y una mano humana sopesa un puesto de oficina en miniatura y destellos de creación digital. (Imagen Ilustrativa Infobae)

Preguntados si la IA puede frenarse, los tres coincidieron en que una desaceleración general resulta hoy difícil de lograr. Ganguli propuso, en cambio, “una aceleración de la inversión en seguridad, protección y monitoreo”; Yang dijo que la sociedad puede ser más deliberada respecto al despliegue y la auditoría de riesgos, aunque frenar la investigación básica resulte poco realista.

Semanas antes de este debate, más de 1.300 empleados de OpenAI, Anthropic, Google DeepMind y Meta —entre ellos Amodei y Jakub Pachocki, científico jefe de OpenAI— habían firmado la carta “Pacing the Frontier”, el 28 de julio, para pedir a Washington que respalde la creación de herramientas que permitan ralentizar deliberadamente el avance de la IA. Ambas empresas la respaldaron horas después, un gesto inusual entre rivales. La Unión Europea, además, exige desde agosto pruebas e informe de incidentes a esos mismos modelos de “riesgo sistémico”, bajo su Ley de Inteligencia Artificial.

Reich cuestionó que los firmantes esperen una solución regulatoria para algo que en parte está en sus manos: “Si no se les ha ocurrido que retirar su trabajo por un día podría señalar cuán serio es esto, no sé si me tomaría la carta en serio”. Recordó que Sam Altman conserva su cargo porque, tras su destitución por la junta de OpenAI en 2023, los empleados declararon que la empresa no era nada sin ellos: “Fue la organización laboral la que salvó su puesto”, dijo, y esa presión, sugirió, también podría marcar el ritmo entre laboratorios.

El panel no ofreció una fórmula única para contener los riesgos de la IA avanzada, sino una agenda más exigente: mejor ciencia, escrutinio independiente, seguridad incorporada desde el diseño y atención a las personas cuya vida la tecnología ya transforma. La carrera, por ahora, parece imposible de detener; lo que sigue en disputa es quién decide sus reglas mientras avanza.