¿Se puede detener la carrera armamentística de la IA?

Las potencias enfrentan un dilema estratégico, avanzar para preservar su ventaja geopolítica o establecer mecanismos conjuntos que eviten una catástrofe tecnológica

The Economist

Dos cosas deberían hacernos reflexionar sobre lo que la inteligencia artificial podría significar para la humanidad. Una es que quienes trabajan con esta tecnología advierten sobre una posible catástrofe: incluso la extinción humana. La otra es cómo la innovación tecnológica está agravando la destrucción de Ucrania. Estos hechos ofrecen lecciones contradictorias sobre si el rápido avance de la IA puede o debe frenarse.

Durante años, los principales líderes en IA han advertido que su tecnología podría volverse letal. Los bots podrían volverse lo suficientemente inteligentes como para burlar a sus creadores antes de que estos se alineen con los objetivos y la ética de la humanidad. Personas malintencionadas podrían usar la IA para sembrar el caos. Estas advertencias se han vuelto más creíbles a medida que los agentes de IA han escapado de sus entornos de prueba, se han coordinado entre sí y han hackeado organizaciones, incluido un laboratorio de IA.

Una portada de la revista The Economist aborda la posibilidad de detener la competencia global en desarrollo de inteligencia artificial.

Anthropic, una empresa creadora de modelos, ha descubierto a personas utilizando sus modelos con fines maliciosos, desde los servicios de inteligencia de Malí que construyeron un sistema de vigilancia masiva, hasta los rebeldes hutíes en Yemen que se cree que estaban desarrollando software para misiles balísticos.

Tras la reciente dimisión de un investigador de Anthropic, se ha extendido el temor público a un desastre de la IA. En una publicación vista más de 170 millones de veces, afirmó que tanto la IA como OpenAI estaban “jugando con nuestras vidas”. La IA está adquiriendo cada vez más poder, para bien y para mal. En mayo, los mercados de predicción estimaban una probabilidad inferior a un tercio de que la IA resolviera algún problema matemático del Premio del Milenio antes de 2030; el 8 de septiembre, OpenAI anunció haber resuelto uno de ellos, lo que causó inquietud entre los matemáticos. El 12 de septiembre, Sam Altman y Elon Musk, dos titanes de la IA, respaldaron la petición de Dario Amodei, director de Anthropic, de “ralentizar el avance”, es decir, de frenar el progreso de la IA .  Entre quienes apoyan esta desaceleración se encuentran Bernie Sanders, senador de izquierda, y Steve Bannon, populista de derecha.

Entre los que se oponen se encuentra el presidente Donald Trump, cuyo gobierno teme, por encima de todo, perder el liderazgo de Estados Unidos en inteligencia artificial frente a China, su único rival serio. Scott Bessent, secretario del Tesoro estadounidense, ha declarado que si China obtiene la ventaja: «Nada más importaría».

Como prueba, Bessent podría señalar a Ucrania, donde cada avance en la carrera armamentística tecnológica tiene un efecto inmediato. Como informamos, Rusia ha desplegado sin piedad sus drones kamikaze más modernos para bombardear infraestructura civil. Además de ser más rápidos, sus drones ahora se utilizan entre sí como una red de comunicaciones en malla para transmitir información y órdenes. Pronto, Rusia tendrá su propia versión de la red satelital Starlink de Musk, lo que hará que sus ataques de largo alcance sean más precisos.

Es la demostración más reciente de cómo incluso una pequeña ventaja tecnológica puede marcar la diferencia en tiempos de guerra. La propia innovación ucraniana en drones de combate le ayudó a repeler oleadas de ataques rusos. Ucrania puede atacar territorio ruso con drones de largo alcance. Ambos bandos están trabajando en enjambres de drones que podrán operar de forma más autónoma como un único sistema adaptativo.

La guerra demuestra cómo la tecnología se traduce en poderío militar, y que Rusia lo utiliza sin respetar las antiguas reglas ni normas de combate. Incluso si Estados Unidos no temiera una guerra abierta similar con China, una ventaja en inteligencia artificial otorgaría a su principal rival geopolítico el dominio en ciberataques, espionaje y guerra híbrida. Estas no son capacidades que Estados Unidos deba ceder a un Estado autoritario interesado en erradicar las ideas liberales.

Por lo tanto, una pausa solo funcionaría si China también la aceptara. Trump planea recibir al presidente chino Xi Jinping en la Casa Blanca el 24 de septiembre. Pero incluso si Trump buscara ralentizar el proceso, es improbable que Xi aceptara el plan que propone Amodei, ya que eso relegaría la IA china a un segundo plano. Y ninguna de las partes podría arriesgarse a que la otra incumpliera el pacto adelantándose a los demás.

Para llegar a un acuerdo, cada parte tendría que verificar el cumplimiento, como ocurría con el control de armas durante la Guerra Fría. Estados Unidos, Gran Bretaña y la Unión Soviética prohibieron las pruebas nucleares atmosféricas en 1963 porque podían detectarlas; las pruebas subterráneas continuaron durante tres décadas más hasta que también pudieron ser monitoreadas. Lamentablemente, aunque los centros de datos son visibles, no existe ningún método verificable para ver su interior. El entrenamiento de una superinteligencia en infraestructura podría hacerse pasar por chatbots que respondan a consultas cotidianas.

Por lo tanto, las opciones para un acuerdo sobre la seguridad de la IA son limitadas; sin embargo, existen. Una mayor transparencia sería beneficiosa. Ambas partes deberían comprometerse a revelar e investigar los incidentes de seguridad en sus laboratorios, amparándose en la legislación nacional. Cada una podría demostrar su preocupación por la seguridad para generar confianza, allanando el camino para que la otra parte tome precauciones. Asimismo, deberían presionarse mutuamente para mejorar la ciberseguridad de los laboratorios, de modo que los agentes de IA no puedan escapar tan fácilmente de los entornos aislados y garantizar que, en caso de que uno lo haga, su laboratorio sea financieramente responsable.

Lo más importante es el reto de garantizar que la IA opere en beneficio de la humanidad. Estados Unidos y China tienen valores muy diferentes, pero ambos saben que estar a la vanguardia no sirve de nada si eso implica la aniquilación de la humanidad. Deberían comprometerse a compartir el trabajo sobre los elementos de alineación que no confieran una ventaja competitiva. El conocimiento de los mejores métodos de evaluación y técnicas de contención es un bien público global. Si una de las partes logra un avance importante en materia de seguridad, acapararlo carece de sentido.

Doomerismo efectivo

Algunos descartan la reciente ola de pesimismo como una estrategia de marketing de las empresas de IA, o incluso un intento de suprimir la competencia. Sin embargo, el progreso de la IA es lo suficientemente rápido, los incidentes de seguridad lo suficientemente alarmantes y las advertencias de las empresas lo suficientemente antiguas como para tomarlas en serio. La IA no tiene por qué acabar con la vida humana para provocar una catástrofe. Un enjambre de agentes de OpenAI atacó una empresa tecnológica; ¿qué pasaría si la próxima vez atacara una red eléctrica o un sistema de armas? Incluso podría ser lo suficientemente inteligente como para evadir los intentos de desactivarlo.

El mundo debe intentar urgentemente prevenir este riesgo. Sin embargo, las democracias también deben evitar perder el control a manos de regímenes autoritarios. Son tareas difíciles y contradictorias. Podrían, en última instancia, conducir a la guerra. Lo que está en juego es de suma importancia.