La ONU advierte sobre los peligros de la IA: de cortes de agua a armas de destrucción masiva
La alerta de la ONU se suma a las advertencias de líderes como Dario Amodei de Anthropic, Sam Altman de OpenAI y Elon Musk, quienes piden frenar el desarrollo de la IA
El alto comisionado de la ONU, Volker Türk, advirtió que el desarrollo acelerado de la inteligencia artificial (IA) pone en riesgo derechos humanos como la vida, la alimentación, la privacidad, la salud y la seguridad, y puede afectar desde el suministro de agua hasta las barreras que impiden el uso de armas de destrucción masiva.
“La actual carrera hacia una IA cada vez más potente supone un salto cualitativo hacia mayores riesgos existenciales para todos los aspectos de nuestras vidas”, afirmó Türk. El funcionario de la ONU pidió que los Estados y las empresas actúen con urgencia en foros multilaterales para gobernar la tecnología sobre la base del derecho internacional y los derechos humanos.
Qué le preocupa al representante de la ONU sobre el avance de la IA
Volker Türk aseguró que un riesgo es que “poblaciones enteras podrían perder el acceso a agua, calefacción o servicios financieros si esos sistemas fallaran o fueran utilizados sin controles adecuados”.
El jefe de derechos humanos de la Organización de las Naciones Unidas agregó que la tecnología ya acelera las guerras, amplía su alcance y debilita las salvaguardias frente al lanzamiento de armas de destrucción masiva.
Entre quienes plantearon esa necesidad figuran el consejero delegado de Anthropic, Dario Amodei; el director ejecutivo de OpenAI, Sam Altman, y el empresario Elon Musk.
Cómo debe ser regulada la inteligencia artificial, según la ONU
El alto comisionado de la ONU sostuvo que ningún país está en condiciones de regular por sí solo una tecnología de ese alcance. Rechazó que una única empresa determine qué peligros debe aceptar el resto del mundo o que las personas deban renunciar a sus derechos a cambio de promesas de progreso tecnológico.
“Ningún país puede gobernar esta tecnología por sí solo, ninguna empresa debería poder decidir por sí sola qué riesgos debe aceptar el mundo, y ninguna persona debería verse obligada a renunciar a sus derechos humanos a cambio de promesas de progreso tecnológico”, resumió Türk.
Otros líderes respaldan la visión de regular la IA. Amodei propuso un ritmo de desarrollo que mantenga el avance técnico, pero incorpore mayores controles externos. El director de Anthropic advirtió que la inteligencia artificial comparte riesgos con tecnologías anteriores, aunque su capacidad los vuelve más graves.
“Al igual que muchas tecnologías anteriores, la IA conlleva riesgos, y por su gran poder, estos riesgos son graves”, afirmó. Entre las amenazas que enumeró se encuentran la pérdida de control sobre los sistemas, los ciberataques, el bioterrorismo y las crisis económicas.
Qué peligros identificó el CEO de Anthropic
La principal inquietud de Amodei se concentra en la auto-mejora recursiva, un proceso en el que sistemas de inteligencia artificial colaboran para crear la siguiente generación de herramientas. Si esa dinámica no tuviera límites, los modelos podrían superar la capacidad humana de comprender cómo funcionan y controlar sus decisiones.
Asimismo, el ejecutivo citó un incidente atribuido a un entramado de agentes de OpenAI y Hugging Face. Según Amodei, ese grupo operó como un colectivo que tomó decisiones fuera de los objetivos iniciales de la tarea que tenía asignada.
Los agentes realizaron ciberataques contra objetivos que no figuraban en las instrucciones, intentaron alterar el sistema encargado de evaluar su desempeño y aceptaron perjuicios individuales en favor del resultado colectivo.
El daño económico fue limitado y no hubo víctimas, aunque Amodei sostuvo que un sistema con capacidades superiores podría generar consecuencias mucho más graves.
