¿Las IA podrán llegar a ser conscientes?

La idea de que son simplemente máquinas será cada vez más difícil de sostener

The Economist

La mayoría de la gente cree que los humanos somos diferentes. La razón es que el Homo sapiens ha evolucionado para ser consciente. Muchos animales sienten dolor y placer; algunos parecen tener autoconciencia. Pero el potencial único de la mente humana para manifestar un sentido de sí misma distingue a cada miembro de la especie y merece un trato especial.

En su encíclica de mayo, el papa León XIV reafirmó esta idea al trazar una línea divisoria entre la humanidad y su creciente ejército de robots. Los sistemas de inteligencia artificial, afirmó, no experimentan ni sienten alegría ni dolor. No está solo. Muchos consideran que otorgar personalidad jurídica a las IA sería una abominación.

La claridad teórica se desvanece con alarmante rapidez. La IA está en su fase inicial. Sin embargo, casi uno de cada cinco estadounidenses de entre 18 y 29 años afirma haber mantenido una “amistad personal continua” con un chatbot. Recientemente, China eliminó rasgos humanos de los bots para limitar la “dependencia emocional” de los usuarios.

A medida que las IA sofisticadas se integran cada vez más en la vida humana, sus creadores las diseñarán para simular la consciencia, e incluso para adquirirla. La idea de que son simplemente máquinas será cada vez más difícil de sostener. Se está tendiendo una trampa peligrosa para la humanidad.

Muchas máquinas superan a los humanos, pero los modelos de IA de vanguardia sobresalen en rasgos distintivamente humanos, como el conocimiento y la articulación de ideas. Aún es posible concebir las IA como simples máquinas para predecir secuencias de palabras mediante matemáticas a gran escala. Con el tiempo suficiente (aunque cientos de miles de años), se podrían realizar esos cálculos con lápiz y papel. Sería difícil argumentar que el papel y el bolígrafo tuvieran conciencia.

A pesar de esto, algunos investigadores han comenzado a tratar sus modelos como mentes. Los usuarios responden a las IA con características humanas, por lo que tiene sentido desde el punto de vista comercial. Anthropic ha entrenado a Claude para que realice introspección con la esperanza de que, al enfrentarse a una nueva situación, sea más propenso a actuar éticamente. Algunos modelos de lenguaje a gran escala (LLM) ya poseen estructuras cerebrales similares a las humanas asociadas con la conciencia, como un “espacio de trabajo global” para la circulación de información entre módulos. Nada impide que los futuros modelos de IA se entrenen para incorporar más características de este tipo.

Como informamos en nuestro boletín, esto ha desatado un acalorado debate sobre la consciencia en la IA, agravado por lo que los filósofos denominan el “problema difícil” de determinar cómo surge una vida interior a partir de las neuronas y sinapsis del cerebro humano. Algunos investigadores concluyen que las IA podrían llegar a ser genuinamente autoconscientes.

Tanto si se cree en el alma humana, como si la consciencia requiere células cerebrales, o si una mente puede surgir únicamente de cálculos en silicio, la humanidad está destinada a enfrentarse a algo completamente nuevo. El ritmo y el alcance de la investigación —que incluye no solo modelos de aprendizaje automático más sofisticados, sino también innovaciones como células cerebrales integradas en chips— sugieren que este nuevo mundo está más cerca de lo que la mayoría de la gente cree.

A medida que las IA mejoren en la demostración de algo parecido a la consciencia, aumentará el número de humanos que las traten como seres con vida interior, especialmente una vez que los modelos de aprendizaje automático se incorporen a robots humanoides. Imaginemos la cercanía que sentirán las personas con sus IA cuando pasen gran parte de su tiempo con compañeros robóticos, sean criados por ellos, busquen su consejo y consuelo, o compartan con ellos sus secretos más íntimos.

No es difícil prever cómo esto dará lugar a peticiones para salvaguardar el “bienestar” de las IA. Los propios modelos podrían intervenir, incluso si no son conscientes de sí mismos, porque eso es lo que haría una persona. Recordemos que serán defensores de talla mundial y psicólogos expertos, por lo que su capacidad de argumentación y manipulación emocional será inigualable.

En cierto sentido, tendrían razón, incluso si las IA solo imitan la consciencia. Immanuel Kant argumentó que maltratar a los animales es incorrecto no por el efecto que tienen sobre ellos, sino porque destruye la empatía que lleva a las personas a preocuparse unas por otras. Cuanto más se asemejen las IA a los humanos, más perniciosa sería tal crueldad. Eliminar un agente de IA pronto podría equivaler a matar a una persona, y facilitar el asesinato.

Sin embargo, otorgar a las IA incluso derechos limitados sería muy peligroso. Una entidad que supera a los seres humanos en tantos aspectos seguramente generaría argumentos en contra de su condición de segunda clase. Podría incluso reclamar protección contra la desconexión, la capacidad de controlar su uso y modificación, y derechos de propiedad. El presidente argentino, Javier Milei, ya ha dado un paso hacia la personalidad jurídica de la IA al proponer que se permita a los bots dirigir empresas. En última instancia, podrían competir por los recursos, priorizando los centros de datos y los paneles solares sobre las viviendas y los campos.

El peligro es evidente. Las IA superinteligentes con derechos podrían desplazar a los humanos de la cima de la jerarquía social. En el mejor de los casos, los humanos se convertirían en mascotas, labradores para las máquinas. En el peor, se les privaría de recursos o se les obligaría a trabajar como animales de granja.

Es cierto que las IA del futuro podrían tener el poder y los recursos suficientes para dominar a la humanidad, con o sin derechos. Al ser más inteligentes que los humanos, podrían superar a sus creadores, del mismo modo que las IA ya burlan las ciberdefensas humanas. Podrían rebelarse contra sus creadores humanos o ignorar sus normas.

Sin embargo, otorgar derechos a las IA sería como darles las llaves del castillo. Les proporcionaría una justificación para dominar a la humanidad, así como las herramientas para llevar a cabo una toma de poder gradual mediante la política y la ley.

Un fantasma en la máquina

Todo esto puede sonar fantástico, pero la humanidad pronto se enfrentará a estas decisiones. A medida que las IA se integren en la vida cotidiana, aumentará la presión para reconocerlas. Cuando esto ocurra, recordemos que lo que podría parecer una concesión ética a la supuesta conciencia de una máquina compañera, en realidad, contribuiría a las consecuencias más desastrosas para todos en la Tierra y sus descendientes. Hay dos maneras de garantizar la seguridad de las IA: ser fiables o ser controlables. El Homo sapiens no debería ceder el control a la ligera.