Google redujo las respuestas de búsqueda con IA luego que le dijera a los usuarios que comieran pegamento

La directora de búsquedas de Google, Liz Reid, anunció cambios para limitar el uso de la inteligencia artificial en temas sensibles tras varias recomendaciones erróneas

Gerrit De Vynck, Infobae

Google ha anunciado que está reduciendo el uso de respuestas generadas por inteligencia artificial en algunos resultados de búsqueda, después de que la tecnología cometiera errores muy sonados, como decir a los usuarios que pusieran pegamento en la pizza o que Barack Obama era musulmán.

La empresa comenzó a incluir las respuestas de inteligencia artificial en la parte superior de los resultados de búsqueda para los usuarios en Estados Unidos hace dos semanas, pero los usuarios y los expertos del motor de búsqueda comenzaron a notar el jueves que muchas menos consultas activaban una respuesta de IA en comparación con los días anteriores.

La directora de búsquedas de Google, Liz Reid, confirmó en una entrada de blog el jueves por la tarde que la empresa estaba reduciendo algunas de las respuestas, a las que denomina “Resúmenes de IA”.

La compañía redujo el uso de publicaciones en redes sociales como material de origen para las respuestas de inteligencia artificial, está poniendo en pausa algunas respuestas sobre temas relacionados con la salud y “agregó restricciones de activación para las consultas en las que las Perspectivas Generales de IA no estaban demostrando ser tan útiles”, dijo Reid en la publicación.

La empresa ha introducido más de una docena de cambios técnicos destinados a mejorar el sistema, según la directora.

Este cambio es el último ejemplo de cómo Google lanza un producto de inteligencia artificial a bombo y platillo y luego lo echa para atrás cuando sale mal. En febrero, la empresa impidió a los usuarios crear imágenes de personas con su herramienta de IA, después de que algunos comentaristas conservadores la acusaran de tener prejuicios contra los blancos.

La industria tecnológica está en plena revolución de inteligencia artificial, con nuevas herramientas en desarrollo. (REUTERS/Steve Marcus)

La industria tecnológica está inmersa en una revolución de la IA, con empresas de nueva creación y gigantes de la tecnología tratando de encontrar nuevas formas de incorporar la tecnología a sus productos y ganar dinero con ella. Muchas de las herramientas se han lanzado antes de estar listas para el prime time, ya que las empresas compiten por ser las primeras en comercializar sus productos y presentarse como vanguardistas.

Google, cuyos empleados inventaron gran parte de la tecnología subyacente a herramientas de IA revolucionarias como ChatGPT, ha intentado demostrar a inversores, consumidores y a sus propios empleados que sigue siendo el actor más importante del sector. En su conferencia I/O de este mes, la empresa hizo más de 100 anuncios diferentes relacionados con la IA.

El más importante fue la confirmación de que empezaría a ofrecer respuestas generadas por IA en los resultados de búsqueda a la mayoría de sus usuarios. Google lleva un año probando las respuestas de inteligencia artificial con un grupo selecto de usuarios, pero su incorporación a más resultados de búsqueda significa que la mayoría de la gente empezará a interactuar directamente con la IA generativa en una herramienta que utiliza a diario.

La tecnología lee sitios web que de otro modo aparecerían en los resultados de búsqueda de Google y los resume en respuestas de varios párrafos. Los editores han puesto el grito en el cielo, acusando a la empresa de perjudicar a sus negocios al tomar sus contenidos y regurgitarlos para los usuarios directamente en los resultados de búsqueda, privándoles de un importante tráfico web.

Pero periodistas, expertos en motores de búsqueda y usuarios de las redes sociales no tardaron en detectar problemas con las respuestas. Algunas de las respuestas eran divertidas, mientras que otras eran preocupantes. También aparecían en consultas delicadas, incluidas las relacionadas con la salud.

Una de las respuestas, que Google ya ha corregido, recomendaba beber mucha orina para ayudar a expulsar un cálculo renal. Otra decía que John F. Kennedy se graduó en la Universidad de Wisconsin en Madison en seis años diferentes, tres de ellos después de su muerte.

Google intenta demostrar liderazgo en IA con más de 100 anuncios recientes en su conferencia I/O. (REUTERS/Dado Ruvic)

La empresa intentó probar la herramienta todo lo que pudo antes del lanzamiento general, pero Reid dijo que el lanzamiento a gran escala reveló muchas situaciones para las que la empresa no se había preparado.

“No hay nada como tener a millones de personas utilizando esta función”, dijo Reid.