martes, junio 25

Los errores de búsqueda de las vistas previas de IA de Google causan furor en línea

La semana pasada, Google dio a conocer su mayor cambio de búsqueda en años, mostrando nuevas capacidades de inteligencia artificial que responden a las preguntas de las personas como parte del intento de la compañía por alcanzar a sus rivales Microsoft y OpenAI.

Desde entonces, la nueva tecnología ha generado una letanía de falsedades y errores, incluida la recomendación de pegamento en una receta de pizza y la ingestión de piedras para obtener nutrientes, lo que le ha dejado a Google un ojo morado y ha provocado una protesta en línea.

Las respuestas incorrectas en la función, llamada AI Overview, socavaron la confianza en un motor de búsqueda al que recurren más de dos mil millones de personas en busca de información autorizada. Y mientras otros chatbots de IA mienten y actúan de manera extraña, la reacción demostró que Google está bajo más presión para integrar la IA de manera segura en su motor de búsqueda.

El lanzamiento también continúa la tendencia de que Google experimente problemas con sus últimas funciones de inteligencia artificial inmediatamente después de su implementación. En febrero de 2023, cuando Google anunció Bard, un chatbot para combatir ChatGPT, compartió información incorrecta sobre el espacio. Posteriormente, el valor de mercado de la empresa cayó en 100 mil millones de dólares.

El pasado mes de febrero, la compañía lanzó el sucesor de Bard, Gemini, un chatbot capaz de generar imágenes y actuar como un asistente digital controlado por voz. Los usuarios rápidamente se dieron cuenta de que el sistema se negaba a generar imágenes de personas blancas en la mayoría de los casos y dibujaba representaciones inexactas de personajes históricos.

Con cada incidente, los expertos de la industria tecnológica criticaron a la empresa por dejar pasar la pelota. Pero en entrevistas, los analistas financieros dijeron que Google necesitaba actuar rápidamente para mantener el ritmo de sus competidores, incluso si eso significaba dificultades de crecimiento.

Google “no tiene otra opción en este momento”, dijo en una entrevista Thomas Monteiro, analista de Investing.com. “Las empresas deben actuar con mucha rapidez, incluso si eso significa saltarse algunos pasos en el camino. La experiencia del usuario simplemente tendrá que ponerse al día.

Lara Levin, portavoz de Google, dijo en un comunicado que la gran mayoría de las consultas de AI Overview dieron como resultado “información de alta calidad, con enlaces para futuras búsquedas en la web”. El resultado generado por IA a partir de la herramienta suele aparecer en la parte superior de la página de resultados.

“La mayoría de los ejemplos que vimos eran consultas poco comunes y también vimos ejemplos que estaban falsificados o que no pudimos reproducir”, añadió. La empresa utilizará “ejemplos aislados” de respuestas problemáticas para perfeccionar su sistema.

Desde que OpenAI lanzó su chatbot ChatGPT a finales de 2022 y se convirtió en una sensación de la noche a la mañana, Google ha estado bajo presión para integrar la IA en sus aplicaciones populares. Pero es difícil domesticar grandes modelos de lenguaje, que aprenden enormes cantidades de datos extraídos de la web abierta (incluidas mentiras y mensajes satíricos) en lugar de programarse como el software tradicional.

(El New York Times demandó a OpenAI y su socio Microsoft en diciembre, alegando infracción de derechos de autor sobre contenido de noticias relacionado con sistemas de inteligencia artificial).

Google anunció AI Overview con mucha fanfarria en su conferencia anual de desarrolladores, I/O, la semana pasada. Por primera vez, la empresa había conectado Gemini, su último modelo de IA en lenguaje grande, con su producto más importante, su motor de búsqueda.

AI Overview combina declaraciones generadas a partir de sus modelos de lenguaje con fragmentos de enlaces en vivo de toda la web. Puede citar sus fuentes, pero no sabe cuándo esa fuente es incorrecta.

El sistema fue diseñado para responder preguntas más complejas y específicas que la búsqueda tradicional. El resultado, dijo la compañía, fue que el público podría beneficiarse de todo lo que Gemini podía hacer, eliminando parte del trabajo de búsqueda de información.

Pero las cosas rápidamente salieron mal y los usuarios publicaron capturas de pantalla de ejemplos problemáticos en plataformas de redes sociales como X.

AI Overview pidió a algunos usuarios que mezclaran pegamento no tóxico en la salsa de su pizza para evitar que el queso se resbalara, una receta falsa que parecía tomada prestada de una publicación de Reddit de hace 11 años que pretendía ser una broma. La IA pidió a otros usuarios que ingirieran al menos una piedra al día para obtener vitaminas y minerales, consejo que surgió de un artículo satírico en The Onion.

Como fuente de ingresos de la empresa, la Búsqueda de Google es “la única propiedad que Google necesita para mantenerse relevante/confiable/útil”, escribió Gergely Orosz, ingeniero de software con un boletín de tecnología, en Pragmatic Engineer. Los conocimientos de IA convierten la búsqueda de Google en basura en toda mi línea de tiempo.

La gente también compartió ejemplos de Google diciéndoles a los usuarios en negrita que limpien sus lavadoras con “lejía y vinagre blanco”, una mezcla que, cuando se combina, puede crear gas cloro nocivo. En una fuente más pequeña, indicaba a los usuarios que limpiaran con uno y luego con el otro.

Los usuarios de las redes sociales intentaron competir contra aquellos que podían compartir las respuestas más extravagantes de Google. En algunos casos, falsificaron los resultados. Una captura de pantalla manipulada parecía mostrar a Google afirmando que una buena cura para la depresión era saltar desde el puente Golden Gate, citando a un usuario de Reddit. Levin, portavoz de Google, dijo que los sistemas de la compañía nunca habían arrojado ese resultado.

AI Overview, sin embargo, tuvo problemas con la historia presidencial, afirmando que 17 presidentes eran blancos y que Barack Obama fue el primer presidente musulmán, según capturas de pantalla publicadas en X.

También afirma que Andrew Jackson se graduó de la universidad en 2005.

Kevin Roose informes aportados.