Google lucha por eliminar manualmente respuestas extrañas de IA en la búsqueda

Las redes sociales han estado repletas de ejemplos del nuevo producto de superposición de inteligencia artificial de Google que les dice a los usuarios las cosas más extrañas, desde decirles que le pongan pegamento a la pizza. Recomiendan comer piedras. La implementación confusa significa que Google se está apresurando a desactivar manualmente las superposiciones de IA para búsquedas específicas a medida que se publican varios memes, razón por la cual los usuarios los ven. Muchos de ellos desaparecerán. Poco después publicó en las redes sociales.

Es una situación extraña porque Google ha estado probando superposiciones de IA durante un año (la función se introdujo como una experiencia de creación de búsqueda en versión beta en mayo de 2023) y el director ejecutivo, Sundar Pichai, dijo que la compañía atendió más de mil millones de consultas en ese tiempo.

Pero al mismo tiempo, Pichai dijo que Google ha reducido el costo de proporcionar respuestas de IA en un 80 por ciento, «impulsado por los avances en hardware, ingeniería y tecnología». Parece que una actualización de algún tipo pudo haber ocurrido muy rápidamente, antes de que la tecnología estuviera lista.

«Una empresa que alguna vez fue conocida por ser vanguardista y enviar productos de alta calidad ahora es conocida por sus productos de baja calidad que están ganando terreno», dijo uno de los fundadores de AI, que prefirió permanecer en el anonimato. en el borde.

Google continúa diciendo que su producto de descripción general de IA a menudo genera «información de alta calidad» para los usuarios. «Muchos de los ejemplos que vimos eran preguntas inusuales, y también vimos ejemplos que no habían sido estudiados o que no pudimos reproducir», dijo la portavoz de Google, Megan Farnsworth. en el borde. Farnsworth también confirmó que la compañía está «tomando medidas rápidas» para eliminar superposiciones de IA en ciertas consultas que son apropiadas según nuestras políticas de contenido, y está utilizando estos ejemplos para realizar mejoras más amplias en nuestros sistemas, algunas de las cuales ya han comenzado a implementarse.

dijo Gary Marcus, experto en inteligencia artificial y profesor emérito de neurociencia en la Universidad de Nueva York. en el borde Muchas empresas de inteligencia artificial están vendiendo sueños de que esta tecnología pasará del 80 por ciento correcta al 100 por ciento correcta. Lograr el primer 80 por ciento es relativamente sencillo porque implica aproximarse a una gran cantidad de datos humanos, pero el 20 por ciento final es más desafiante, dijo Marcus. De hecho, Marcus cree que el último 20 por ciento puede ser la parte más difícil de todas.

«Realmente hay que razonar para decidir: ¿Es esto creíble? ¿Es esta evidencia legítima? Hay que hacer cosas que un verificador de datos humano puede hacer, y que en realidad podrían requerir inteligencia artificial general», dijeron Marcus y Yann LeCun. , jefe de IA en Marcus y Meta. Ambos están de acuerdo Los grandes modelos de lenguaje que impulsan los sistemas de IA actuales, como Gemini de Google y GPT-4 de OpenAI, no crean AGI.

Este es un punto difícil para Google.les hicimos bailar”Cita, OpenAI es esta reportado Trabajando en su propio motor de búsqueda, la nueva startup de búsqueda de IA ya está ahí Valorado en mil millones de dólaresY la generación más joven de usuarios que quieren una mejor experiencia se está cambiando a TikTok. La empresa claramente siente la presión de competir, y la presión está creando lanzamientos de IA confusos. Marcus señala que en 2022, Meta lanzó un sistema de inteligencia artificial llamado Galactica que tuvo que ser descartado poco después del lanzamiento porque, entre otras cosas, Pedirle a la gente que coma vidrio. Familiar.

Google tiene grandes planes para superposiciones de IA, y la función de hoy es solo una pequeña porción de lo que la compañía anunció la semana pasada. Lógica de varios pasos para consultas complejas, la capacidad de generar una página de resultados seleccionada por IA, búsqueda de videos en Google Lens: hay mucha ambición aquí. Pero ahora, la reputación de la empresa depende de que los conceptos básicos sean correctos, y la situación no está mejorando.

«[These models] Constitucionalmente no pueden hacer controles de cordura en sus propios trabajos y eso es lo que ha vuelto a perjudicar a la industria”, dijo Marcus.