Los empleados de Google dicen que Bard AI es ‘peor que inútil’, se ignoran las preocupaciones éticas – Ars Technica

Desde el exterior, Google Bard parece un producto apresurado para intentar competir con ChatGPT, y algunos empleados de Google comparten ese sentimiento. Nuevo informe de Bloomberg Entrevistó a 18 trabajadores actuales y anteriores y presentó un montón de comentarios e inquietudes sobre los equipos de ética de IA que estaban «desmoralizados y desmoralizados» hasta que Google pudo sacar a Bard por la puerta.

Según el informe, se pidió a los empleados de Google que probaron previamente la versión de Bard que obtuvieran sus comentarios, que en su mayoría fueron ignorados para que Bard pudiera lanzarse más rápido. Las discusiones internas vistas por Bloomberg llamaron a Bard «merecedor de un paso atrás» y un «mentiroso patológico». Cuando se le preguntó cómo aterrizar el avión, dio instrucciones incorrectas que provocarían que el avión se estrellara. Un miembro del personal solicitó instrucciones de buceo y obtuvo una respuesta que decía que «probablemente resulte en lesiones graves o la muerte». Un empleado resumió los problemas de Bard en una publicación de febrero titulada «El frío es peor que inútil: por favor, no lo despidan». Bard se lanzó en marzo.

Probablemente podría decir muchas de las mismas cosas sobre el competidor de IA que Google persigue, ChatGPT de OpenAI. Ambos pueden dar información sesgada o falsa y alucinar respuestas incorrectas. Google va muy por detrás de ChatGPT, y la empresa está horrorizada por la capacidad de ChatGPT para responder preguntas que la gente podría escribir en una búsqueda de Google. OpenAI, el creador de ChatGPT, ha sido criticado por adoptar un enfoque laxo con respecto a la seguridad y la ética de la IA. Ahora Google se encuentra en una posición difícil. Si la única preocupación de una empresa es apaciguar al mercado de valores y ponerse al día con ChatGPT, es probable que no pueda hacerlo si se ralentiza para considerar cuestiones éticas.

Meredith Whitaker, exdirectora de Google y presidenta de la Signal Foundation, le dice a Bloomberg que «la ética de la IA ha pasado a un segundo plano» en Google y dice que «si la ética no está en posición de tener prioridad sobre las ganancias y el crecimiento, entonces finalmente no funcionará». Varios líderes de ética de Google AI han sido despedidos o dejaron la empresa en los últimos años. Bloomberg dice que las revisiones de ética de la IA hoy en día son «casi completamente voluntarias» en Google.

Si bien podría hacer algo en Google para tratar de ralentizar los lanzamientos debido a problemas éticos, probablemente no sirva de nada para su carrera. El informe dice: «Un exempleado dijo que se le pidió que trabajara para hacer justicia con el aprendizaje automático y se sentía frustrado de manera rutinaria, tanto que afectó su revisión de desempeño. Los gerentes protestaron porque se interponía en su ‘trabajo real’. «