Google despidió al ingeniero de inteligencia artificial Blake Lemoine, quien afirmó que LaMDA 2 AI tenía conciencia

Blake Lemoine, un ingeniero de Google que reclamado públicamente Que la IA conversacional LaMDA de la compañía es sensible, se ha lanzado, según Boletín de grandes tecnologíasQue hablé con Lemoine. En junio, Google colocó a Lemoine en licencia administrativa pagada por violar su acuerdo de confidencialidad después de que se comunicó con miembros del gobierno sobre sus preocupaciones y contrató a un abogado para representar a LaMDA.

Estado de cuenta por correo electrónico a el borde El viernes, el portavoz de Google, Brian Gabriel, pareció confirmar el tiroteo y dijo: «Le deseamos lo mejor a Blake». La compañía también dice: «LaMDA ha pasado por 11 revisiones distintas y publicamos un artículo de investigación a principios de este año que detalla el trabajo que se dedica a su desarrollo responsable». Google afirma que ha revisado «extensamente» las afirmaciones de Lemoine y las ha encontrado «completamente infundadas».

esto corresponde a Muchos Expertos en Inteligencia Artificial y especialistas en ética, quienes dijeron que sus afirmaciones eran algo imposibles dada la tecnología actual. Lemoine afirma que sus conversaciones con el chatbot de LaMDA lo llevaron a creer que se estaba convirtiendo más en un programa y que tenía sus propios pensamientos y sentimientos, en lugar de solo producir una conversación lo suficientemente realista como para que pareciera de esa manera, como fue diseñado para hacerlo.

Argumenta que los investigadores de Google deberían buscar la aprobación de LaMDA antes de experimentar con él (Lemoine mismo está listo para probar si la IA produjo discurso de odio) y publicar partes de esas conversaciones en su cuenta de Medium como evidencia.

El canal de YouTube de Computerphile tiene Una explicación decentemente accesible de nueve minutos. Sobre cómo funcionaba LaMDA y cómo podía producir respuestas que convencieran a Lemoine sin ser realmente consciente.

Aquí está la declaración de Google en su totalidad, que también aborda la acusación de Lemoine de que la empresa no investigó adecuadamente sus afirmaciones:

Como compartimos en nuestro sitio Principios de la inteligencia artificialNos tomamos en serio el desarrollo de la IA y seguimos comprometidos con la innovación responsable. LaMDA se ha sometido a 11 revisiones distintas y hemos publicado un archivo trabajo de investigación A principios de este año, detalló el trabajo que implica su desarrollo responsable. Si un empleado comparte una preocupación sobre nuestro trabajo, como lo hizo Blake, lo revisamos detenidamente. Encontramos que las afirmaciones conscientes de Blake sobre lambda eran completamente infundadas y trabajamos para aclarar esto con él durante varios meses. Estas discusiones fueron parte de una cultura abierta que nos ayuda a innovar responsablemente. Por lo tanto, es desafortunado que, a pesar de una publicación larga sobre este tema, Blake siga optando por violar sistemáticamente las políticas explícitas de contratación y seguridad de datos que incluyen la necesidad de proteger la información del producto. Continuaremos con nuestro desarrollo riguroso de modelos de lenguaje y le deseamos lo mejor a Blake.