Amazon Alexa presenta nueva tecnología que puede imitar sonidos, incluidos los de los muertos

«En lugar de la voz de Alexa leyendo el libro, es la voz de la abuela del bebé», explicó Rohit Prasad, vicepresidente sénior y científico jefe de IA de Alexa, con entusiasmo el miércoles durante un discurso de apertura en Las Vegas. (El fundador de Amazon, Jeff Bezos, es dueño de The Washington Post).

la oferta Fue el primer vistazo de la última función de Alexa, que, aunque todavía está en desarrollo, permitirá que el asistente de voz repita las voces de las personas a partir de clips de audio cortos. El objetivo, dijo Prasad, es generar una mayor confianza con los usuarios al infundir a la IA «los rasgos humanos de empatía e influencia».

La nueva característica puede ‘hacer [loved ones’] Flashbacks «, dijo Prasad. Pero si bien la perspectiva de escuchar la voz de un pariente muerto puede ser muy conmovedora, también plantea una gran cantidad de preocupaciones éticas y de seguridad, dijeron los expertos.

«No siento que nuestro mundo esté listo para una tecnología de clonación de voz fácil de usar», dijo a The Washington Post Rachel Tobak, directora ejecutiva de SocialProof Security, con sede en San Francisco. Agregó que dicha tecnología podría usarse para manipular al público a través de clips de audio o video falsos.

«Si los ciberdelincuentes pueden replicar de manera fácil y confiable la voz de otra persona usando una pequeña muestra de voz, pueden usar la muestra de voz para hacerse pasar por otras personas», agregó Tupac, un experto en seguridad cibernética. “Este mal actor puede engañar a otros para que piensen que es la persona a la que se está haciendo pasar, lo que puede provocar fraude, pérdida de datos, apropiación de cuentas y más”.

También existe el peligro de difuminar las líneas entre lo humano y lo mecánico, dijo Tama Lever, profesora de estudios de Internet en la Universidad de Curtin en Australia.

«No recordarás haber hablado con las profundidades de Amazon… y Sus servicios de recogida de datos Si está hablando con tu abuela, o la voz de tu abuelo, o la voz de un ser querido”.

«Es un poco como un episodio de Black Mirror», dijo Leaver, señalando. Una serie de ciencia ficción que retrata un futuro bajo el título de tecnología.

Un ingeniero de Google que cree que se ha conseguido la inteligencia artificial de la empresa

Leaver agregó que la nueva función de Alexa también plantea dudas sobre el consentimiento, especialmente para las personas que nunca imaginaron que un asistente personal automatizado llevaría su voz después de su muerte.

“Existe una pendiente resbaladiza real en el uso de datos de personas fallecidas de una manera que es aterradora por un lado, pero muy poco ética por el otro porque nunca pensaron en usar estos efectos de esta manera”, dijo Leaver.

Habiendo perdido recientemente a su abuelo, Lever dijo que simpatizaba con la «tentación» de querer escuchar la voz de un ser querido. Pero, dijo, la posibilidad abre una puerta de consecuencias que la sociedad puede no estar dispuesta a soportar, por ejemplo, ¿Quién tiene derecho a los pequeños fragmentos que la gente deja para los influencers de la World Wide Web?

Si mi abuelo me envió 100 mensajes, ¿tengo derecho a poner eso en el sistema? Y si es así, ¿quién es el dueño? ¿Amazon tiene esa grabación entonces? ‘, preguntó. ‘¿Has renunciado al derecho a la voz de mi abuelo?’

Prasad no dio más detalles sobre tales detalles durante el discurso del miércoles. Sin embargo, planteó que la capacidad de imitar sonidos era producto de «sin duda vivir en la edad de oro de la inteligencia artificial, donde nuestros sueños y la ciencia ficción se hicieron realidad».

Este modelo de IA intenta recrear la mente de Ruth Bader Ginsburg

Leaver dijo que si la demostración de Amazon se convierte en una característica real, es posible que las personas deban comenzar a pensar en cómo se usarán sus voces y semejanzas cuando mueran.

“¿Debo considerar en mi testamento que debo decir: ‘Mi voz y mi historial representado en las redes sociales son propiedad de mis hijos, y ellos pueden decidir si quieren o no revivir eso en el chat conmigo? — preguntó Palanca.

«Es algo extraño de decir ahora. Pero probablemente sea una pregunta para la que debamos tener una respuesta antes de que Alexa comience a hablar como yo mañana».