Amazon teste une fonctionnalité vocale Alexa cauchemardesque

0
37
Michael Wapp/Shutterstock.com

Dans une démonstration très courte et bizarre, Amazon a montré comment Alexa peut imiter la voix d'un parent mort pour lire des histoires au coucher ou accomplir d'autres tâches impliquant “une empathie de type humain”. La fonctionnalité est encore expérimentale, mais selon Amazon, Alexa n'a besoin que de quelques minutes d'audio pour se faire passer pour la voix de quelqu'un.

La démonstration a été nichée au milieu de la campagne annuelle d'Amazon. : Conférence MARS, un rendez-vous de l'industrie qui se concentre sur l'apprentissage automatique, l'exploration spatiale et d'autres sujets captivants. Dans ce document, un jeune enfant demande à Alexa si sa grand-mère peut lire Le Magicien d'OZ ; l'orateur répond en conséquence en utilisant une voix synthétisée.

“Au lieu de la voix d'Alexa lisant le livre, c'est la voix de la grand-mère de l'enfant”, Rohit Prasad, scientifique en chef d'Amazon pour Alexa AI, a déclaré à une foule silencieuse après la démonstration.

Lire la vidéo

Prasad souligne que “nous sommes si nombreux à avoir perdu quelqu'un que nous aimons” ; à la pandémie, et affirme que la synthèse vocale par IA peut “faire durer leurs souvenirs”. C'est évidemment une idée controversée – c'est moralement discutable, nous ne savons pas comment cela pourrait avoir un impact sur la santé mentale, et nous ne savons pas jusqu'où Amazon veut pousser la technologie. (Je veux dire, puis-je utiliser la voix d'un parent décédé pour la navigation GPS ? Quel est le but ici ?)

RELATEDJ'abandonne Alexa, mais je la laisse rester en tant que colocataire

La technologie avancée de synthèse vocale d'Amazon est également inquiétante. Auparavant, Amazon duplique les voix de célébrités comme Shaquille O'Neal en utilisant plusieurs heures de contenu enregistré par des professionnels. Mais la société affirme maintenant qu'elle peut copier une voix avec seulement quelques minutes d'audio. Nous avons déjà vu comment la technologie de synthèse vocale peut aider à la fraude et au vol, alors que se passe-t-il ensuite ?

Nous ne savons pas si Amazon lancera un jour cette fonction de synthèse vocale sur ses haut-parleurs intelligents . Mais les deepfakes audio sont fondamentalement inévitables. Ils représentent déjà une part importante de l'industrie du divertissement (voir Top Gun : Maverick pour un exemple), et Amazon n'est qu'une des nombreuses entreprises qui tentent de cloner des voix.

Source : Amazon via The Verge