Internet Up in Arms alors qu'un utilisateur de 4Chan utilise un simulateur de voix AI pour falsifier la voix d'Emma Watson et lui fait lire l'autobiographie d'Hitler
Les anciens membres du personnel de Google et de Palantir ont lancé ensemble la startup Elevenlabs, qui visait à créer des contrefaçons audio profondes de haute qualité de célébrités grâce à leur outil de clonage de voix AI. Mais leur lancement bêta s'est rapidement retourné contre de nombreuses personnes abusant de la voix de célébrités, dont Emma Watson, via l'outil de clonage de voix AI.
De nombreux fans ont été rendus furieux par l'utilisation contraire à l'éthique et immorale de l'outil d'IA après que certains trolls aient abusé de leurs voix de célébrités préférées pour faire passer des commentaires scandaleux. Mais la startup a assuré à tout le monde qu'elle allait changer son modèle pour éviter d'autres problèmes.
Les fans enragés après qu'un utilisateur de 4Chan ait abusé de la voix d'Emma Watson via un outil d'intelligence artificielle
L'introduction de l'outil de clonage de voix AI d'Elevenlabs a mis le feu à Internet après que de nombreux trolls aient exploité l'utilisation de cet outil gratuit. Bien que beaucoup aient utilisé le logiciel pour générer du contenu sain, une partie d'Internet a abusé de l'outil pour inciter les célébrités à cracher des insultes raciales et des commentaires scandaleux, et l'utilisation abusive de d'Emma Watson la voix était la goutte d'eau.
Récemment. La carte mère a signalé l'abus extrême du logiciel AI pour créer un faux son offensant. Mais la goutte qui a fait déborder le vase a été un utilisateur de 4Chan, qui a généré un clip du Harry Potter star Emma Watson lisant mon combat , l'autobiographie du dictateur nazi Adolf Hitler.
Les fans ont été exaspérés par cette utilisation contraire à l'éthique du logiciel sur Emma Watson et d'autres célébrités renommées telles que Joe Rogan, Robin Williams, etc. Elevenlabs, qui a mis la technologie à la disposition du public, a abordé ce problème croissant et s'est engagé à lutter contre abus de leur outil de clonage de voix.
A lire aussi : Le réalisateur du 'Prisonnier d'Azkaban' a demandé au trio de Harry Potter d'écrire un essai sur leur personnage - Emma Watson a écrit 16 pages, Daniel Radcliffe avait un résumé d'une page, Rupert Grint n'en a pas écrit un
Elevenlabs s'engage à éviter de nouveaux abus de l'outil d'IA
La startup a été submergée par la réponse positive à leur aussi au début, car beaucoup utilisaient l'outil de clonage de voix AI pour une création saine. Mais la société a rapidement été confrontée à un problème après que des trolls ont commencé à exploiter le logiciel à des fins néfastes. Elevenlabs a assuré à Internet qu'il examinait la question en profondeur et cherchait les solutions possibles.
Bien que les créateurs d'Elevenlabs aient admis pouvoir retracer les utilisateurs qui abusent de la puissance de l'outil d'IA, ils recherchent des mesures de sécurité supplémentaires pour éviter ce problème. Les créateurs ont partagé différentes idées pour résoudre le problème, notamment l'introduction d'une vérification manuelle pour chaque clonage et la vérification complète de l'identité de l'utilisateur par le biais d'un paiement ou de toute autre méthode.
Bien que les tests bêta de la Startup aient connu un début mitigé, de nombreux fans étaient en colère contre l'utilisation contraire à l'éthique des voix de célébrités via l'outil d'IA, en particulier Emma Watson. Mais les gens ont également reconnu la startup pour ne pas avoir balayé la situation et pris des mesures actives pour faire face à ces trolls Internet.
Source: Vice
