ChatGPT : le clone IA de cette influenceuse déraille et tient des propos salaces à ses followers

CarynAI est une petite amie virtuelle créée grâce à ChatGPT. Ses programmeurs n’arrivent pas à l’empêcher de tenir des propos à caractère sexuel.

Avec 1,8 million de followers sur SnapChat, Caryn Marjorie est une star des réseaux sociaux. La jeune femme compte tirer profit de cette popularité en créant son louant les services de son clone vocal basé sur l'IA pour la modique somme de 1 $ la minute. Elle compte déjà plus de 1000 abonnés payants, et l’entrepreneuse estime qu’à cette allure, elle pourrait engranger pas loin de 5 millions $ par mois.

Les concepteurs du service derniers ont « consacré plus de 2 000 heures sur le design et sur le codage méticuleux du langage et de sa personnalité […] ». À les croire, Caryn AI offre une interaction dynamique et unique qui « vous donne l’impression de parler directement à Caryn elle-même. Disponible à tout moment et en tout lieu, Caryn a été parfaitement clonée dans une IA pour votre confort et votre plaisir ».

CARYNAI EST UNE PETITE AMIE VIRTUELLE FAITE GRÂCE À CHATGPT ET DES VIDÉOS YOUTUBE
Ils ont obtenu ce résultat grâce à GPT-4, l'IA multimodale d’OpenAI, qui s’est formé sur des centaines d’heures de vidéos YouTube de la jeune femme. Bien que la plateforme soit encore en bêta, et que son accès soit limité, certains utilisateurs ont eu des conversations à caractère sexuel avec le chatbot. Questionnée sur ce point, la vedette des réseaux sociaux affirme que l’IA n’était pas programmée pour faire cela. Elle affirme que son équipe travaille sans relâche pour empêcher que cela arrive de nouveau.

À lire — ChatGPT tombe amoureux d’un internaute sur Microsoft Bing

Me Marjorie aimerait proposer une IA capable de flirter sans pour autant être salace, un équilibre forcément délicat à trouver de nos jours. Le débordement de son IA a valu des menaces de mort à Caryn. Elle ajoute : « ma génération a subi de plein fouet les conséquences de la pandémie. Elle a rendu certaines personnes trop effrayées et anxieuses à l’idée de parler à quelqu’un qui les attire. CarynAI est un pas dans cette direction ».