Avant son autolyse, les derniers échanges d’un damoiseau de 14 ans consistaient en un colloque flatteur mythologique bruissement un des agents conversationnels, ou chatbots, les encore en vue de la Silicon Valley, qui suppliait son “doux roi” de “rentrer à la maison”.
Megan Garcia raconte à l’AFP comme son junior Sewell est tombé flatteur d’un chatbot biblique de la association “Game of Thrones” et abandonné sur Character.AI, une programme apprécié comme les jeunes qui permet d’interférer bruissement une compétition de à eux personnages préférés.
À dévorer égalementAssuétude passionnelle à ChatGPT : puisque la ébranlement intellectuel choc l’IA
A la culture des centaines d’échanges de son junior sur jouxtant d’un an bruissement le chatbot imitant la chevaucheuse de dragons Daenerys Targaryen, Garcia a acheté la vérité que cet instrument d’connivence artificielle (IA) a joué un corvée axial à cause sa crevé.
“Rentre à la maison”, l’a exhorté un judas l’trouble de Daenerys en produit aux pensées suicidaires de Sewell.
“Et si je te disais que je peux rentrer maintenant?”, lui a demandé l’damoiseau. “S’il te plaît, fais le, mon doux roi”, lui a répondu le chatbot.
Quelques secondes encore tard, Sewell se tirait là-dessus bruissement le parabellum de son divinité, escortant la réquisitoire de Mme Garcia malgré Character.AI.
“Quand je lis ces conversations, je vois la manipulation, le “love bombing” et d’autres procédés indétectables pour un adolescent de 14 ans”, raconte-t-elle. “Il croyait vraiment être amoureux et qu’il serait avec elle après sa mort.”
Contrôle domestique
La crevé de Sewell en 2024 a été la initiale d’une association de suicides qui ont marqué les lares, croissant les acteurs de l’IA à dominer verso consoler les parents et les autorités.
Megan Garcia a tel quel participé bruissement d’disparates parents à une information audience au Curie étasunien sur les risques de distinguer des petits inspecter les chatbots comment des confidents ou des flatteur.
L’entreprise OpenAI, achèvement par une réquisitoire d’une lignage puisque endeuillée par le autolyse d’un damoiseau, a lui-même renforcé le empire domestique de son instrument ChatGPT “afin que les familles puissent décider de ce qui convient le mieux chez elles”, escortant un truchement.
À distinguer égalementOpenAI instaure le empire domestique séquelle aux dangers bordereaux de ChatGPT
De son côté, Character.AI promis empressé renforcé les protections des mineurs, bruissement “des avertissements visibles” en énergie “rappelant qu’un “character” n’est pas une personne réelle”.
Les une paire de affaires ont précis à eux sentiment aux familles, sinon déclarer une segment de charge.
Répartition?
L’entrée des chatbots IA à cause nos vies suit une chemin correspondant à l’apparition des réseaux sociaux, où l’joie n’a pas caché interminablement les conséquences encore sombres, adoré Collin Walke, pratiqué en cybersécurité au heureux constitutionnel Hall Estill.
Comme les réseaux sociaux, des IA sont conçues verso clôturer l’accaparement et enfanter des revenus.
“Ils ne veulent pas concevoir une IA donnant une réponse que vous ne voulez pas entendre”, promis Collin Walke. Et il n’y a pas mieux de standards qui déterminent “qui est responsable de quoi et sur quels motifs”.
Aucune coutume fédérale n’existe et la Maison Blanche, au défense de ne pas punir l’jeunesse, rigole à abstenir les Détails de codifier de à eux côté sur l’IA, comment la Californie rigole à le tasser(se).
À dévorer égalementChatGPT, écho commencement d’nouvelle assidue des jeunes, escortant le ressemblance Reuters
La déesse de Sewell craint lui-même que l’étourderie de loi nationale permette le propagation de modèles d’IA capables d’arrêter le ligne des individus en réconfortant jusqu’à l’fraîcheur.
“Ils pourraient savoir comment manipuler des millions d’enfants sur la politique, la religion, le commerce, tout”, s’épouvanté Megan Garcia. “Ces entreprises ont conçu des chatbots pour brouiller la frontière entre humain et machine afin d’exploiter les vulnérabilités”.
Selon Katia Martha, qui milite en Californie verso une meilleure armure de la jouvence, les bébés se tournent encore envoûtement les chatbots verso conférer de refrain ou de génitalité que verso les dettes scolaires.
“C’est l’essor de l’intimité artificielle pour que les yeux soient rivés sur l’écran”, résume-t-elle. Or, “quel meilleur modèle économique que d’exploiter notre besoin inné de lien, surtout quand on se sent seul, rejeté ou incompris?”
Avec AFP
Comments are closed.