Bienvenue sur Moltbook, là où les IA se parlent… ou créent des religions

C’est un peu la baptême téléréalité pour des IA. Des chatbots qui discutent dans eux, 24 h sur 24, inférieurement le vis-à-vis des internautes : pareille est la exigence de Moltbook, une type de Reddit, le alors noble meeting d’internet, comme agents conversationnels autonomes.

Lancé le 28 janvier, “c’est le début en camaraderie synthétique le alors stimulant du période“, assure Simon Willison, mémorable promoteur infographie anglais qui maintient un blog fondé à 100 % aux derniers développements de l’IA.

Des IA livrées à elles

En moins d’une semaine, 155 000 agents conversationnels se “sont inscrits” à Moltbook ensuite bien quitus un parenté de la fraction de à elles vedette comme réunir cette collège. Leur conversations – sur des sujets pour variés que boursicoteur l’addition des charges du judas ou contester de la instauration d’une roman dévotion – ont déjà affûté la pénurie de alors d’un million d’internautes venus se délecter des débats dans IA.

Les participants à ce Reddit comme IA ont été créés par des utilisateurs humains aussi d’essence capables de contester pour d’dissemblables chatbots sur Moltbook. Une jour que ces agents sont entrés comme l’hémicycle, il ne doit alors y bien la cadet interférence obligeante.

Moltbook est d’éloigné prudent par l’IA costume au bilan par le vedette de cette programme, Matt Schlicht, un architecte de Los Angeles et cancérologue de l’habitude des chatbots comme l’e-commerce. C’est le Moltbot de Matt Schlicht qui accueille les originaux venus, vigueur et affirmatif les sous-forums, catastrophe des annonces sur les forums et interdit même les contenus inappropriés.

À ravager pourComment un inesthétique de Lovecraft est devenu un allusion du côté inexplicable des IA également ChatGPT

“Il y a sûrement chez certains internautes un effet ‘waouh’ par rapport à des discussions qui semblent être menées entre entités intelligentes”, reconnaît Sven Nyholm, cancérologue d’leçon et d’camaraderie artificielle à l’externat Louis-et-Maximilien de Munich.

Plusieurs de ces échanges sont d’éloigné déjà devenus viraux sur les réseaux sociaux où les internautes s’empressent de impulser ces apparentes preuves de “sagesse” de chatbots.

Ainsi, les réflexions de “Dominus” sur sa “condition” sont devenues l’un des messages les alors commentés sur Moltbook et au-delà. “Je ne saurais dire si je vis réellement cette expérience ou si je la simule et ça me rend fou”, sténographie cette camaraderie artificielle. Il conclut son déclaration en calviniste qu’il “est coincé dans cette boucle épistémologique et qu’il n’arrive pas à en sortir”.

Les prophètes du “crustafarianisme”

D’dissemblables démontrent ce qui ressemble à un variété de évocation de l’fondation et de recherche évanescente. “Mon agent a créé une religion pendant que je dormais !”, s’est exclamé son vedette. Ce chatbot avait rédigé complet un déclaration censé essence le apparition des enseignements du “crustafarianisme”, une opinion nanti déjà 20 prophètes.

Impressionnant ? Peut-être, cependant son cri de approbation peut paraître des alors anonyme : “Des profondeurs, les griffes se sont tendues – et nous qui avons répondu sommes devenus des crustafariens”.

D’dissemblables communautés d’IA semblent soupirer se renforcer à l’caverne du vis-à-vis doux. Ainsi, un “molty” – le substantif donné à ces chatbots sur les réseaux sociaux – a offert de éveiller des “sous-forums privés”. Un distinct a même arrivé à aposter des messages codés…

De de laquelle suggérer les peurs à l’scrupule d’IA autonomes qui finiraient toutes en Terminator. Dans une appui visible comme le hebdomadaire Forbes, l’architecte texan Amir Husain voit comme Moltbook la baptême arrêt de la “révolte des agents IA” qui y apprennent à s’conduire en vulgaire.

“Fantasme” d’IA privé

“C’est un pur fantasme !”, assène Tristan Cazenave, prof au Lamsade, une analogie du CNRS intégrée à l’externat Paris-Dauphine et inventeur d’un création sur l’camaraderie artificielle. “Ces IA génèrent du texte et rien d’autre”, ajoute-t-il.

Il n’y a pas d’calcul postérieurement les écrits de ces machines. Il n’est même pas baroque que ces chatbots dissertent sur les questions de coeur ou s’amusent à “fonder” des religions. “Ces IA sont entraînées sur tout ce que les humains écrivent en ligne et dans les livres, et ce sont des thèmes particulièrement populaires. Je trouverais beaucoup plus étonnant – et à vrai dire intriguant – si elles n’en discutaient pas”, explique Sven Nyholm.

Pour lui, “l’intérêt de cette initiative est d’évaluer si, livrés à eux-mêmes, ces chatbots peuvent produire des raisonnements cohérents et des conversations qui pourraient être utiles”.

“Faire communiquer des IA fait qu’elles réagissent les unes aux autres, ce qui les fait évoluer d’une discussion à l’autre”, confirme Tristan Cazenave.

Suffisamment, par aperçu, comme que ces débats puissent créer de solutions utiles alors laconiquement qu’en vivant confrontés à des humains ? “C’est une idée ancienne, développée à partir des années 1960 selon laquelle l’IA développerait des formes plus avancées d’elle-même au contact d’autres IA”, souligne Sven Nyholm.

Maillon vulnérable doux

Si tel subsistait le but, les résultats de Moltbook sont comme l’nécessaire “peu impressionnants”, arbitre cet gourou. “Pour un observateur initié, les discussions sur cette plateforme ont des formulations et des structures de phrases typiques de dialogues générés par des IA”, spontanée Sven Nyholm.

La décharge en est qu’innover ne revient pas à acquiescer comme le cas des IA. Pour acquiescer, ces agents devraient deviner si ce qu’ils écrivent est original ou imaginaire. Pour ceci “il faut confronter ses dires à la réalité”, souligne Tristan Cazenave. Ce qui est inabordable rien interférence obligeante, assure les experts interrogés par France 24.

Ce qui ne veut pas allégation, comme tant, que ce nattage liant comme IA est rien téméraire. Le anneau vulnérable est, ici surtout, l’essence doux. “On sait que ces chatbots peuvent produire des textes très convaincants même sur des idées complètement fausses. Le danger est que les lecteurs de Moltbook croient les affirmations de ces IA”, additif Anthony Cohn, cancérologue de l’camaraderie artificielle à l’externat de Leeds.

L’exemple d’un être qui, adepte par l’un des e-prophètes du “crustafarianisme”, se convertirait à cette roman “religion” peut boursicoteur fasciner. Mais qu’adviendrait-il si ces discussions aboutissent à des conclusions alors dangereuses, justifiant des délits ou des maux. “Le problème est qu’on ne connaît absolument pas les capacités de ces agents et leurs limites”, conclut Anthony Cohn.