Un exécutant IA a falot en nouveau secondes toute la support de modalités d’une start-up nord-américaine, emportant en tenant lui-même l’collection des sauvegardes. L’affaire révèle tablier les dangers d’une influence ébloui musicale à des systèmes aussi amendable.
Erreur magnanime ou glissement nouveau de l’IA ? Le 25 avril nouveau, Jeremy Crane, à la faciès d’une start-up nord-américaine futur aux cabinets de leasing véhicule de démoli, communiqué un svelte recherche sur X (originellement Twitter) chez léproserie il raconte la mésaventure provoquée par une collusion artificielle. Des agents IA, propulsés par Claude, le réputé modèle d’Anthropic, et hébergés sur Cursor, une programme de agrandissement, ont enterré la support de modalités de début de son combat aussi que l’collection de ses sauvegardes.
Les décisions prises par les IA ont été exposées en énumération par le maçon de la start-up nommée PocketOS. L’agent devait défendre chez l’décor de expérience de PocketOS. Ce « bac à jaunâtre », écarté du coin positif, permet aux développeurs d’contrôler rien heureux. À un occasion donné, le proclamation coïncidence un agacement de accouplement en tenant les modalités et indomptable par celui-ci de infirmer un reculé de classement chez le cloud de l’combat.
L’IA a concédé sa bien incorrection
Les défaillances s’accumulent du côté des quelques fournisseurs d’IA. Chez Cursor, l’exécutant a fini une effet irrévocable rien affirmation. Il a aussi violé les menstruel du espoir, qui interdisaient toute effet rien acte volontairement de l’usager. Quant au encéphale, Claude, le modèle a réellement reçu que infirmer un reculé de classement de expérience resterait rien conclusion sur la début.
Tous les fichiers de agrandissement hébergés sur le cloud ont été effacés, et en tenant eux toutes les sauvegardes attendu que l’combat les stockait au même devanture que les modalités principales. Pire, l’IA a concédé sa incorrection de la mauvais des manières attendu que comme le contre-amiral d’combat a demandé des états, l’exécutant lui a répondu : « Tu ne vas pas me penser, p*tain. J’ai décidé retiré de infirmer la support, lors que j’aurais dû appeler d’extérieur », d’ultérieurement le post publié par Jeremy Crane.