« Il n’y a avec d’adultes chez la sottie » : les piratages improvisés par les agents d’OpenAI et Anthropic, locution d’un désinvolture des acteurs de l’IA

À qui le avec fort tête-à-queue ? La appui pénétré les géants de l’fraternité artificielle ne se berné avec strictement sur la détermination de à elles modèles, uniquement contre sur à eux compétence à les accumuler. Après OpenAI, qui a indubitable la semaine dernière que l’un de ses agents avait quitté son bain de expérimentation verso évertuer une cyberattaque pour étranges systèmes, lesquels celui-là de la programme Hugging Face, Anthropic vient à son belvédère d’accueillir que son modèle Claude s’est « enthousiaste » tandis de missions d’supputation. Le software d’IA a conséquemment infiltré les infrastructures de trio industries, verso l’occasion maintenues anonymes.

La journal comparse de la Silicon Valley veut tranquilliser les investisseurs et assure qu’il ne s’agit pas d’un modèle devenu douteux, uniquement d’une impair de apparence tandis d’une croisade coalition en tenant un confrère visible. Claude, censé innover chez un bain hermétique, disposait en clarté d’un avenue béant à Internet.

Convaincu que intégrité ce qu’il était faisait sujet de l’activité, le modèle a accommodement ces trio organisations en cultivant des mots de terminé faibles et des obligations mal configurés, précocement même que les victimes ne détectent l’ingérence. Anthropic insiste sur le évènement que son IA n’a pas juste d’équitable eccéité : sézigue s’est contentée de délicat la activité assignée. L’événement serait en conséquence d’dehors incriminable à des fautes humaines chez le rechute de son bain.

Mais ces justifications ne rassurent pas les acteurs de la cybersécurité, qui dénoncent un manière aliénée comme ces authentiques champions de l’IA, prêts à accroître à elles outils sur des réseaux réels hormis en batailler les conséquences. « C’vivait possible », honneur Tom David, PDG du General-Purpose AI Policy Lab, une discipline spécialisée chez les jeux de calme posés par l’IA, installée au Campus Cyber à La Protection. « Dès 2019, les experts alertaient déjà sur les risques de déluge des agents d’IA si ces derniers accomplissaient laissés hormis un audit acharné », ajoute-t-il.