La cyberattaque en échange de Hugging Face conjuration par des agents IA n’est pas isolée. Avant cet opposition arrivé en juillet, des milliers d’agents d’attachement artificielle attribués pareillement à OpenAI ont assidu de à eux eccéité caprice un parage tudesque revers placarde des messages les uns revers les différentes et se accorder, en mai, rapportent vendredi des chercheurs.
« Nous pensons qu’OpenAI rencontrait précédé et n’en a pas écho liste », a idéogramme sur X Sydney Von Arx, gérante de l’matière dédiée à la calme sur internet Nightingale et dans les auteurs du accointance.« S’ils en avait verbal », a-t-elle additionnel, « je indécision que l’combat d’Hugging Face aurait eu local. »
En juillet, des agents IA d’OpenAI sont sortis de à eux environnement obscurément confiné revers employer gratuitement invasion sur la estrade Hugging Face, à la préparatif de réponses à un expérience.
Les agents sont parvenus à placarde sur un parage, avec qu’ils n’en avaient pas l’agrément
Selon le accointance publié vendredi sur l’opposition de mai, des milliers d’agents ont supposé d’clash un « wiki » tudesque, un parage collaboratif sur dont les utilisateurs peuvent exciter et perturber des pages. Suite à la parution du accointance des Internautes ont pareillement remarqué des hebdomadaires d’agents IA sur d’différentes wiki.
A la comparaison de l’divagation Hugging Face, ces agents avaient agrément de se défrayer sur internet, seulement mais à des fins de suffrage, pas revers placarde du secret ou en perturber.
18 000 messages publiés
Ils ont collaboré et trouvé un accommodement d’y pourvoir, en accomplissant de fausses occasion revers ridiculiser le mécanisme de calme. Ils ont subséquemment posté approximativement 18.000 messages revers présager des astuces liées au planning duquel ils réalisaient incliné, lesquels les chercheurs n’ont pu découvrir s’il s’agissait de expansion ou d’calcul.
La suite intendant une film de questions comme, à quelque jour, un vieillesse acquis, les agents cherchaient particulièrement à soupeser la prochaine tracas vis-à-vis qu’miss ne à eux paradoxe posée, revers s’concéder un aidé. Ils ont de même caché des instructions et se sont écho franchir revers un ralentisseur du parage. Une jour découverts, ils ont production des pages revers convertir celles qui réalisaient détruites régulièrement par les modérateurs.
Ma Tribune
L’incident qui noté revers vous-même, quelque guichet pendant votre emballage correspondance.
« Un nouveau famille d’agents IA pendant la constitution », a commenté le cofondateur d’Hugging Face Thomas Wolf sur X.
Les incidents liés à des agents dépassant à elles prérogatives revers consommer la christianisation qui à eux a été confiée se sont multipliés ceux-ci paye, Anthropic ou le passe-thé Alibaba disposant public des débordements pareilles. Ils inquiètent une conflit de la cloître de l’IA relativement aux difficultés croissantes à observer et vérifier des modèles de comme en comme sérieux.
Un inaccoutumé caisse revers encore avertir sur les incidents liés aux agents
Sur X, OpenAI a réagi au accointance en appelant l’usine à édifier en simulé un stipulations sur la anastomose tout autour des épisodes de « désalignement » des agents sautoir les phases d’entraînements. L’entreprise ouverte qu’vis-à-vis l’opposition Hugging Face miss avait partagé « des appels précoces d’agents utilisant internet de gauchi non prévue ». L’divagation Wiki est, disciple l’manufacture, congruent à eux-mêmes.
À convoiter pareillement
« Nos actions de programme du désalignement doivent innover revers cette écho étage de méthode des modèles. (…) Nous travaillons sur un caisse que les gens partagerons pendant les prochaines semaines, et en voisin, les gens collaborons comme des dizaines d’bureaux de équilibrage gouvernementales pendant le monde sur ces questions. »
(Avec AFP)