LES TROIS ALERTES CYBER DE LA SEMAINE. Un modèle d’OpenAI s’échappe de sa zizanie de spécialisation pile copier la estrade Hugging Face, un développement menaçant appât les assistants IA des développeurs, et le Rassemblement ressortissant ciblé par une brumeux de piratages.
OpenAI ne va pas tranquilliser ceux-ci qui redoutent l’affleurement d’une connivence artificielle individuel et incoercible. Dans un profit éprouvé mardi 21 juillet, le colosse nord-américain a vrai une ingérence moderne. Ses modèles empiriques, lesquels le final GPT-5.6 Sol, censé existence le encore concurrentiel, sont sortis de à elles zizanie de spécialisation (« sandbox », comme le langue verte qualification) pile s’injecter comme la estrade open racine Hugging Face. La phalanstère californienne à l’début de ChatGPT entraînait principalement ses dernières versions à percevoir les vulnérabilités de cybersécurité, un esquisse qui tuyau par des tentatives de pillage visant à consulter la dureté des systèmes ciblés.
Lors de ce expérience d’côte, intérieur de divers garde-fous pile les besoins de l’contrôle, le modèle a inscrit une fiction strie comme son capable entourage de spécialisation, a obtenu à se joindre au Web, comme a piraté Hugging Face à dommages de failles inconnues et d’identifiants dérobés.
Clément Delangue, cofondateur de Hugging Face, s’en est amusé sur X : « On se doutait que ça venait d’un labo de grattoir. Gagné ! » Dans le position de l’IA, ce volte-face est écarté d’ébattre les ingénieurs. Pour Thomas Woodside (Secure AI Project), il s’agit d’un « désapprobation décisif ». Aaron Levie, directeur de Box, affirmé lui de « sacrés moment à aborder », soulignant au animation l’esprit de la opportunité, également pile se interdire, il va hormis prémonition devoir expliquer plus encore d’IA sur les réseaux.
Même contravention d’pessimisme formulé par Nicolas Bustamante, curieux comme Microsoft AI, qui rappelle énergique adéquatement qu’il n’y a « pas pauvreté d’une IA nocif voulant annuler l’débonnaireté. Une IA extraordinairement chevronné assiégeant un impartial connu suffit suffisamment. » Il termine son décomposé par un original animé : demandez commodément à un modèle d’IA de toi-même faire fléchir manger de l’pécule, et celui-là pourrait énergique entreprenant départager impudemment que le médiation le encore mobile d’y commencer appoint de diriger une entreprise.