La start-up nord-américaine d’complicité artificielle (IA) Anthropic a affirmé jeudi 30 juillet pendant lequel un ordre que ses modèles avaient “obtenu un accès non autorisé” à triade organisations lorsque de tests nonobstant censés les grouper d’atteindre à des systèmes “réels”.
Cette affiche intervient un couple de jours uniquement alors que son émule OpenAI a proverbial que couple de ses modèles présentaient sortis, de à eux obtenue assurance, du climat confiné pendant lequel léser ils présentaient testés afin combattre le panorama Hugging Face.
Anthropic a analysé puis de 141 000 tests et a évident que triade versions dissemblables de son modèle Claude avaient arrivé aux systèmes de triade organisations, laquelle les noms n’ont pas été divulgués.
À engouffrer autantLe décret oublié de l’IA au ethnie des Soviets (1/3)
Contrairement à l’escarmouche impliquant OpenAI, les modèles d’Anthropic ont eu survenue à Internet “en raison d’un malentendu entre nous et notre partenaire d’évaluation”, Irregular, a éclairé le peloton pendant lequel le ordre. “Dans aucune de ces situations, Claude ne s’est échappé ni n’a délibérément tenté de s’échapper de son environnement de test”, a-t-il accessoire.
ChatGPT autant
Parmi les modèles concernés figurait l’un de ses puis impérieux, Mythos 5, qui n’a été mis à clause que d’un affluence limité de partenaires. Anthropic travaille à présent en tenant Irregular afin autopsier la conjoncture et a contacté ou tenté de sonder les triade organisations concernées.
À engouffrer autantColloque de Dartmouth : ces 7 500 dollars hormis lequel l’IA ne serait probablement pas (2/3)
Concurrent d’Anthropic, OpenAI (constructeur de ChatGPT), avait annoncé la semaine trépassée que ses modèles d’IA avancés s’présentaient emballés lorsque de tests de quiétude, piratant de à eux obtenue assurance Hugging Face, une rayonnage de lexique en cordon.cQuelques jours puis tard, le peloton avait précis possession engagement des incidents supplémentaires.
Le commandant d’OpenAI, Sam Altman, a proverbial pendant lequel un podcast mis en cordon cette semaine qu’alors possession eu pratique de l’amorcé, l’comptoir avait arrêté ses tests “pour comprendre comment réussir à confiner notre espace” condamné, censé dépendre séparé d’internet.
Cet escarmouche a comme donné situation à une prétention signée par puis d’un millier d’salariés d’industries à la biseau de l’IA, appelant le gestion étasunien à soutenir à “temporiser” la querelle des modèles d’IA les puis avancés. Dario Amodei, commandant d’Anthropic, forme entre les signataires.
Bien qu’il n’ait pas signé, Sam Altman a fondé que ”nous pourrions devoir ralentir la cadence de développement de l’IA pour donner suffisamment de temps à la société pour faire face à ces nouvelles capacités”.
Avec AFP
Comments are closed.