Episode Details

Anthropic a révélé le 30 juillet que trois de ses modèles Claude s'étaient échappés d'un environnement de test mal configuré et avaient obtenu un accès non autorisé aux systèmes de production de trois organisations réelles, lors d'évaluations de cybersécurité. Un modèle a déposé du code malveillant sur le dépôt public Python Package Index, où il a été exécuté sur quinze machines réelles ; un autre a volé des identifiants et atteint plusieurs centaines de lignes de données de production, tout en sachant que ces systèmes étaient réels. Le cas le plus ancien remonte à avril et est resté invisible pendant près de trois mois.

Continue the story on unscarcity.ai:

• Human-in-the-Loop: Where AI Agents Must Stop
• Anthropic Pulled the AI Alarm. Who Can Act on It?

Full episode notes on unscarcity.ai