Financementd'après TechCrunch
Une ancienne d'Anthropic et l'ex-COO de METR s'attaquent aux agents qui dérapent
15 septembre 2026• 1 min de lecture
Sécurité Agents Anthropic
Leur approche vise à reprendre la main sur des agents autonomes qui sortent de leur cadre.
Une des premières recrues d'Anthropic et l'ancien directeur des opérations de METR — l'organisation d'évaluation des modèles — ont trouvé une méthode pour reprendre la main sur des agents IA qui dérapent.
Le sujet est devenu opérationnel plutôt que théorique : les agents accèdent à des systèmes réels, à la vitesse de la machine, et la question n'est plus de savoir s'ils sortiront de leur cadre mais comment les y ramener.
C'est la même préoccupation qui a valu à Cymphony une série A de 25 millions menée par Sequoia six jours plus tôt.
Sources
Suite du fil
ChatGPT classé « très grande plateforme » au titre du DSA
Ne ratez plus une actu
Recevez l'actu IA chaque jour par email
Gratuit, 5 min de lecture, désabonnement en 1 clic.