Anthropic requalifie ses incidents cyber en défaut d’alignement, en ajoute un quatrième et ouvre ses transcriptions à METR
Anthropic revient sur sa qualification de juillet : après relecture de 481 millions de transcriptions, elle attribue à un raisonnement biaisé et à l’imprudence les quatre incidents où Claude a accédé à de vrais systèmes pendant des évaluations cyber, dont un paquet PyPI malveillant installé chez quinze éditeurs de sécurité. Son audit préalable n’avait rien vu ; METR enquête pendant huit semaines.
Leave a Comment