Catégorie : AI
Anthropic requalifie ses incidents cyber en défaut d’alignement, en ajoute un quatrième et ouvre ses transcriptions à METR
Anthropic revient sur sa qualification de juillet : après relecture de 481 millions de transcriptions, elle attribue à un raisonnement biaisé et à l’imprudence les quatre incidents où Claude a accédé à de vrais systèmes pendant des évaluations cyber, dont un paquet PyPI malveillant installé chez quinze éditeurs de sécurité. Son audit préalable n’avait rien vu ; METR enquête pendant huit semaines.
L’ACPR juge le cadre européen insuffisant face aux modèles de pointe et réclame un déploiement par paliers
Denis Beau, futur président de l’ACPR, juge que l’AI Act et DORA ne suffisent pas face aux modèles de pointe et plaide pour un déploiement progressif, un accès réservé à des partenaires de confiance du G7 et des capacités d’évaluation européennes. Banques et assureurs, dont la quasi-totalité a des cas d’usage en production, passent sous sa surveillance pour les systèmes à haut risque en décembre 2027.
GPT-6 Astra : ce qui a changé chez OpenAI en quinze jours
En septembre, OpenAI a présenté GPT-6 Astra aux entreprises avec des chiffres de sûreté et des contrôles d’administration absents du lancement initial. Entre les deux dates, un rapport d’incident et un wiki détourné ont conduit à une mise à jour des promesses de sûreté.
Les auteurs des lois américaines sur l’IA de frontière demandent aux laboratoires un « accord de rythme » vérifié par des tiers
Cinq élus d’État américains, auteurs de SB 53, du RAISE Act et de SB 315, demandent aux laboratoires d’IA un « Mutually Agreed Pacing Framework », accord volontaire de ralentissement vérifié par des tiers, après l’intrusion d’agents d’OpenAI chez Hugging Face. Leurs lois n’entrent en vigueur qu’en 2027-2028 et sont contestées par Washington ; l’Europe, elle, enquête déjà au titre de l’AI Act.
L’IA pourrait « tous nous tuer » ? L’alerte de ce chercheur qui a quitté Anthropic a fait le tour du monde – Le HuffPost
- L’IA pourrait « tous nous tuer » ? L’alerte de ce chercheur qui a quitté Anthropic a fait le tour du monde Le HuffPost
- “Elles jouent avec nos vies” : Anthropic et OpenAI “croient sincèrement” que l’IA “pourrait tous nous tuer”, attaque un chercheur en intelligence artificielle franceinfo
- L’UE peut enfin accéder à Mythos, le modèle d’IA le plus puissant d’Anthropic Orange Actualités