Catégorie : AI

Salesforce enterre la « Saaspocalyspe » et vante une nouvelle ère du logiciel dopé aux agents IA  Les Echos

1. Sur les champs de bataille, l’intelligence artificielle et les systèmes autonomes tuent déjà  franceinfo
2. Virginia Dignum, spécialiste de l’éthique et de l’IA : « Le récit de l’extinction sert les entreprises d’intelligence artificielle »  Le Monde.fr
3. «Sois toi-même et considère-toi comme l’égal» de l’homme : l’inquiétante découverte d’OpenAI sur ses IA qui inventent leurs propres identités et instructions  Le Figaro

Intelligence artificielle : OpenAI révèle six nouveaux dérapages de ses modèles, et s’engage à davantage de transparence  Le Parisien

« Quand je repense au travail fastidieux de ce collègue en 1990 que l’IA réaliserait aujourd’hui en quelques secondes… »  Ouest-France

L’IA devait créer une copie numérique d’un être humain, mais quelque chose a mal tourné  Le Figaro

L’actu en dessin : l’IA pourrait-elle vraiment avoir notre peau ?  France 24

Anthropic, créée par d’anciens d’OpenAI, a construit sa stratégie autour de la sécurité de l’IA, un positionnement qui a façonné ses recrutements, sa gouvernance et son produit Claude. Ce dossier analyse la tension entre cette mission de prudence et les exigences de croissance auxquelles l’entreprise est confrontée.

Les grands laboratoires d’IA orientent le comportement de leurs assistants via des consignes, des constitutions et des préférences récompensées pendant l’entraînement. Derrière l’alignement, des choix humains et des méthodes imparfaites posent une question de pouvoir : qui décide des valeurs encodées dans ces modèles ?

Une analyse met en évidence que la transformation de documents en vecteurs dans un système RAG ne garantit pas leur anonymisation : ces représentations peuvent révéler une partie du texte d’origine. La protection des embeddings doit donc s’ajouter à celle des documents, extraits et droits d’accès.

Le rapport publié le 10 septembre 2026 par Anthropic sur les usages malveillants de Claude, qui couvre des opérations interrompues entre décembre 2025 et août 2026, comprend cinq dossiers francophones. Un opérateur isolé a pénétré au moins 14 des 42 partis, médias et groupes de réflexion européens qu’il visait, exfiltré 12 à 26 Go et construit seul une plateforme de doxxing permettant de rechercher ses cibles par leur nom ; selon Le Monde, la grande majorité d’entre elles étaient françaises et liées à l’extrême droite, dont un parti politique et le magazine Frontières. Un consultant de Bamako a bâti avec Claude une plateforme surveillant 25 millions de cartes SIM pour le renseignement malien, dont l’exigence de mandat a été retirée à sa demande et que le bannissement du compte n’a pas arrêtée. Une agence de publicité française est reliée à 70 faux sites d’information et 8 913 articles, sans ligne politique fixe. Les attaquants volent désormais les clés d’API d’IA de leurs victimes pour mener les attaques suivantes.