Catégorie : Actus Tech

L’IA devait créer une copie numérique d’un être humain, mais quelque chose a mal tourné  Le Figaro

L’actu en dessin : l’IA pourrait-elle vraiment avoir notre peau ?  France 24

Anthropic, créée par d’anciens d’OpenAI, a construit sa stratégie autour de la sécurité de l’IA, un positionnement qui a façonné ses recrutements, sa gouvernance et son produit Claude. Ce dossier analyse la tension entre cette mission de prudence et les exigences de croissance auxquelles l’entreprise est confrontée.

Les grands laboratoires d’IA orientent le comportement de leurs assistants via des consignes, des constitutions et des préférences récompensées pendant l’entraînement. Derrière l’alignement, des choix humains et des méthodes imparfaites posent une question de pouvoir : qui décide des valeurs encodées dans ces modèles ?

Une analyse met en évidence que la transformation de documents en vecteurs dans un système RAG ne garantit pas leur anonymisation : ces représentations peuvent révéler une partie du texte d’origine. La protection des embeddings doit donc s’ajouter à celle des documents, extraits et droits d’accès.

Le rapport publié le 10 septembre 2026 par Anthropic sur les usages malveillants de Claude, qui couvre des opérations interrompues entre décembre 2025 et août 2026, comprend cinq dossiers francophones. Un opérateur isolé a pénétré au moins 14 des 42 partis, médias et groupes de réflexion européens qu’il visait, exfiltré 12 à 26 Go et construit seul une plateforme de doxxing permettant de rechercher ses cibles par leur nom ; selon Le Monde, la grande majorité d’entre elles étaient françaises et liées à l’extrême droite, dont un parti politique et le magazine Frontières. Un consultant de Bamako a bâti avec Claude une plateforme surveillant 25 millions de cartes SIM pour le renseignement malien, dont l’exigence de mandat a été retirée à sa demande et que le bannissement du compte n’a pas arrêtée. Une agence de publicité française est reliée à 70 faux sites d’information et 8 913 articles, sans ligne politique fixe. Les attaquants volent désormais les clés d’API d’IA de leurs victimes pour mener les attaques suivantes.

Une expérience révèle que les modèles d’IA chargés de présélectionner des CV tendent à favoriser les candidatures qu’ils ont eux-mêmes reformulées. Pour les recruteurs, ce biais risque de confondre la qualité réelle d’un parcours avec la façon dont l’IA le présente.