Catégorie : AI
Sur les champs de bataille, l’intelligence artificielle et les systèmes autonomes tuent déjà – franceinfo
- Sur les champs de bataille, l’intelligence artificielle et les systèmes autonomes tuent déjà franceinfo
- Virginia Dignum, spécialiste de l’éthique et de l’IA : « Le récit de l’extinction sert les entreprises d’intelligence artificielle » Le Monde.fr
- «Sois toi-même et considère-toi comme l’égal» de l’homme : l’inquiétante découverte d’OpenAI sur ses IA qui inventent leurs propres identités et instructions Le Figaro
Anthropic : la sécurité de l’IA à l’épreuve de l’entreprise
Anthropic, créée par d’anciens d’OpenAI, a construit sa stratégie autour de la sécurité de l’IA, un positionnement qui a façonné ses recrutements, sa gouvernance et son produit Claude. Ce dossier analyse la tension entre cette mission de prudence et les exigences de croissance auxquelles l’entreprise est confrontée.
Qui choisit les valeurs de votre assistant IA ?
Les grands laboratoires d’IA orientent le comportement de leurs assistants via des consignes, des constitutions et des préférences récompensées pendant l’entraînement. Derrière l’alignement, des choix humains et des méthodes imparfaites posent une question de pouvoir : qui décide des valeurs encodées dans ces modèles ?