Styliser son raisonnement rend un modèle d'IA moins surveillable
Une prépublication arXiv montre qu’un modèle ouvert affiné pour réécrire son raisonnement dans la voix de personnages devient moins lisible par un moniteur automatique, sans avoir été entraîné à dissimuler. Ce résultat interroge la fiabilité de la surveillance par lecture du raisonnement sur laquelle reposent les laboratoires.

Leave a Comment