OpenAI ajoute un “mode confinement” à ChatGPT pour bloquer les injections de prompt
ChatGPT a gagné un réglage qui ne plaira pas à tout le monde. Un “mode confinement”, Lockdown Mode dans le texte, qui débranche volontairement une partie des fonctions de l’assistant pour réduire le risque de fuite de données vers l’extérieur.
L’ennemi, ici, porte un nom : l’injection de prompt. Le principe de cette attaque est plutôt vicieux, puisqu’un pirate planque des instructions dans une page web ou dans un document anodin, et qu’au moment où ChatGPT lit ce contenu pour vous répondre, il avale ces ordres cachés et les exécute sans que rien ne s’affiche à l’écran.