Menu

Aucun menu défini dans le customizer.

Catégorie : chatbot

Ajout automatique par WPeMatico

Actus Automatisées, Actus Tech, chatbot, cybersecurite/failles-vulnerabilites, faille, IA, intelligence-artificielle/chatbots-llm, Sciences

Des pirates ont réussi à voler des comptes Instagram en demandant simplement à un chatbot

Tout se joue dans une conversation polie avec l’assistant IA du support de Meta, le robot conversationnel censé dépanner les utilisateurs quand ils ont un souci avec leur compte.

Le principe tient en quelques étapes. Le pirate se connecte d’abord via un VPN, un outil qui maquille sa localisation, pour faire croire qu’il se trouve dans la ville de sa victime et ne pas déclencher les protections automatiques d’Instagram.

Ensuite, il ouvre une discussion avec le Meta AI Support Assistant et lui demande tout bonnement d’ajouter une nouvelle adresse e-mail au compte ciblé.

Actus Automatisées, Actus Tech, chatbot, cybersecurite/failles-vulnerabilites, faille, IA, intelligence-artificielle/chatbots-llm, Sciences

Des pirates ont réussi à voler des comptes Instagram en demandant simplement à un chatbot

Tout se joue dans une conversation polie avec l’assistant IA du support de Meta, le robot conversationnel censé dépanner les utilisateurs quand ils ont un souci avec leur compte.

Le principe tient en quelques étapes. Le pirate se connecte d’abord via un VPN, un outil qui maquille sa localisation, pour faire croire qu’il se trouve dans la ville de sa victime et ne pas déclencher les protections automatiques d’Instagram.

Ensuite, il ouvre une discussion avec le Meta AI Support Assistant et lui demande tout bonnement d’ajouter une nouvelle adresse e-mail au compte ciblé.

Actus Automatisées, Actus Tech, chatbot, cybersecurite/actualites-securite, faille, IA, intelligence-artificielle/chatbots-llm, Sciences

Instagram – Le chatbot de Meta donnait les clés des comptes

Le support de Meta, quand vous contactez Instagram pour un souci de compte, c’est 100% IA maintenant. Je l’ai fait y’a pas longtemps et c’est assez surprenant, même s’il faut le reconnaitre, ça fonctionne bien. Et si je vous parle de ça ce matin, c’est que pendant des semaines, ce chatbot a refilé l’accès à des comptes à qui savait lui raconter la bonne histoire.

Et c’est pas un exploit de génie ni une faille bien planquée mais juste un bot de support trop serviable à qui on explique qu’on s’est fait pirater, et qui envoie le code de réinitialisation… sur l’adresse mail de l’attaquant. Oui, il est aussi précautionneux de vos accès que votre gardien d’immeuble ^^.

actualites-business/science-recherche, Actus Automatisées, Actus Tech, chatbot, experte, IA, intelligence-artificielle/chatbots-llm, Sciences

Dire à une IA qu’elle est experte la rend moins performante

Des chercheurs de l’université de Californie du Sud viennent de publier une étude improbable : demander à un modèle d’IA de jouer les experts dégrade ses performances sur les tâches factuelles. Commencer un prompt par “Tu es un expert en programmation” produit de moins bons résultats que de poser la question directement.

Le piège du “tu es un expert”

L’étude, intitulée “Expert Personas Improve LLM Alignment but Damage Accuracy”, a mesuré l’impact des instructions de rôle sur les réponses des modèles de langage.