Gemma Gem – Un agent IA dans Chrome, 100% local

Les extensions Chrome qui promettent de l’IA, ça pullule de ouf et à vrai dire, la plupart se contentent d’envoyer vos données sur un serveur distant. C’est naze ! Heureusement, l’extension
Gemma Gem
prend le problème à l’envers puisque son modèle tourne directement dans votre navigateur via WebGPU, sans clé API, sans cloud, et vos données ne sortent jamais de votre machine. C’est comme le kir, royal !

Comme c’est pas sur le Chrome Web Store, faudra la builder vous-même… Vous clonez le repo, vous lancez pnpm install puis pnpm build et vous chargez le dossier dans chrome://extensions en mode développeur et ensuite, elle téléchargera le modèle de Google (environ 500 Mo pour la version légère, genre le poids d’un gros jeu mobile), et pif paf pouf, ensuite vous aurez un agent IA qui vit sa best life dans votre Chrome.

Cliquez alors sur l’icône en bas à droite, une fenêtre de chat s’ouvre et vous pourrez interroger n’importe quelle page. Et si vous préférez un modèle plus costaud, l’E4B pèse 1,5 Go et permet d’obtenir des réponses plus fines.

Sauf que c’est pas juste un chatbot de plus. En effet, l’extension fait du tool calling en boucle à l’aide de 6 outils : read_page_content, click_element, type_text, scroll_page, take_screenshot et run_javascript. Elle peut ainsi lire une page, cliquer sur des boutons, remplir un formulaire et même balancer du JavaScript dans le contexte de la page.

Comme l’inférence WebGPU ne peut pas tourner dans un service worker Chrome (y’a pas d’accès au GPU, c’est une limitation connue depuis des années), le développeur a trouvé une parade : il utilise un offscreen document, c’est-à-dire une page HTML invisible que Chrome maintient en arrière-plan et qui, elle, a accès au GPU. Résultat, le modèle calcule dans cette page fantôme, le service worker joue le facteur entre les morceaux, et le content script affiche le chat. Je trouve ça bien pensé comme découpage !

Toute la boucle d’agent (le code qui décide quand appeler un outil et quand répondre) est isolée dans un dossier agent/ sans aucune dépendance Chrome. Cela veut dire que vous pouvez prendre ces 5 fichiers .ts (agent-loop.ts, prompt-builder.ts, tool-parser.ts, types.ts et index.ts), les coller dans un projet Node.js ou Deno, et hop, vous avez votre propre boucle agentique. Yaniv Kessler, le développeur a pensé le truc pour que ça serve ailleurs.

Les deux variantes (E2B et E4B) sont compressées en q4f16 avec 128K tokens de contexte en théorie, même si en pratique la fenêtre effective dépend de votre VRAM. Cela dit, c’est largement de quoi avaler une page web complète sans broncher ! Et le modèle reste en cache après le premier téléchargement, du coup au deuxième lancement, c’est quasi instantané. Par contre, si vous êtes sur un vieux Chromebook avec un Intel UHD intégré et 4 Go de RAM, ça risque de mouliner à fond. Et sur Firefox (qui est le meilleure navigateur du monde, comme je n’ai de cesse de vous le dire), le WebGPU est encore un peu expérimental, donc pour l’instant ce sera Chrome ou rien… Sniiif.

Si vous avez déjà testé des
extensions comme Localsumm
qui faisaient tourner Phi-3 en local pour résumer des pages, disons que Gemma Gem pousse le concept beaucoup plus loin avec ses capacités d’agent. Et si le sujet de l’IA locale dans le navigateur vous branche, jetez un oeil à
Clippy
qui fait tourner des LLM localement sur votre desktop.

Notez quand même que sur Hacker News, le projet a déclenché pas mal de débat. Certains pointent le risque du tool run_javascript qui donne au modèle les pleins pouvoirs sur le DOM (genre, supprimer des trucs ou poster un formulaire à votre place). C’est vrai que c’est important mais bon, c’est le même modèle de permissions que n’importe quel script web classique, sauf que là au moins vos données restent chez vous.

Bref, 500 Mo de modèle, pas de cloud, et votre navigateur qui devient plus autonome que votre fils de 22 ans. Pas mal non ?