Il glisse un GPU de datacenter dans son PC gaming pour faire tourner une IA en local
Oscar Molnar voulait une intelligence artificielle qui tourne entièrement chez lui, sans envoyer la moindre donnée vers le cloud, et il y est arrivé pour environ 200 euros en greffant dans son PC une carte graphique qui n’avait normalement rien à faire dans une machine de salon.
L’objectif, c’est de faire tourner en local ce qu’on appelle un grand modèle de langage, le fameux LLM qui se cache derrière les ChatGPT et compagnie, directement sur son propre ordinateur plutôt que sur les serveurs distants d’une entreprise.