Ajout automatique par WPeMatico
Aujourd’hui je vais vous parler d’un jeu de karting façon Mario Kart qui fonctionne sans moteur 3D et sans même une seule ligne de code.
En réalité, il s’agit d’un modèle de 130 millions de paramètres qui est capable de deviner à quoi doit ressembler l’image suivante. Cela a été mis en ligne hier soir par Asankhaya Sharma, c’est le gars derrière
. Ça s’appelle Neural Drive et ça imite
, le Mario Kart libre dont je vous ai déjà parlé.
NVIDIA a débranché GameStream, son système maison pour envoyer les jeux de votre PC vers une Shield ou un laptop. Sauf que le protocole, lui, n’est pas mort :
, le client open source qui le réimplémente, tourne toujours sur Windows, macOS, Linux, Steam Link, Raspberry Pi 4, Apple TV et Xbox, et même sur des Switch et des Vita en homebrew.
Et surtout, Hans Gaiser bricole depuis début 2024 une pièce qui manquait côté serveur,
, qui commence à être sérieusement utilisable.
Accrochez-vous parce que celle-là, elle est bien barrée ! Des chercheurs de l’université d’Uppsala veulent stocker la mémoire d’une IA… dans de la lumière. Leur projet Fiber Memory fait tourner les données d’un LLM en boucle dans 1 000 km de fibre optique, et les puces se servent au passage !
Pour comprendre le délire, il faut voir comment ça marche aujourd’hui. Dans un gros data center IA, chacune des 10 000 puces de calcul (des accélérateurs, en gros des GPU) garde sa propre copie complète du modèle dans sa mémoire embarquée, la
HBM
. Un Llama 3 70B compressé pèse 70 Go, ce qui donne 700 To de mémoire hors de prix pour stocker 10 000 fois exactement la même chose.
Vous avez une petite carte graphique, un vieux Mac ou juste un bon processeur, et vous cherchez LE modèle d’IA parfait qui pourra tourner en local sans que ça rame ?
Hugging Face
vient d’ajouter le filtre qui manquait à sa page Models : un sélecteur de matériel qui ne vous proposera que les modèles réellement compatibles avec votre machine.
Vous renseignez votre config (une RTX 3060, un processeur AMD, une puce Apple Silicon M2…) dans les réglages de votre compte, et le catalogue ne gardera plus que ce qui passe pour un GPU, un CPU ou une puce Apple précis.
Avec la sortie de CUDA 13.3, NVIDIA renforce son écosystème GPU sur deux fronts importants. La version Python passe officiellement en 1.0 (donc considérée comme stable et utilisable en production), et CUDA Tile arrive nativement pour les développeurs C++.
Petit rappel pour les non-initiés : CUDA, c’est l’outil que tout le monde utilise pour faire tourner du calcul sur les cartes graphiques NVIDIA, principalement pour l’IA et le calcul scientifique.