Fiber Memory – Stocker la mémoire d’une IA dans 1 000 km de fibre optique
Accrochez-vous parce que celle-là, elle est bien barrée ! Des chercheurs de l’université d’Uppsala veulent stocker la mémoire d’une IA… dans de la lumière. Leur projet Fiber Memory fait tourner les données d’un LLM en boucle dans 1 000 km de fibre optique, et les puces se servent au passage !
Pour comprendre le délire, il faut voir comment ça marche aujourd’hui. Dans un gros data center IA, chacune des 10 000 puces de calcul (des accélérateurs, en gros des GPU) garde sa propre copie complète du modèle dans sa mémoire embarquée, la
HBM
. Un Llama 3 70B compressé pèse 70 Go, ce qui donne 700 To de mémoire hors de prix pour stocker 10 000 fois exactement la même chose.