Catégorie : Actus Automatisées
Auto Feed RSS
TurboQuant – Un LLM de 104B sur un MacBook, merci Google
Vous faites tourner des LLMs en local comme le gros fifou de Hipster IA que vous êtes et, Ô drame, la VRAM de votre ordinateur explose dès que le contexte dépasse 8000 pauvres malheureux tokens ?
Le problème c’est le KV cache les amis ! Le KV cache c’est ce truc qui stocke les clés et valeurs d’attention et qui grossit linéairement avec la longueur du prompt. C’est pour gérer ce problème que Google a annoncé sous la forme d’un whitepaper uniquement un algo qui compresse tout ça de 3,8 à 6,4 fois… et youpi pour nous, y’a un dev qui l’a déjà implémenté dans
un fork de llama.cpp
.
Amazon brade à un super prix ce pack Nothing incluant le Phone (3a) Pro et le Headphone (1)
À cause de la crise, le Raspberry Pi augmente encore son prix
Google Photos modifie en douce quelques une de ses fonctions « magiques »
Test du M8 Mini de GMKtec : pas loin d’être le plus riquiqui des mini-PC
Les quatre évolutions qui redéfinissent la sécurité et la résilience de Microsoft 365

Microsoft 365 est désormais au centre des opérations quotidiennes de plus de 2 millions d’entreprises. Ce qui a commencé comme une simple suite de productivité s’est transformé en colonne vertébrale pour l’identité, la collaboration, la gestion des appareils et la sécurité. Mais lorsque l’accès se dégrade ou que les configurations échappent à tout contrôle, les pirates informatiques trouvent une voie d’entrée.The post Les quatre évolutions qui redéfinissent la sécurité et la résilience de Microsoft 365 appeared first on iTPro.fr.
