Catégorie : iOS
Ajout automatique par WPeMatico
La carte Vitale sur smartphone débarque enfin : 28 millions de Français concernés et voici comment ça marche
iOS 26 : voici la fonction cachée qui prolonge l’autonomie de votre iPhone
Mon mois avec l’iPhone Air : j’avais tort de le détester autant
L’iPhone Pocket débarque
iPhone Air : l’échec commercial qui force Apple à revoir sa copie
Reins – Un Ollama sur mobile sans faire tourner Ollama sur mobile
Vous voulez utiliser Ollama sur votre iPhone ou Android pour lancer vos petits LLM en local ? Ce serait super cool non ? Bah j’ai une mauvaise nouvelle pour vous… votre smartphone n’a pas assez de mémoire vive pour faire ça…
Le problème est simple… les LLM bouffent un max de RAM. Par exemple, un LLaMA 7B, c’est dans les 12 GB de RAM. Et même quantifié en int4 pour gagner de la place, vous tombez à environ 3,5 GB. Et ça, c’est juste le modèle hein… Faut y ajouter le contexte, l’OS, les autres apps, et votre smartphone à 8 GB de RAM commence à suer de la raie.
Apple pourrait s’émanciper des opérateurs classiques en misant tout sur la connectivité satellite
Le prochain iPhone Air pourrait corriger un des plus gros défauts du 1er modèle
MocoLlamma – Ollama gérable depuis iPhone, iPad et Vision Pro
Vous avez installé
Ollama
sur votre Mac et vous êtes le plus joyeux de tous les mammifères car vous faites tourner Llama 3.x en local comme un chef. Et puis un soir, posé dans votre canapé avec votre iPad de bourgeois capitaliste, vous vous dites que ce serait bien de pull un nouveau modèle. Et là, vous réalisez qu’il va falloir sortir le MacBook, ouvrir un terminal, taper ollama pull mistral, attendre et attendre… Grosse flemme non ?
