Starburst veut accélérer les requêtes SQL déclenchées par les agents d’IA

Un agent qui multiplie les requêtes peut voir l’ensemble de sa tâche ralenti par une seule réponse tardive. Starburst présente Torin, un moteur SQL exécuté sur GPU, et travaille parallèlement avec NVIDIA sur des modèles destinés à améliorer le contexte des réponses en langage naturel.

Les agents d’IA sollicitent les plateformes de données en lançant plusieurs requêtes au cours d’une même tâche. Lorsque l’une d’elles prend du retard, l’analyse en temps réel et la réponse de l’agent peuvent en pâtir. C’est le problème que Starburst entend traiter avec Torin, son nouveau moteur d’analyse natif GPU pour Starburst Enterprise.

Basé sur Trino et NVIDIA cuDF, Torin exécute les requêtes SQL sur des GPU NVIDIA. Selon Starburst, il peut accélérer leur exécution jusqu’à sept fois dans certains tests. L’entreprise souligne que des requêtes plus rapides peuvent aider les agents à traiter davantage d’étapes et les équipes à exploiter plus efficacement leurs charges de travail. Cette accélération porte toutefois sur le traitement des requêtes ; elle ne garantit pas, à elle seule, la fiabilité des réponses produites par un agent. Starburst travaille aussi avec NVIDIA sur cette question de fiabilité. Pour proposer des analyses en langage naturel à des clients du secteur financier soumis à des exigences réglementaires strictes, l’entreprise prévoit d’intégrer les modèles ouverts NVIDIA Nemotron Retriever et NVIDIA Kumo à Starburst AIDA.

Ces modèles appartiennent à la NVIDIA Agent Knowledge Foundation, qui réunit des modèles ouverts et des bibliothèques logicielles destinés aux agents. L’ensemble doit les aider à retrouver des informations contextuelles, à produire des réponses fondées sur des données fiables, à analyser des résultats et à orienter leurs actions.

Starburst cite parmi les usages concernés la détection des fraudes, le suivi du risque de crédit et les procédures de connaissance client, ou KYC. L’annonce associe ainsi deux enjeux distincts : réduire le temps de traitement des requêtes et fournir aux agents un contexte métier plus fiable. Torin est disponible de manière générale dans un périmètre limité. L’intégration des modèles dans Starburst AIDA s’inscrit, elle, dans les travaux menés par Starburst avec NVIDIA.

L’article Starburst veut accélérer les requêtes SQL déclenchées par les agents d’IA est apparu en premier sur IA News.