Cribl veut rendre les usages de l’IA plus observables

La nouvelle application AI Observability de Cribl donne aux entreprises une vue transversale de l’utilisation des modèles d’IA. Elle doit les aider à suivre la consommation de tokens, les dépenses et les risques associés aux données introduites dans les prompts.

L’adoption de l’intelligence artificielle progresse souvent plus rapidement que les mécanismes mis en place pour la piloter. Les entreprises peuvent difficilement déterminer quels modèles sont utilisés par chaque équipe, mesurer leur coût réel ou repérer les applications à l’origine d’une hausse soudaine de la consommation. Cribl cherche à répondre à ce manque de visibilité avec AI Observability, une nouvelle application intégrée à sa plateforme dédiée à la télémétrie. Elle rassemble les informations provenant de différents modèles, applications, départements et environnements afin de fournir une lecture commune de l’activité liée à l’IA.

Comparer les modèles et leurs coûts

Les équipes peuvent analyser la consommation de tokens et les dépenses par modèle, application, département ou charge de travail. Cette comparaison doit notamment permettre d’identifier les pics de demande et les tâches qui pourraient être confiées à un modèle plus petit et moins coûteux.

AI Observability couvre également les risques liés aux informations transmises aux modèles. L’application peut repérer la présence de données sensibles dans les prompts et les traces, puis reconstituer des sessions complètes pour comprendre la manière dont une application ou un utilisateur a interagi avec un système d’IA. Ces analyses s’appuient sur la télémétrie qui transite déjà par Cribl ou qui reste conservée dans d’autres environnements. L’éditeur veut ainsi éviter la création de nouveaux pipelines et la copie systématique des données dans une plateforme supplémentaire.

« Elles veulent disposer d’une visibilité sur les usages et les risques liés à l’IA en entreprise, renforcer leurs détections et conserver la flexibilité nécessaire pour travailler avec les outils et les environnements qu’elles utilisent déjà », explique Clint Sharp, cofondateur et CEO de Cribl, à propos des attentes exprimées par les équipes de sécurité.

Avec cette application, l’observabilité de l’IA s’étend au-delà du suivi technique des performances. Pour les entreprises, la prochaine étape consistera à rattacher chaque usage à un coût, à une équipe responsable et à un niveau de risque identifiable.

L’article Cribl veut rendre les usages de l’IA plus observables est apparu en premier sur IA News.