Kalray lance NGENEA pour l'IA

Kalray, leader dans les technologies matérielles et logicielles dédiées à la gestion et au traitement intensif des données du Cloud au Edge, annonce le lancement de "Ngenea for AI", une nouvelle édition de sa plateforme d'accélération des données, spécialement optimisée pour les flux de données d'IA. Alors que l'IA exige de nouvelles façons de traiter et d'accéder à des volumes massifs de données, "Ngenea for AI" aide les entreprises à accélérer leurs performances, à simplifier la gestion des données et à ouvrir leurs données à de nouveaux cas d'utilisation basés sur l'IA.

"Ngenea for AI" est le complément des deux éditions de Ngenea existantes qui adressent aujourd'hui les clients du monde des médias et du divertissement et du calcul haute performance (HPC). La nouvelle version de Ngenea permet aux acteurs du monde de l'IA d'accélérer leurs performances dans le traitement de leurs données et d'accéder à leurs données non structurées à partir d'un espace global et unifié. Kalray a présenté au Dell Technologies World 2024 à Las Vegas sur son stand, Ngenea for AI sur les serveurs Dell.

Le marché de l'IA générative (GenAI) devrait connaître un taux de croissance annuel (CAGR) de 42% au cours des 10 prochaines années, atteignant 1,3 trillion$, contre seulement 40 milliards $ en 2022 (source : Bloomberg Intelligence). Cependant, des applications basées, par exemple, sur de grands modèles de langage (LLM), des approches du type "Retrieval-Augmented Generation" (RAG), ou encore des applications comme "Smart Vision", mettent à l'épreuve la capacité des systèmes informatiques à déplacer des données vers et depuis leurs systèmes de stockage de données.

OUVRIR L'ACCÈS À l'IA GENERATIVE (GENAI) ET À L'APPROCHE "RAG"

"Ngenea for AI" ajoute des capacités d'indexation et de recherche de données que les utilisateurs peuvent exploiter pour alimenter facilement n'importe quelle donnée à leurs applications à base d'intelligence artificielle (IA), comme les applications Smart Vision, GenAI et RAG.
La nouvelle offre permet aux clients de l'IA de tirer pleinement parti de leurs actifs existants lors du déploiement d'applications à base d'IA quel que soit l'endroit où les données sont stockées. "Ngenea for AI" simplifie et automatise ce qui serait autrement un flux de travail très complexe du point de vue de la gestion des données.

Jeff Necciai, Directeur technique de Duos Technologies, un des premiers utilisateurs de "Ngenea for AI" a déclaré : "Le traitement rapide des données d'IA est crucial pour notre activité de détection des anomalies des wagons dont le but est d'identifier des problèmes potentiels qui pourraient conduire à des pannes ou des déraillements. Avec Ngenea et les produits de Dell Technologies, Duos a obtenu une amélioration de performance de 120x sur notre solution Railcar Inspection Portal (RIP(R)), et une augmentation par 8 sur la précision des inspections. Travailler avec Kalray nous a aidé à placer les chemins de fer à l'avant-garde de l'innovation."

UN NIVEAU DE STOCKAGE HAUTE PERFORMANCE POUR ALIMENTER LES GPU SANS EFFORT

La plateforme "Ngenea for AI" intègre du stockage haute performance (Tier0) pour les charges de travail d'IA les plus intensives en données. Ce stockage Tier0 se base sur un système de fichiers parallèle haute performance éprouvé, capable de gérer facilement des pétaoctets de données et des milliards de fichiers - que les données soient en périphérie ("edge"), dans le cloud ou sur site. Ce stockage hyper performant permet aux clients de NGenea de maximiser en particulier leur investissement dans les GPU, en optimisant leur utilisation.

Avec Ngenea, les développeurs d'IA peuvent :

Accélérer les flux de de données liés à l'IA et améliorer la vitesse de traitement de manière globale des opérations d'IA.
Améliorer les performances des modèles d'IA en alimentant les GPU plus rapidement, permettant des calculs plus rapides
Bénéficier de capacités d'indexation avancées qui permettent de fournir des contextes plus pertinents aux applications aux applications d'IA générative et RAG, et de permettre ainsi de répondre aux requêtes de manière plus efficaces et plus précises
Faciliter l'intégration et l'utilisation des données de l'entreprise avec un ensemble grandissant d'outils utilisant la puissance de l''IA, permettant ainsi aux entreprises de valoriser leurs données par rapport aux besoins de leur business.
Les DPU de Kalray, avec en particulier la carte d'accélération TURBOCARD4 (TC4), offre l'option aux clients de "Ngenea for AI" d'accélérer encore plus le traitement des données pour les flux de travail ultra-exigeants. Les DPU ont une architecture complémentaire aux GPU et permettent d'en optimiser l'usage.