IA : McKinsey identifie les technologies qui peuvent faire chuter les coûts d'inférence

(Zonebourse.com) - Pour rendre l'IA plus soutenable, McKinsey a identifié treize leviers technologiques susceptibles de réduire le coût d'utilisation quotidien des modèles déjà entraînés. Quatre ressortent comme les plus structurants : l'optimisation des modèles, le packaging avancé, les puces sur mesure et l'optique co-packagée.

Selon le cabinet, le levier le plus immédiat reste logiciel. La quantification consiste à réduire la précision numérique des modèles afin de diminuer les besoins en mémoire et d'augmenter le nombre de requêtes pouvant être traitées simultanément. L'élagage poursuit le même objectif en supprimant les paramètres ou composants peu utiles du modèle. Combinées, ces techniques pourraient réduire le coût par token de 85% à 95%, selon McKinsey, même si les gains dépendent de la tolérance des applications à d'éventuels compromis sur la qualité.

Le deuxième levier se situe dans le packaging avancé. En rapprochant davantage la mémoire des unités de calcul grâce à des technologies comme le " bonding hybride ", les fabricants peuvent réduire les déplacements de données, qui constituent l'un des principaux postes de coût et de consommation énergétique dans l'inférence. McKinsey estime que le packaging 3D avancé pourrait abaisser le coût par token de 80% à 90%.

Les puces sur mesure, ou ASIC, constituent un troisième axe. Contrairement aux GPU généralistes, elles sont conçues pour exécuter plus efficacement certaines charges d'IA bien définies. Le potentiel de réduction des coûts est évalué entre 70% et 80% sur les workloads adaptés, même si l'adoption dépend aussi de la maturité de l'écosystème logiciel autour de ces architectures.

Enfin, l'optique co-packagée vise à intégrer des moteurs optiques directement dans le package d'un switch ou d'un accélérateur, en remplacement des modules optiques enfichables traditionnels. L'objectif est de réduire la consommation et la complexité liées au transport massif de données entre puces, serveurs, racks et centres de données. McKinsey estime que cette technologie pourrait réduire la consommation par bit transmis d'environ 50% à 65%, mais son adoption devrait rester progressive, d'abord dans les clusters les plus exigeants en bande passante.

Copyright (c) 2026 Zonebourse.com - All rights reserved.

source : AOF