Nvidia et des membres fondateurs forment une alliance pour créer des outils ouverts favorisant une utilisation responsable de l'IA

Nvidia s'allie à des leaders d'industrie au sein de l'Open Secure AI Alliance, qui compte également parmi ses membres prestigieux Adobe, Cisco, HPE, IBM, NetApp, Palantir, SpaceX ou encore Microsoft. Le logiciel open source constitue un pilier essentiel de l'économie mondiale, note le groupe. "Il sous-tend le cloud computing, les services financiers, l'industrie manufacturière, les télécommunications, ainsi que les services gouvernementaux et Internet, en rendant la technologie accessible et transparente pour les communautés d'experts. La cybersécurité figure parmi les trois principaux domaines bénéficiant des logiciels open source", insistent Nvidia et ses partenaires.

L'Open Secure AI Alliance, s'appuyant sur le leadership de l'initiative Akrites de la Linux Foundation et sur les travaux de la communauté OpenSSF, oeuvrera à "la correction et à la divulgation des vulnérabilités grâce à des technologies ouvertes".

Tout comme l'open source a créé une base commune pour les logiciels, les États-Unis et leurs partenaires sont aujourd'hui confrontés à un choix en matière de sécurité de l'IA : les défenses protégeant les infrastructures doivent-elles résider au sein de quelques systèmes opaques ou être bâties sur des modèles, des frameworks et des outils ouverts, que tout défenseur peut étudier, adapter et déployer ?

"Le monde a besoin à la fois de modèles fermés et de modèles ouverts. En matière de cybersécurité, les modèles et frameworks ouverts sont essentiels car ils démocratisent les capacités défensives, renforcent la transparence pour les défenseurs, permettent la cyberdéfense tout en protégeant les données, et complètent les modèles fermés de pointe par des contrôles personnalisables et localisés. L'open source permet une défense massivement distribuée, pilotée par la communauté et auto-gérée, sans point de défaillance unique. Les modèles ouverts, comme toute technologie puissante, peuvent être détournés de leur usage - notamment par des tentatives d'affaiblir les garde-fous ou de réorienter leurs capacités vers des cyberattaques - mais ces risques ne sont pas propres aux systèmes ouverts ; ils doivent être gérés partout où une IA avancée est déployée. Le récent incident de sécurité chez Hugging Face a rappelé une réalité évidente : les défenseurs ont besoin de systèmes d'IA agents de pointe et ouverts pour assurer leur propre défense", selon l'Open Secure AI Alliance.

Lorsque des outils d'IA fermés - incapables de distinguer les attaquants des défenseurs - ont bloqué une analyse forensique essentielle, Hugging Face a exécuté le modèle GLM 5.2 (à poids ouverts) sur sa propre infrastructure pour analyser plus de 17 000 actions et contenir l'intrusion. Cet incident a mis en lumière une réalité concrète : lorsque les défenseurs ne peuvent ni examiner, ni adapter, ni exécuter une IA avancée sur leur propre infrastructure, leur capacité de réaction est entravée au moment précis où la rapidité est cruciale. Les entreprises et les nations ont besoin d'outils et de techniques de défense ouverts et de pointe, afin que les secteurs critiques puissent bâtir des systèmes de sécurité au sein d'un écosystème multi-fournisseurs et éviter tout point de défaillance unique, détaille encore l'alliance.

Telle est la mission de l'Open Secure AI Alliance : "garantir que les défenseurs, où qu'ils soient, disposent d'outils ouverts et de pointe auxquels ils peuvent faire confiance et qu'ils peuvent contrôler".

Des leaders du cloud computing, de la cybersécurité, des logiciels d'entreprise, des fondations open source et de la recherche en IA - notamment Nvidia, Adobe, Cadence, Capital One, Cisco, Cloudera, Cloudflare, Cognition, CrowdStrike, Databricks, Dell Technologies, DoorDash, Elastic, HPE, Hugging Face, IBM, LangChain, la Linux Foundation, Microsoft, NAVER, NetApp, Nous Research, OpenClaw, Palantir, Palo Alto Networks, Red Hat, Reflection AI, Salesforce, SAP, SK Telecom, ServiceNow, Siemens, Snowflake, SpacexAI, Synopsys, Thinking Machines Lab et TrendAI - sont les partenaires fondateurs de l'Open Secure AI Alliance.

Ce mouvement vise à développer et à partager des technologies, des techniques et des outils ouverts pour protéger les logiciels et les agents à l'ère de l'IA. Certains soutiennent que les modèles ouverts sont intrinsèquement moins sûrs, car ils peuvent être détournés à des fins de cyberattaques ou modifiés pour supprimer les garde-fous.

"Ces risques sont réels, mais ils ne disparaissent pas pour autant dans les systèmes fermés ; le simple fait de garder les poids des modèles secrets n'empêche pas des attaquants déterminés de chercher à obtenir ou à exploiter des systèmes d'IA puissants. La bonne réponse ne consiste pas à priver les défenseurs d'accès à des systèmes ouverts performants. Il s'agit plutôt d'associer l'ouverture à des mesures de protection solides, à des règles claires contre les usages malveillants, à une évaluation rigoureuse et à une remédiation rapide. En matière de cybersécurité, la voie la plus sûre est celle qui permet à un plus grand nombre de défenseurs de tester, de vérifier et de renforcer les systèmes dont dépend la société", indique l'alliance.

Les défenseurs ont besoin à la fois de modèles fermés de pointe et de modèles ouverts de pointe travaillant de concert ; cela leur permet de choisir le système le plus adapté à chaque tâche et de garantir que la transparence, l'adaptabilité et la maîtrise souveraine sont assurées là où la sécurité l'exige, expliquent encore les partenaires.