Nvidia, tech leaders launch open alliance to strengthen AI security

17:11, 27/07/2026, lundi

Retrouvez plus souvent les actualités de Nouvelle Aube : cliquez et ajoutez-nous à vos favoris sur Google !

Nvidia, tech leaders launch open alliance to strengthen AI security

Philip FONGAFP

Nvidia, Microsoft, IBM et une quarantaine d'entreprises lancent l'Open Secure AI Alliance : des outils open source pour sécuriser l'IA et ses agents.

Nvidia et une quarantaine de géants de la technologie et de la cybersécurité ont lancé, lundi, l'Open Secure AI Alliance, une coalition destinée à développer et partager des outils open source pour renforcer la sûreté et la sécurité de l'intelligence artificielle.

Nvidia et des dizaines d'entreprises mondiales de la technologie et de la cybersécurité ont annoncé, lundi, le lancement de l'Open Secure AI Alliance (OSAA), une coalition qui vise à concevoir et à mutualiser des outils open source pour améliorer la sûreté et la sécurité de l'intelligence artificielle (IA).

L'alliance se concentrera sur la protection des modèles d'IA et des agents autonomes en développant des technologies de détection des vulnérabilités, de vérification d'identité, de distribution sécurisée des modèles, d'analyse des logiciels et d'audit du comportement des agents, selon un communiqué publié lundi par Nvidia.

Parmi les partenaires fondateurs figurent Microsoft, IBM, Cisco, Cloudflare, CrowdStrike, Hugging Face, Red Hat, Salesforce, SAP, Siemens, Dell Technologies, HPE, Palo Alto Networks et la Linux Foundation, entre autres. La coalition rassemble près de quarante membres.

Réduire la dépendance aux modèles fermés

Nvidia estime que des modèles et des outils ouverts permettent aux équipes de cybersécurité d'inspecter, d'adapter et de déployer des systèmes défensifs sur leur propre infrastructure. Une approche qui, selon l'entreprise, réduit la dépendance à un nombre restreint de fournisseurs d'IA fermés ainsi que le risque de point de défaillance unique.

L'entreprise reconnaît toutefois que des modèles d'IA ouverts peuvent être détournés ou modifiés pour en retirer les garde-fous, mais elle souligne que des risques comparables existent également dans les systèmes fermés.

L'ouverture doit donc, selon Nvidia, être associée à des garde-fous, à des évaluations de sécurité, à des restrictions claires contre les usages malveillants et à une correction rapide des vulnérabilités.

Ce que Nvidia apporte à l'alliance

Nvidia contribuera à l'alliance en fournissant des **modèles ouverts, des poids de modèles (model weights), des jeux de données et des travaux de recherche** sur l'infrastructure logicielle des agents d'IA.

L'entreprise a également présenté un cadre de recherche open source, le Nvidia Labs Object-Oriented Agent (NOOA), conçu pour aider les développeurs à tester, tracer, auditer et encadrer le comportement des agents d'IA.

Parmi les autres projets de l'alliance figurent des normes d'identité permettant de vérifier les agents d'IA, des formats sécurisés de stockage des poids de modèles, des correctifs logiciels signés numériquement, ainsi que des systèmes multi-agents capables de détecter et de confirmer des vulnérabilités exploitables dans les logiciels.

Un appel aux États et aux régulateurs

L'alliance a par ailleurs exhorté les gouvernements et les régulateurs à considérer les modèles d'IA ouverts et les outils de sécurité comme des actifs défensifs, plutôt que d'imposer de larges restrictions aux systèmes ouverts avancés.

Elle a appelé à un investissement accru dans une infrastructure de sécurité de l'IA partagée, comprenant des jeux de données, des systèmes d'évaluation, des simulateurs d'attaques et des outils servant à tester les modèles face aux menaces informatiques.

Le lancement de l'alliance intervient dans un climat marqué par une série d'incidents de cybersécurité liés à l'IA. Selon plusieurs médias spécialisés, l'initiative a notamment été motivée par une récente cyberattaque visant Hugging Face, au cours de laquelle des modèles d'IA fermés auraient peiné à distinguer les enquêteurs légitimes des attaquants.

L'entreprise serait parvenue à contenir l'attaque après avoir basculé vers des modèles à poids ouverts.

On notera l'absence, parmi les membres fondateurs, de plusieurs grands acteurs de l'IA générative tels qu'OpenAI, Anthropic et Google.

FAQ Nvidia & Open Secure

Qu'est-ce que l'Open Secure AI Alliance ?

Une coalition lancée par Nvidia et une quarantaine d'entreprises pour développer des outils open source de sûreté et de sécurité de l'IA.

Qui sont les membres fondateurs ?

Microsoft, IBM, Cisco, Cloudflare, CrowdStrike, Hugging Face, Red Hat, Salesforce, SAP, Siemens, Dell, HPE, Palo Alto Networks et la Linux Foundation, entre autres.

Quel est l'objectif de l'alliance ?

Protéger les modèles et agents d'IA via la détection de vulnérabilités, la vérification d'identité et la distribution sécurisée des modèles, tout en réduisant la dépendance aux systèmes fermés.