Pourquoi l’ouverture est une nécessité pour la sécurité de l’IA : Cloudera rejoint l’Open Secure AI Alliance

L'IA agentique passe des démonstrations à la production plus rapidement que toute autre technologie d'entreprise par le passé. Les systèmes autonomes raisonnent déjà sur des données propriétaires, appellent des outils internes et prennent des mesures décisives au sein des flux de travail essentiels de l'entreprise. Cette transition rend une question urgente : lorsque les agents peuvent agir, qui peut les inspecter, les vérifier et les défendre ?

La réponse de Cloudera's est que les défenses qui protègent notre infrastructure doivent être élaborées au grand jour. C’est pourquoi nous sommes fiers d’être un partenaire fondateur, aux côtés de NVIDIA et d’autres leaders du Cloud, de la cybersécurité, des logiciels d’entreprise, de l’open source et de la recherche en IA, au sein de la nouvelle alliance Open Secure AI Alliance, un mouvement visant à développer et à partager des technologies, des techniques et des outils ouverts afin de protéger les logiciels et les agents à l’ère de l’IA.

Trois raisons pour lesquelles cette alliance correspond à notre stratégie

1. L’infrastructure ouverte est fondamentale, pas une fonctionnalité 

Cloudera possède une histoire profonde et fondatrice dans le domaine de l’open source. Nous avons compris depuis longtemps que les formats ouverts de data lakehouse constituent un pilier essentiel de l’économie, fonctionnant essentiellement comme un service public qui sous-tend le Cloud computing, les services financiers, les télécommunications, et les infrastructures gouvernementales.

À l’ère de l’IA, les logiciels open source et les modèles à poids ouverts sont fondamentaux pour le leadership et la Cybersécurité. Les estimations du secteur indiquent qu’entre 76 % et 99 % des bases de code de logiciels commerciaux reposent déjà sur des logiciels open source. 

Les modèles ouverts transforment les utilisateurs en créateurs, accélérant l’innovation tout en garantissant que le progrès ne soit pas réservé à un petit nombre d’organisations centralisées. Plus important encore, un écosystème ouvert permet la recherche scientifique indépendante et un examen approfondi à grande échelle, permettant aux défenseurs de comprendre, d’évaluer, et d’améliorer le comportement des systèmes d’IA.

2. Neutralité : n’importe quel modèle, n’importe quel environnement 

Chez Cloudera, nous défendons une neutralité absolue. Nous reconnaissons que, pour conserver notre position de leader dans la révolution de l’IA, l’infrastructure qui fait fonctionner notre économie doit permettre un accès sûr et sécurisé aux modèles fermés et propriétaires, ainsi qu’aux modèles ouverts.

Nos clients entreprises ont besoin de la flexibilité nécessaire pour adapter l’IA à leurs secteurs d’activité spécifiques, à leurs données propriétaires, à leurs clients et à leurs exigences opérationnelles. Ils doivent pouvoir le faire tout en protégeant leurs données et en évitant toute dépendance à des fournisseurs. 

En demeurant strictement neutres, nous donnons aux organisations les moyens de créer des systèmes hybrides qui reflètent leurs priorités propres. 

C’est particulièrement essentiel pour les secteurs fortement réglementés — tels que la finance, le secteur public et les infrastructures critiques — où les entreprises doivent garantir la conformité, la souveraineté des données et la résilience géopolitique, en choisissant souvent de ne pas dépendre d’API hébergées à l’étranger. La sécurité et la défense de l’IA exigent un écosystème diversifié et ouvert plutôt qu’un point de contrôle unique.

3. Le rôle essentiel du cadre d’exécution de l’IA en matière de sécurité et de gouvernance 

Alors que le secteur s’est concentré à l’excès sur les modèles de fondation, la sécurité exige que nous considérions une perspective plus large. Un agent d’IA n’est pas simplement un modèle ; c’est un système complexe constitué de modèles, de cadres d’exécution et de garde-fous qui déterminent ce à quoi un agent peut accéder.

Le cadre d’exécution est l’ossature essentielle qui permet à un agent d’IA d’observer le contexte, de raisonner face aux problèmes et de prendre des mesures décisives. Comme les agents fonctionnent de manière autonome dans les systèmes d’entreprise, la sécurisation de ce cadre d’exécution est primordiale. Les systèmes fermés risquent de rendre des renseignements essentiels inaccessibles aux défenseurs. À l’inverse, les cadres d’exécution et les outils ouverts élargissent considérablement les capacités de défense et renforcent la transparence.

Par l’intermédiaire de l’Open Secure AI Alliance, NVIDIA apporte des travaux de recherche essentiels pour accélérer le développement de ces outils de cybersécurité. Par exemple, le framework open source NVIDIA Labs Object-Oriented Agent (NOOA) facilite l’intégration des cadres d’exécution aux modèles, ce qui rend le comportement des agents infiniment plus facile à tester, à tracer, à auditer et à gouverner. Ces capacités garantissent que, lorsque des agents sont déployés dans des workflows d’entreprise, leurs actions restent conformes et observables.

Notre portefeuille agentique est conçu précisément pour ceci : exécuter et orchestrer les modèles choisis par le client au sein de son propre environnement, avec la traçabilité, les politiques et l’observabilité appliquées de bout en bout. Les contrôles d’inférence ouverte et de passerelle, une couche gouvernée de contexte et d’outils, et une auditabilité complète garantissent que, lorsqu’un agent agit, ses actions restent conformes, explicables et vérifiables. 

La défense ouverte ne fonctionne que si elle peut être déployée dans un cadre de gouvernance, en production, sur des données qu’une entreprise ne peut pas se permettre de déplacer. C’est cette capacité de déploiement que Cloudera apporte à l’Alliance.

Un appel aux décideurs politiques — et aux développeurs — en faveur de la sûreté et de la sécurité de l’IA

Alors que les autorités de réglementation se penchent sur la sûreté de l’IA, il est essentiel que les modèles ouverts, les cadres d’exécution et les outils de sécurité soient reconnus comme des atouts défensifs, et non comme des passifs. Des restrictions générales visant les systèmes d’IA de pointe ouverts affaibliraient les capacités de défense et concentreraient la dépendance envers quelques fournisseurs fermés — tout le contraire de la résilience. 

La voie la plus sûre est celle qui permet à davantage de défenseurs de tester, de vérifier, et de renforcer les systèmes dont dépend la société, tout en s’accompagnant de solides mesures de protection, de règles claires contre les abus, et d’une remédiation rapide.

L’ouverture à elle seule ne garantit pas la confiance. Il faut tout de même des tests rigoureux, une infrastructure sécurisée, une gouvernance claire, et une supervision humaine. Mais un écosystème ouvert élargit la communauté des défenseurs qui peuvent accomplir ce travail.

Cloudera s’engage à collaborer avec NVIDIA et ses partenaires pour bâtir cet avenir — un avenir où l’IA est puissante, ouverte, gouvernée et sécurisée dès sa conception. Nous invitons les entreprises, les gouvernements et les chercheurs à nous rejoindre.