Comment la souveraineté des données façonne la stratégie d'IA dans les secteurs réglementés

Dans les secteurs hautement réglementés, comme le secteur public, l'intérêt pour l'IA croît rapidement. Mais les questions qui l'accompagnent concernant les risques, la conformité et le contrôle se multiplient également. 

Ces agences gouvernementales et organisations sont sous pression pour explorer l'IA tout en continuant à protéger les données qui comportent des obligations juridiques, éthiques et de confiance publique. Les dossiers des citoyens, les informations classifiées et les informations relatives à la sécurité nationale ou aux infrastructures critiques ne peuvent pas être simplement déplacés, masqués ou exposés au nom de l'expérimentation.  

Pendant longtemps, la souveraineté des données a fourni un cadre relativement clair pour relever ce défi. 

Si les données sensibles restaient dans les frontières du bon pays, au sein de systèmes approuvés et soumises à des contrôles d’accès bien définis, les organisations pourraient être assurées d’opérer de manière responsable. Le contrôle était étroitement lié au lieu. Dans un environnement optimisé par l’IA, cette hypothèse n’est plus valable.  

La bonne nouvelle, c'est que la souveraineté à l’ère de l’IA est réalisable. Mais cela nécessite une compréhension plus pratique et plus moderne de ce que signifie réellement la souveraineté des données dans un contexte d’IA. 

Qu'est-ce que la souveraineté des données ? 

La souveraineté des données repose essentiellement sur le contrôle. 

Il définit les lois et réglementations applicables aux données, qui est autorisé à y accéder, ainsi que la manière dont ces données peuvent être utilisées, partagées et protégées. Lorsque ces règles sont claires, appliquées, visibles et auditables, la souveraineté des données existe. 

Ce terme est souvent confondu avec des concepts apparentés : 

• Résidence des données, qui décrit l'endroit où les données sont physiquement stockées 

• La localisation des données, qui restreint la manière dont les données peuvent circuler au-delà des frontières 

• Gouvernance des données, qui définit les politiques d'accès, de conservation et de protection 

Chacun d’entre eux joue un rôle important dans le niveau de sécurité et de conformité d’une agence. Aucun d’entre eux, cependant, ne garantit la souveraineté à lui seul. Il s’agit de mécanismes utilisés pour soutenir ce résultat « souverain » plus large : un contrôle durable et applicable dans le cadre d’un dispositif juridique et réglementaire défini. 

Pourquoi l'IA a changé la donne 

D'un point de vue historique, une fois obtenu, ce contrôle (ou cette souveraineté) pouvait être considéré comme relativement stable. L'IA a bouleversé cette hypothèse. 

Contrairement aux systèmes d'analyses traditionnels, l'IA fait plus que lire ou traiter les données. Elle en tire des enseignements, créant de nouvelles formes d'information telles que des modèles entraînés, des schémas appris et des informations dérivées. Ces artefacts peuvent être réutilisés, partagés et déployés dans différents environnements, exposant potentiellement des données d'entraînement sensibles, même lorsque les ensembles de données d'origine ne sont jamais déplacés. 

Par conséquent, la souveraineté des données ne peut plus être évaluée uniquement en fonction de l’emplacement du stockage. Elle dépend désormais de la manière dont les systèmes d’IA sont conçus, entraînés, déployés, gouvernés et surveillés au fil du temps. C’est pourquoi, pour les organisations réglementées, la souveraineté des données ne peut pas être traitée comme une étape de conformité ajoutée une fois que les systèmes d’IA sont déjà en place. Pour réussir, elle doit faire partie de la conception dès le départ. 

Concevoir des stratégies d'IA qui respectent la souveraineté  

Lorsque la souveraineté des données est traitée comme une réflexion après coup, les initiatives d'IA suivent souvent un schéma familier : les données sont copiées, centralisées ou déplacées dans de nouveaux environnements pour prendre en charge de nouveaux outils et modèles. Bien que cela puisse accélérer les premières expérimentations, cela augmente également les risques, affaiblit la surveillance et rend la conformité à long terme plus difficile. 

Les entreprises qui adoptent une approche plus durable partent d'un postulat différent. Au lieu de forcer les données sensibles à s'adapter aux outils d'IA, elles conçoivent des stratégies d'IA qui respectent les contraintes existantes, telles que l'emplacement des données, leur gouvernance et les règles applicables. Dans les secteurs réglementés, ce changement est crucial.  

À quoi ressemble la souveraineté en pratique 

En pratique, les solutions de souveraineté des données ne concernent pas tant les outils individuels que la manière dont les données, la gouvernance et les systèmes d'IA fonctionnent ensemble dans tous les environnements. Les organisations leaders se concentrent sur quelques principes fondamentaux : 

Mettre l'IA au service des données 

Dans les environnements réglementés, le déplacement des données est souvent la plus grande source de risque (ou, dans certains cas, est totalement interdit). Copier des ensembles de données sensibles dans de nouvelles plates-formes ou de nouveaux services Cloud — même chiffrés ou masqués — augmente l'exposition et complique la conformité. 

Une approche axée sur la souveraineté inverse cette logique. Les charges de travail d'IA sont conçues pour fonctionner à proximité des données dont elles dépendent, que ces données résident sur site, dans des environnements cloud sécurisés ou dans des systèmes distribués. En minimisant les déplacements inutiles, les organisations réduisent les risques tout en conservant un meilleur contrôle. 

Appliquez une gouvernance tout au long du cycle de vie intégral de l'IA 

La gouvernance des données traditionnelle s'arrête souvent une fois que les données sont ingérées ou analysées. Dans un environnement piloté par l'IA, la souveraineté dépend de l'extension de la gouvernance à l'ensemble du cycle de vie de l'IA — des données brutes à l'entraînement, au déploiement, à la réutilisation et au retrait des modèles. 

Cela inclut l’extension des contrôles d’accès, de la traçabilité et des politiques d’utilisation au-delà des ensembles de données aux modèles et aux artefacts dérivés créés à partir de ceux-ci. Sans cette continuité, les organisations peuvent être techniquement conformes aux réglementations tout en perdant toute visibilité sur la manière dont les décisions pilotées par l’IA sont prises. 

De nombreuses initiatives précoces en matière d'IA rencontrent des difficultés à ce niveau. Les responsabilités en matière de gouvernance sont fragmentées entre les outils et les équipes, ce qui rend difficile l'explication des résultats ou la démonstration de la conformité. Une approche de gouvernance unifiée, où les contraintes sont directement liées aux données, permet aux programmes d'IA de passer à l'échelle sans sacrifier la supervision. 

Maintenir la visibilité, la traçabilité et la responsabilité 

Dans les secteurs réglementés, il ne suffit pas de supposer que des contrôles existent. Ils doivent être démontrables. 

Les organisations ont besoin d'une visibilité claire sur l'origine des données, sur la manière dont les modèles ont été formés et sur la façon dont les résultats de l'IA sont utilisés au fil du temps. Cette exigence est particulièrement marquée dans le secteur public, où la responsabilité ne se limite pas aux organismes de réglementation, mais s'étend également aux auditeurs, aux organes de contrôle et au public. 

Les décisions pilotées par l'IA peuvent devoir être expliquées des années après avoir été prises. Intégrer la transparence, la traçabilité et l'auditabilité dans les systèmes dès le départ facilite l'adaptation aux nouvelles réglementations, la réponse aux demandes et le maintien de la confiance du public. 

La souveraineté des données n’est plus un sujet que les organisations traitent une fois pour toutes. Il s’agit désormais d’une discipline continue qui façonne la manière dont les organisations conçoivent, déploient et gouvernent les systèmes intelligents. 

Cloudera est conçu de manière unique pour soutenir cette approche, en aidant le secteur public et d'autres secteurs réglementés à développer des capacités d'IA qui respectent la souveraineté tout en favorisant l'innovation. Découvrez comment nous aidons les organisations à faire les deux sans compromis.