Si l’IA est en train de devenir la colonne vertébrale des opérations commerciales modernes pour de nombreuses organisations, elles sont moins nombreuses à créer elles-mêmes les systèmes d’IA. Le plus souvent, elles font confiance à des fournisseurs tiers et intègrent leurs solutions d’IA dans leurs opérations quotidiennes.

Cette transition vers des solutions tierces nécessite une transformation fondamentale de la manière dont les entreprises évaluent et gèrent les risques associés à leur utilisation de l’IA. 

Dans cet article, nous détaillerons pourquoi il est si impératif d’adopter une approche holistique de l’évaluation fournisseur et expliquerons comment la gouvernance de l’IA peut jouer un rôle essentiel dans l’atténuation des risques et la promotion de pratiques d’IA responsables. 

Le changement de paradigme de l’évaluation fournisseur

La plupart des sociétés ont mis en pratique des stratégies de gestion du risque tiers pour d’autres fournisseurs. Ces workflows traditionnels doivent évoluer pour suivre le rythme de l’intégration dynamique de l’IA. 

Nous avons vu qu’une approche cloisonnée des dimensions plus traditionnelles du risque tiers (par ex., protection de la vie privée, sécurité, éthique, continuité et résilience des activités, etc.) ne fonctionne plus. Cela vaut également pour l’adoption de l’IA par les fournisseurs tiers, soulignant la nécessité pour les organisations de redéfinir leur approche de l’évaluation des fournisseurs pour être plus holistique.

Le contexte technique : évaluer les systèmes et les composants d’IA

Comprendre les complexités techniques des systèmes d’IA déployés par les fournisseurs est la base d’une évaluation robuste. L’exploration de la technologie sous-jacente révèle les risques potentiels associés aux composants d’IA dans les solutions tierces, y compris des aspects tels que :

• Les caractéristiques des jeux de données
  Les systèmes d’IA nécessitent un très grand nombre de données et vous devez avoir une compréhension claire de leurs caractéristiques. Vos évaluations doivent vous permettre de clarifier la qualité des données, les sources de données d’entraînement, qui est responsable des données, le versionnement et la traçabilité des données, etc.
  
  
• Les caractéristiques du modèle 
  Une fois que vous avez obtenu une transparence sur les jeux de données que vous allez utiliser, vous devez obtenir des clarifications similaires sur le modèle lui-même. Le modèle que vous utilisez est-il un modèle de fondation ? Quelle méthode d’apprentissage utilise-t-il ? Quels biais peuvent être présents et quel est le rapport de parité démographique ? Quel est le niveau d’autonomie du modèle et à quel point le contrôle humain est-il nécessaire ?

Ce contexte technique de caractéristiques des jeux de données et des modèles constitue le premier niveau d’une analyse complète de votre système d’IA tiers. 

Même si vous n’êtes pas vous-même ni le développeur, ni le fournisseur du système, en tant que déployeur d’un système d’IA tiers, vous aurez toujours des obligations et des responsabilités concernant les données et les modèles que vous utilisez. Il est donc important d’avoir les réponses à ces questions. 

Cadres de référence pour la gouvernance de l’IA se repérer dans la conformité et les exigences

Les pratiques de gouvernance de l’IA sont un élément essentiel de l’utilisation responsable de l’IA et pas seulement de votre propre gouvernance interne de l’IA. Il devient de plus en plus important pour vous d’évaluer également le cadre de référence de gouvernance de l’IA de vos fournisseurs ; cela vous donnera plus d’informations sur la conformité et les dimensions juridiques et éthiques de leurs pratiques d’IA.

Les cadres de référence globaux, tels que le règlement de l’UE sur l’IA, introduisent de plus en plus d’exigences spécifiques autrès des acteurs responsables, en fonction de leur rôle, telles que les évaluations de la conformité par les fournisseurs de systèmes d’IA à haut risque. 

Même si les sociétés qui utilisent l’IA tierce ne relèvent pas de la catégorie des fournisseurs, elles doivent néanmoins être conscientes de leurs responsabilités en tant que déployeurs et respecter ces cadres de référence pour garantir la conformité et des pratiques d’IA responsables chez leurs fournisseurs.

Approche holistique pour l’évaluation

Les avantages d’une approche d’évaluation holistique vont plus loin que la simple conformité. Il est essentiel d’éviter les pièges juridiques et éthiques associés aux systèmes d’IA utilisés par des tiers pour renforcer la confiance et maintenir la transparence dans l’écosystème des fournisseurs.

Il peut sembler insurmontable d’avoir à évaluer les fournisseurs en plus de vos propres responsabilités en matière de gouvernance de l’IA, mais vous n’avez pas à partir de zéro. La mise en œuvre des évaluations de la gouvernance de l’IA peut être découpée en petites étapes pratiques, telles que l’intégration de la gouvernance de l’IA dans les workflows existants de gestion des risques tiers.

Des outils tels que les solutions AI Governance et Third-Party Risk Management de OneTrust vous aident à rationaliser le processus, en garantissant une vue plus complète des initiatives liées à l’intégration des composants d’IA dans l’ensemble de votre entreprise.

Gérer le risque tiers pour établir la confiance

Le contexte des risques liés à l’IA tierce continue d’évoluer et les organisations doivent adopter une approche holistique de l’évaluation des fournisseurs. 

L’intégration du risque lié à l’IA dans ces évaluations est un impératif stratégique et une étape proactive vers des pratiques de gestion du risque tiers et une utilisation responsable de l’IA. 

L’élaboration d’un cadre de référence complet permet non seulement d’atténuer les risques associés à l’adoption de l’IA de tiers, mais favorise également un écosystème transparent, fiable et innovant. 

Les organisations doivent adapter leurs workflows de gestion des risques tiers pour naviguer dans les complexités de l’IA et garantir un avenir où l’IA est exploitée de manière responsable pour une croissance commerciale durable.