Gouvernance et sécurité de l’IA : un cadre opérationnel pour les entreprises suisses

AIDE À LA DÉCISION · GOUVERNANCE

Adapter le niveau de contrôle aux conséquences

Le risque ne dépend pas du nom d’un modèle. Il dépend des données en jeu, de ce que le système a le droit de faire et de la facilité avec laquelle une erreur se voit et se corrige.

01Niveau → contrôles minimaux

01Niveau 1

rédiger ou chercher pour un usage interne

outil approuvé · formation de base · règle sur les données · inscrit à l’inventaire

02Niveau 2

le résultat part chez un client ou oriente une décision professionnelle

relecteur nommé · jeu d’essais avant mise en service · erreurs suivies

03Niveau 3

agit dans vos logiciels, touche des données protégées ou une décision sur une personne

décision formelle · analyse d’impact si requise · droits minimaux · confirmation · journalisation · arrêt immédiat

Une voie rapide pour le niveau 1 ; la gouvernance la plus stricte pour les usages qui peuvent causer un vrai dommage.

02Cinq étapes, un même dossier

01Inventorier→

02Classer→

03Contrôler→

04Vérifier→

05Répondre→

La gouvernance de l’IA échoue quand elle reste un document de politique. Les équipes doivent savoir quels systèmes existent, ce qu’ils ont le droit de faire, quels contrôles s’appliquent et quelles preuves sont demandées avant de mettre en service un usage plus risqué. Elle échoue aussi quand elle est trop lourde : si chaque usage passe par le même comité, le travail se fait en dehors, sur des comptes personnels.

Ce cadre s’adresse aux directions d’entreprises qui gèrent plusieurs usages et plusieurs projets d’IA. Il tient en six éléments.

1. Un inventaire tenu à jour

Commencez par les usages de l’IA, pas seulement par les fournisseurs approuvés. Pour chacun, notez le responsable métier, les utilisateurs, le processus concerné, les catégories de données, l’outil ou le modèle, les connexions à d’autres logiciels et l’effet sur les décisions. Incluez l’IA intégrée aux logiciels que vous utilisez déjà, et les usages non déclarés quand ils sont significatifs.

L’inventaire devient la base de tout le reste : classement, contrôles, réponse aux incidents. Il doit vivre avec les achats et les projets (chaque nouvel outil ou projet y entre), pas dépendre d’une enquête annuelle.

2. Trois niveaux de contrôle

Un même modèle peut servir un usage anodin ou un usage critique. On classe donc l’usage réel, avec six questions :

La réponse la plus forte fixe le niveau ; on ne fait pas de moyenne, qui effacerait un risque réel.

• Niveau 1 : l’IA rédige ou cherche pour un usage interne. Outil professionnel approuvé, formation de base, règle sur les données, enregistrement simple dans l’inventaire.
• Niveau 2 : le résultat part chez un client ou oriente une décision professionnelle. En plus : une personne nommée relit, un jeu d’essais représentatifs est passé avant la mise en service, les erreurs sont suivies.
• Niveau 3 : le système agit dans vos logiciels, touche des données protégées ou une décision sur une personne. En plus : décision formelle d’un responsable, analyse d’impact si la nLPD l’exige, droits minimaux, confirmation explicite des actions irréversibles, journalisation, possibilité d’arrêt immédiat.

Le résultat est une phrase par usage, pas une étiquette sur un modèle. « Claude est sans risque » ne veut rien dire. « L’assistant des sinistres rédige des réponses à partir des conditions générales validées, n’envoie jamais rien lui-même, et chaque réponse est relue par un gestionnaire nommé » est une phrase qu’on peut contrôler.

3. Une bibliothèque de contrôles réutilisables

Chaque contrôle est un élément qu’une équipe rattache à son usage, avec un responsable, une manière de le mettre en place, une preuve produite et une fréquence de vérification.

• Identités et accès. Comptes créés depuis l’annuaire de l’entreprise, administrateurs séparés des utilisateurs, accès retirés au départ ou au changement de fonction. Pour un agent, l’identité technique a moins de droits que la personne qu’il aide : « l’utilisateur y a accès » ne suffit pas à dire « l’agent peut agir dessus ».
• Périmètre des données. Sources autorisées, exclusions, durée de conservation, lieu de traitement, destinations permises des résultats. Les droits d’accès aux documents sont appliqués au moment de la recherche, pas confiés à une consigne du type « ne révèle pas d’informations confidentielles ».
• Qualité et essais. Un jeu d’essais versionné : cas courants, cas ambigus, cas piégés, cas multilingues, erreurs passées connues. On note pourquoi un essai échoue, sa gravité et si une personne l’aurait vu.
• Contrôle des actions. Séparer lire, proposer et exécuter. Les paramètres d’une action sont vérifiés par le logiciel, pas par le modèle ; un paiement, un envoi à un client ou une suppression sont confirmés par une personne.
• Traces. Assez d’informations pour reconstituer ce qui s’est passé (usage, utilisateur, version du modèle, outils appelés, décision du relecteur, coût), sans surveillance disproportionnée des collaborateurs.

4. L’IA générative est une surface d’attaque

Injection de consignes cachées dans un document, fuite de données par un outil connecté, agent qui a trop de droits, contexte empoisonné : ce sont des risques de système, qu’un simple appel à la prudence ne règle pas. Décrivez la chaîne complète (utilisateur, interface, orchestration, outils connectés, recherche documentaire, modèle, destinataires des résultats), réduisez les droits, isolez les contenus non fiables et exigez une confirmation pour les actions qui engagent. L’OWASP Top 10 pour les applications LLM est une bonne liste de départ.

5. Une gouvernance qui répond vite

Une gouvernance qui ne sait que dire non fabrique des usages non déclarés. Mieux vaut un service avec une porte d’entrée connue, des modèles réutilisables et des délais de réponse publiés :

• Niveau 1 : voie rapide. Outil approuvé, formation suivie, enregistrement dans l’inventaire, réponse en quelques jours.
• Niveau 2 : dossier type (fiche d’usage, schéma des données, résultats des essais) et relecteur nommé.
• Niveau 3 : décision d’un comité restreint, avec un avis contradictoire.

Publiez les questions que vous poserez avant qu’une équipe commence à construire : les projets arrivent mieux préparés.

Une revue mensuelle courte suffit, avec quatre rubriques fixes : mouvements de l’inventaire (nouveaux usages, changements, retraits), état des contrôles (exceptions d’accès, essais en baisse, revues en retard, changements chez les fournisseurs), incidents et quasi-incidents, décisions à prendre. Chaque trimestre, vérifiez que les niveaux sont toujours justes : un usage passe au niveau 2 quand ses résultats commencent à sortir de l’entreprise.

6. Des responsables nommés

Chaque usage a trois responsables : un responsable métier pour sa finalité et ses résultats, un responsable technique pour sa réalisation et son exploitation, un responsable des risques qui accepte les contrôles. Le juridique, la sécurité, la protection des données et les achats apportent leur expertise ; ils ne deviennent pas propriétaires par défaut de chaque résultat de l’IA.

Le test de la direction

La question n’est pas de savoir si l’entreprise a une politique IA, mais si elle peut montrer, pour chaque usage important, qui l’a autorisé, avec quels contrôles et quels résultats. Le dossier minimum de la direction contient l’inventaire par niveau, les exceptions ouvertes, les changements importants chez les fournisseurs et dans les modèles, les incidents et les décisions demandées.

Trois signaux appellent une action immédiate : l’inventaire compte moins d’usages que d’outils accessibles aux collaborateurs ; la règle interdit un comportement que l’outil approuvé rend le plus simple ; personne ne sait expliquer pourquoi un usage de niveau 3 a été autorisé. Ce sont des défauts de conception, pas de formation.

Par où commencer

Dans une entreprise de quelques centaines de personnes, l’inventaire, le classement des usages existants, les premiers contrôles et la revue mensuelle se mettent en place en un trimestre. Nous le faisons dans l’Accompagnement IA : à prix fixe sur devis, ou en abonnement (formule Déploiement à CHF 5'100 par mois pour 30 heures, ou Transformation à CHF 9'600 pour 60 heures, trois mois minimum). Les contrôles techniques d’un agent ou d’une intégration (droits, traces, confirmations) relèvent de l’offre Engineering IA. Les obligations légales à intégrer sont détaillées dans l’analyse nLPD, AI Act et IA générative.