Informations / Contexte Lab
Charte d’intelligence artificielle responsable
Cette charte décrit les pratiques que Contexte Lab vise à intégrer aux projets. Elle n’est ni une certification, ni une garantie générale de conformité. Les obligations applicables dépendent du système, de son usage, des acteurs et des juridictions ; elles doivent être confirmées avec les responsables compétents.
Dix principes de conception et d’exploitation
- Finalité explicite
- Définir le travail amélioré, les bénéficiaires, les personnes exposées et les usages exclus.
- Proportionnalité
- Choisir la solution la moins complexe et la moins intrusive qui répond au besoin.
- Données maîtrisées
- Limiter collecte, accès, destinataires et conservation ; documenter sources et qualité.
- Supervision réelle
- Donner aux personnes l’information, le temps et l’autorité nécessaires pour contrôler ou arrêter.
- Transparence adaptée
- Indiquer lorsqu’une personne interagit avec un système IA ou reçoit un contenu synthétique lorsque le contexte le demande.
- Équité testée
- Examiner les groupes et erreurs pertinents au cas d’usage sans réduire le sujet à un score global.
- Sécurité par conception
- Limiter privilèges, protéger secrets, tester abus, journaliser et préparer la réponse aux incidents.
- Fiabilité mesurée
- Évaluer sur des cas représentatifs, versionner les changements et surveiller les régressions.
- Recours et correction
- Prévoir comment signaler, contester, corriger et retracer une sortie ou une action.
- Réversibilité
- Conserver export, documentation, solution de repli et conditions de sortie proportionnés au risque.
Appliquer la charte pendant tout le cycle
Qualifier
Décrire finalité, personnes, conséquences et obligations possibles.
Concevoir
Choisir données, architecture, rôles, limites et contrôles.
Évaluer
Tester qualité, sécurité, équité, coût, latence et scénarios d’échec.
Déployer
Informer, former, limiter l’accès et ouvrir progressivement.
Surveiller
Suivre incidents, dérives, plaintes et changements, puis corriger ou retirer.
Des responsabilités qui ne disparaissent pas dans l’automatisation
| Rôle | Responsabilité |
|---|---|
| Métier | Définir la qualité, les exceptions et la décision finale |
| Produit | Organiser l’usage, l’information, les retours et le recours |
| Données | Gérer sources, droits, qualité, accès et conservation |
| Technique | Construire, tester, sécuriser, instrumenter et maintenir |
| Conformité | Qualifier les obligations et documenter les choix avec les acteurs compétents |
| Direction | Accepter le risque résiduel, allouer les moyens et pouvoir arrêter le système |
Lorsqu’un système se trompe
- Contenir
- Limiter ou suspendre la fonction qui produit un risque.
- Préserver les faits
- Conserver versions, journaux et contexte nécessaires sans étendre inutilement la collecte.
- Informer
- Alerter les responsables et personnes concernées selon l’impact et les obligations.
- Corriger
- Traiter la cause, rejouer les tests et documenter la décision de remise en service.
Référentiels à examiner selon le projet
Les noms suivants orientent la qualification ; les citer ne constitue pas une certification.
- AI Act européen
- Qualifier rôles, catégorie de risque, transparence, documentation et calendrier applicables au système.
- RGPD et recommandations CNIL
- Examiner finalité, base, minimisation, droits, sécurité, sous-traitants et décisions automatisées.
- ISO/IEC 42001 et autres normes
- Utiliser les pratiques pertinentes de gouvernance et de management ; ne pas revendiquer une certification sans audit valide.
- Référentiels sectoriels
- Santé, finance, emploi, éducation, sécurité et autres domaines ajoutent leurs propres règles et responsables.
Questions fréquentes
Des réponses directes sur le périmètre, les limites et les informations publiées.
Cette charte prouve-t-elle la conformité de Contexte Lab ?
Non. Elle décrit une orientation de travail. La conformité se démontre sur un système, une organisation et des preuves précises.
Interdisez-vous toute décision automatisée ?
Non, mais la décision doit être qualifiée selon ses conséquences, son cadre et les droits des personnes. Les décisions sensibles exigent des contrôles et parfois une intervention humaine imposée.
Comment choisissez-vous les modèles ?
Sur un jeu de tests lié au cas d’usage, en comparant qualité, coût, latence, fonctions, conditions de données, déploiement et réversibilité.
Que signifie supervision humaine ?
Une personne informée peut comprendre la sortie, disposer du contexte, refuser ou corriger et assumer la décision. Un bouton de validation sans temps ni autorité n’est pas une supervision réelle.
Comment signaler un problème ?
Le site doit encore publier un canal de contact réel. Chaque projet doit néanmoins définir dès le lancement la procédure d’incident et les responsables.
Documents associés
- Politique de confidentialité
- Mentions légales
- Charte cookies