Finalité explicite
Définir le travail amélioré, les bénéficiaires, les personnes exposées et les usages exclus.
IA responsable · Contexte Lab
Charte d’intelligence artificielle responsable
Cette charte décrit les pratiques que Contexte Lab vise à intégrer aux projets. Elle n’est ni une certification, ni une garantie générale de conformité. Les obligations applicables dépendent du système, de son usage, des acteurs et des juridictions ; elles doivent être confirmées avec les responsables compétents.
Dix principes de conception et d’exploitation
Proportionnalité
Choisir la solution la moins complexe et la moins intrusive qui répond au besoin.
Données maîtrisées
Limiter collecte, accès, destinataires et conservation ; documenter sources et qualité.
Supervision réelle
Donner aux personnes l’information, le temps et l’autorité nécessaires pour contrôler ou arrêter.
Transparence adaptée
Indiquer lorsqu’une personne interagit avec un système IA ou reçoit un contenu synthétique lorsque le contexte le demande.
Équité testée
Examiner les groupes et erreurs pertinents au cas d’usage sans réduire le sujet à un score global.
Sécurité par conception
Limiter privilèges, protéger secrets, tester abus, journaliser et préparer la réponse aux incidents.
Fiabilité mesurée
Évaluer sur des cas représentatifs, versionner les changements et surveiller les régressions.
Recours et correction
Prévoir comment signaler, contester, corriger et retracer une sortie ou une action.
Réversibilité
Conserver export, documentation, solution de repli et conditions de sortie proportionnés au risque.
Appliquer la charte pendant tout le cycle
Qualifier
Décrire finalité, personnes, conséquences et obligations possibles.
Concevoir
Choisir données, architecture, rôles, limites et contrôles.
Évaluer
Tester qualité, sécurité, équité, coût, latence et scénarios d’échec.
Déployer
Informer, former, limiter l’accès et ouvrir progressivement.
Surveiller
Suivre incidents, dérives, plaintes et changements, puis corriger ou retirer.
Des responsabilités qui ne disparaissent pas dans l’automatisation
| Rôle | Responsabilité |
|---|---|
| Métier | Définir la qualité, les exceptions et la décision finale |
| Produit | Organiser l’usage, l’information, les retours et le recours |
| Données | Gérer sources, droits, qualité, accès et conservation |
| Technique | Construire, tester, sécuriser, instrumenter et maintenir |
| Conformité | Qualifier les obligations et documenter les choix avec les acteurs compétents |
| Direction | Accepter le risque résiduel, allouer les moyens et pouvoir arrêter le système |
Lorsqu’un système se trompe
Contenir
Limiter ou suspendre la fonction qui produit un risque.
Préserver les faits
Conserver versions, journaux et contexte nécessaires sans étendre inutilement la collecte.
Informer
Alerter les responsables et personnes concernées selon l’impact et les obligations.
Corriger
Traiter la cause, rejouer les tests et documenter la décision de remise en service.
Référentiels à examiner selon le projet
Les noms suivants orientent la qualification ; les citer ne constitue pas une certification.
AI Act européen
Qualifier rôles, catégorie de risque, transparence, documentation et calendrier applicables au système.
RGPD et recommandations CNIL
Examiner finalité, base, minimisation, droits, sécurité, sous-traitants et décisions automatisées.
ISO/IEC 42001 et autres normes
Utiliser les pratiques pertinentes de gouvernance et de management ; ne pas revendiquer une certification sans audit valide.
Référentiels sectoriels
Santé, finance, emploi, éducation, sécurité et autres domaines ajoutent leurs propres règles et responsables.
Des réponses explicites, y compris sur les limites.
Cette charte prouve-t-elle la conformité de Contexte Lab ?
Non. Elle décrit une orientation de travail. La conformité se démontre sur un système, une organisation et des preuves précises.
Interdisez-vous toute décision automatisée ?
Non, mais la décision doit être qualifiée selon ses conséquences, son cadre et les droits des personnes. Les décisions sensibles exigent des contrôles et parfois une intervention humaine imposée.
Comment choisissez-vous les modèles ?
Sur un jeu de tests lié au cas d’usage, en comparant qualité, coût, latence, fonctions, conditions de données, déploiement et réversibilité.
Que signifie supervision humaine ?
Une personne informée peut comprendre la sortie, disposer du contexte, refuser ou corriger et assumer la décision. Un bouton de validation sans temps ni autorité n’est pas une supervision réelle.
Comment signaler un problème ?
Le site doit encore publier un canal de contact réel. Chaque projet doit néanmoins définir dès le lancement la procédure d’incident et les responsables.