Missions · Les agents, les outils, les dépendances
Le diagnostic des droits de décision entre humains et agents
Qui répond, devant qui, dans quelles circonstances, selon quelles normes, avec quelles conséquences ? Cinq questions, posées à chaque agent qui décide chez vous.
La question d'entrée
Melissa Reeve observe une bascule que peu de comités ont décidée : on passe de « l'IA suggère, l'humain décide » à « l'IA décide, l'humain surveille », sans que personne n'ait signé le passage. Le diagnostic reprend la question là où elle a été lâchée.
Combien d'agents décident chez nous, et pour combien pouvons-nous nommer qui les arrête ?
Le déroulé
Pour chaque système qui décide ou prépare une décision, nous appliquons le cadre de responsabilité de Reeve en cinq questions : qui répond, devant qui, dans quelles circonstances, selon quelles normes, avec quelles conséquences. Nous situons le système sur quatre niveaux d'autonomie et nous demandons qui a décidé qu'il s'y trouvait.
Nous examinons ensuite les dérogations : ce qui arrive à celui qui s'écarte de la recommandation. Qui retire ce droit obtient le rejet ; qui l'accorde obtient l'usage. Enfin, pour chaque humain responsable, nous demandons quand il a traité un dossier entier seul pour la dernière fois.
Ce que vous gardez
Un tableau écrit, système par système : niveau d'autonomie, responsable nommé, conditions de dérogation, programme d'exercice de celui qui répond. C'est la matière première du registre que construit la mission mère.
La forme
Un diagnostic écrit, de quelques semaines, qui peut précéder ou ouvrir la mission Décider avec des agents.
La mission sœur
L'audit des cinq leviers d'un dispositif : après qui décide, qui voit, agit, raccorde et règle.
L'audit des cinq leviers d'un dispositif
après qui décide, qui voit, agit, raccorde et règle.
À lireDécider avec des agents
La mission mère de cette famille : savoir qui décide, qui arrête, qui répond.
ProvenanceDC B.2 M58 (ancien nom) ; Reeve, N2 l. 46, 49, 258 ; RFP § p. 174, 208, 219, 394, 399 (N5RA § 2.3) ; RW § 1723 (N5RB § 2) ; questions B54, B58, B56, B59.