Missions · Les agents, les outils, les dépendances
La gouvernance du risque proportionnée
Ni moratoire ni laisser-faire : des décisions graduées, réversibles, révisées à date fixe. Agir tôt, mais léger.
La question d'entrée
Le dilemme de Collingridge décrit la difficulté : tant qu'une technologie est jeune, on peut encore l'orienter, mais on ignore ses effets ; quand on les connaît, elle est devenue trop installée pour qu'on la change. Il en découle une règle de conduite : agir tôt, par des mesures légères et réversibles, plutôt que d'attendre une certitude qui arrivera trop tard. Le principe de précaution, mal compris, produit l'inverse.
Cette décision est-elle proportionnée, réversible et révisable ?
Le déroulé
Pour chaque décision d'usage ou d'interdiction, nous posons trois questions. Sommes-nous devant un risque que nous savons mesurer, ou devant une incertitude ? Pour chaque mesure de prudence proposée, quel est le coût de l'occasion manquée ? La décision est-elle proportionnée, réversible, et assortie d'une date de révision ? Nous écrivons ensuite les décisions avec leur échéance, et nous désignons qui les relira.
Ce que vous gardez
Un registre des décisions sur l'IA, chacune avec son degré, sa condition de retour en arrière et sa date de révision ; et l'habitude de ne rien décider pour toujours.
La forme
Une mission courte, qui prolonge souvent la gouvernance de l'IA.
La mission sœur
Gouvernance des pilotes : la même prudence, appliquée aux essais : un critère d'échec fixé avant de commencer.
Gouvernance des pilotes
la même prudence, appliquée aux essais : un critère d'échec fixé avant de commencer.
À lireDécider avec des agents
La mission mère de cette famille : savoir qui décide, qui arrête, qui répond.
ProvenanceDC B.2 M54 ; Mollick, MW module « principe de précaution », § 621-637, notamment § 627, 630, 633, 636 (N5MB § 2) ; questions B51, B47, B50.