Où réside le savoir pertinent pour cette décision : dans les données de l'agent, ou dans des circonstances que seul un humain présent perçoit ?

Pourquoi nous la posons

Friedrich Hayek distinguait, dès 1945, le savoir général, qui se transmet, du savoir des circonstances particulières de temps et de lieu, que seul possède celui qui est sur place. Notre lecture de Reeve en fait un critère pour répartir les droits de décision entre humains et agents : la décision doit aller là où se trouve le savoir pertinent.

Ce que la réponse révèle

Beaucoup de décisions confiées aux agents dépendent de circonstances qu'aucune donnée ne contient : une tension dans une équipe, un client inquiet, une règle locale. Ceux qui les perçoivent sont rarement consultés sur la répartition des droits.

La réponse qui rassure

Supposer que tout savoir pertinent finit par entrer dans les données, pourvu qu'on en collecte assez.

Lundi matin

Pour une décision que l'on s'apprête à automatiser, demander à ceux qui la prennent aujourd'hui ce qu'ils savent et qui n'est écrit nulle part.

Questions voisines

• I07Quelle décision, prise au-⁠dessus de vous, dépend d'une information que vous êtes seul à tenir à jour ?presque
• B48Que laisse délibérément de côté ce modèle, et qui a décidé que cela pouvait être négligé sans conséquence ?presque
• B03Quelle décision n'automatiserons-⁠nous jamais, et pour quelle raison ?matière
• B56Quelles décisions ne doivent jamais passer de « l'humain décide » à « l'humain surveille » ? Où avons-⁠nous décidé, exprès, que l'IA n'irait pas ?énoncé
• B54Combien d'agents décident chez nous, et pour combien pouvons-⁠nous nommer qui les arrête ?presque

← B54B56 →