Où, dans notre métier, la machine se trompe-⁠t-elle avec assurance ?

Pourquoi nous la posons

Le danger n'est pas l'erreur de la machine, mais l'erreur confiante : une réponse fausse et fluide, que rien ne distingue d'une réponse juste. Nous associons spontanément la fluidité à la fiabilité, et l'on ne vérifie pas ce dont on est sûr. La question demande une carte, métier par métier, des endroits où cette assurance trompe.

Ce que la réponse révèle

Chaque métier a ses zones : les références, les chiffres, les cas rares, les règles locales. Ceux qui les connaissent sont les praticiens expérimentés, et leur absence de la conversation sur l'outil est le silence qui coûte.

La réponse qui rassure

Répondre que l'outil se trompe rarement, ce qui est exact et rend chaque erreur plus dangereuse.

Lundi matin

Ouvrir un relevé commun des sorties de route, où chaque erreur confiante repérée est notée avec la tâche et la manière dont on l'a vue.

Questions voisines

• B06Qui, dans votre organisation, a été formé à reconnaître les situations où votre agent est hors frontière ?énoncé
• B20Quand un outil a eu raison trente-⁠neuf fois, avec quels yeux regardez-⁠vous la quarantième ?presque
• B49Dans votre entreprise, quelle est la tâche où l'outil est si bon que plus personne ne pense à le vérifier ?Ouverturepresque
• B63Pour combien des tâches confiées à une IA disposez-⁠vous d'une preuve indépendante que le résultat était juste, et pas seulement convaincant ?presque
• B09Celui qui valide les décisions de l'agent a-⁠t-il l'expertise et le pouvoir de le contredire ?énoncé

← B07B09 →