Humain dans la boucle

Ce que nous entendons par là

Nous gardons l'expression, mais nous lui demandons des comptes. Un humain dans la boucle n'est utile que s'il a le temps de refuser, la compétence pour juger et le droit de s'opposer. À défaut, il ne contrôle rien : il sert à ce que l'on ait quelqu'un à blâmer. Nous préférons parler d'un humain capable de tenir la boucle, et vérifier qu'il l'est encore.

Ce que le mot cache d'ordinaire

La formule se présente comme une précaution éthique ; elle sert souvent de clause d'assurance. On place une personne au bout de la chaîne, on mesure son débit, et l'on s'étonne qu'elle ne voie plus rien au quarantième dossier quand l'outil avait eu raison trente-⁠neuf fois.

Qui l'éclaire

Ethan Mollick en fait l'un de ses quatre principes dans Co-⁠Intelligence (« la co-⁠intelligence »). Les ironies de l'automatisation décrites par Lisanne Bainbridge disent la limite : l'opérateur qui ne fait plus que surveiller perd la compétence nécessaire pour reprendre la main.

À l'épreuve d'une question

Combien de dossiers l'humain dans la boucle traite-⁠t-il encore entièrement seul ? Quelle est sa séance de simulateur ? Le simulateur des pilotes de ligne n'existe pas pour rien.

Notions voisines

• Contresigner : apposer son nom sur une décision qu'on n'a pas prise ; le contraire de décider.
• Capacité de reprise : savoir reprendre la main quand l'automate échoue ; elle ne s'entretient qu'en pratiquant.
• Grain de sel humain : le jugement qu'une personne nommée réinjecte dans le travail fait avec une machine, et dont elle répond.
• Frontière déchiquetée : l'IA excelle sur une tâche et échoue sur la voisine, sans que rien n'indique où passe la ligne.
• Novice facultatif : quand l'outil permet à l'expert de travailler seul, le débutant devient inutile à la production, et cesse d'apprendre.