Grain de sel humain

Ce que nous entendons par là

Nous appelons grain de sel humain la part qu'une personne ajoute au travail d'une machine et dont elle répond : elle fait reformuler et enrichir sa demande, refuse ce qui ne tient pas, signe ce qu'elle garde. Le grain se reconnaît au goût, pas à l'étiquette. Là où l'humain n'ajoute rien, l'honnêteté consiste à reposer la salière plutôt qu'à décorer le plat.

Ce que le mot cache d'ordinaire

La formule rassurante veut qu'il faille toujours un humain dans la boucle. Elle est fausse dans une bonne partie des cas, et elle dispense de dire où l'humain ajoute réellement. Elle fabrique des relecteurs de forme, qui valident sans pouvoir refuser.

Qui l'éclaire

L'expression est du fondateur, qui décrivait sa propre méthode : faire reformuler sa demande par l'IA en l'enrichissant, puis prendre le temps de valider. Sangeet Paul Choudary décrit le même déplacement du métier : l'expertise passe de la production à la caution.

À l'épreuve d'une question

Que montrons-⁠nous de ce que l'humain a refusé, corrigé ou retourné à la machine ? Ce que l'humain a retiré dit plus de lui que ce qu'il a gardé.

Notions voisines

• Contresigner : apposer son nom sur une décision qu'on n'a pas prise ; le contraire de décider.
• Registre de ce qui a été écarté : la trace de ce que l'humain a refusé, corrigé ou retiré au travail de la machine.
• Humain dans la boucle : garder une personne dans un processus automatisé ; à condition de dire où, et avec quel pouvoir.
• Jugement : décider sous incertitude en répondant de sa décision ; ce que la machine ne fait pas à votre place.
• Frontière déchiquetée : l'IA excelle sur une tâche et échoue sur la voisine, sans que rien n'indique où passe la ligne.