Qui, dans votre organisation, a été formé à reconnaître les situations où votre agent est hors frontière ?

Pourquoi nous la posons

La compétence de l'IA est inégale : excellente sur une tâche, défaillante sur la voisine, sans que l'utilisateur sache où passe la ligne. Dell'Acqua, Mollick et leurs coauteurs l'ont appelée la frontière déchiquetée. L'étude du cas Moderna par l'institut conclut que les garde-⁠fous installés y étaient de conformité, et non de connaissance : on vérifie que l'agent respecte la règle, pas qu'il sait ce qu'il fait.

Ce que la réponse révèle

La réponse est presque toujours : personne, ou l'équipe technique. Les utilisateurs quotidiens, seuls capables de repérer la sortie de frontière, n'ont reçu qu'une formation à l'usage.

La réponse qui rassure

Citer la formation à l'outil, qui apprend à s'en servir et non à reconnaître quand il ne faut pas.

Lundi matin

Réunir les utilisateurs d'un agent et dresser avec eux la liste des cas où il s'est trompé avec assurance.

Questions voisines

• B08Où, dans notre métier, la machine se trompe-⁠t-elle avec assurance ?matière
• B52Qui, chez nous, a cartographié la frontière de son propre métier, tâche par tâche ?énoncé
• B63Pour combien des tâches confiées à une IA disposez-⁠vous d'une preuve indépendante que le résultat était juste, et pas seulement convaincant ?presque
• B07Quelle proportion de nos collaborateurs délègue à la machine la définition même du problème ?énoncé
• B05Allez-⁠vous automatiser ? n'est pas la question : qu'allez-⁠vous faire du gain ?matière

← B05B07 →