Quelle décision n'automatiserons-⁠nous jamais, et pour quelle raison ?

Pourquoi nous la posons

Chaque « jamais » prononcé sur l'IA a reculé ; l'objection de l'histoire est sérieuse, et nous la prenons au mot. La question ne porte donc pas sur ce que la machine peut faire, mais sur ce que nous voulons qu'elle fasse. La seconde moitié de la phrase est l'essentiel : un interdit sans motif tombe à la première démonstration.

Ce que la réponse révèle

Les réponses se rangent vite en deux familles : les décisions qu'on garde parce que la machine les prend mal, et celles qu'on garde parce qu'elles engagent des personnes. Seules les secondes tiennent quand l'outil progresse.

La réponse qui rassure

Fonder l'interdit sur une faiblesse technique de l'outil, qui sera corrigée à la prochaine version.

Lundi matin

Écrire trois décisions que la maison ne confiera pas à une machine, avec pour chacune une raison qui resterait vraie si la machine devenait meilleure que vous.

Questions voisines

• B60Y a-⁠t-il des décisions que vous refuseriez de confier à une machine même si elle les prenait mieux que vous ?Ouverturepresque
• B56Quelles décisions ne doivent jamais passer de « l'humain décide » à « l'humain surveille » ? Où avons-⁠nous décidé, exprès, que l'IA n'irait pas ?énoncé
• F11Quand l'intérêt humain et l'intérêt financier s'opposent, qui tranche, et dans quel sens ?énoncé
• B04Qui apprend quand nous utilisons cet outil, et pour le compte de qui ?matière
• B02Qui tient la manette : l'expert seul, ou l'expert avec le débutant ?énoncé

← B02B04 →