Qui, dans notre contrat avec le fournisseur, répond d'une hallucination dommageable ?

Pourquoi nous la posons

Notre lecture du guide de la Harvard Business Review sur l'IA relève une lacune que la plupart des contrats partagent : la responsabilité du fournisseur quand son modèle invente un fait qui cause un dommage. L'hallucination n'est pas un accident de l'outil, c'est l'autre face de ce qui le rend utile ; il faut donc décider d'avance qui en répond.

Ce que la réponse révèle

Le contrat, relu, renvoie presque toujours la responsabilité vers l'utilisateur. Le silence interne est plus grave : personne n'a désigné qui, dans la maison, répond devant le client lésé.

La réponse qui rassure

Supposer que le fournisseur assume, parce qu'il est grand.

Lundi matin

Relire la clause de responsabilité du contrat principal, puis écrire le nom de la personne qui répondrait, chez vous, devant un client lésé.

Questions voisines

• B40Avons-⁠nous lu le contrat d'accès de notre moteur avant sa fiche technique ?énoncé
• B01Qui peut éteindre l'agent, et qui en répond ?Ouverturematière
• B63Pour combien des tâches confiées à une IA disposez-⁠vous d'une preuve indépendante que le résultat était juste, et pas seulement convaincant ?presque
• B46Que nous cachent nos collaborateurs de leur usage de l'IA, et pourquoi ont-⁠ils raison de le cacher ?presque
• B44Est-⁠ce qu'elle vous a déjà contredit ? (au dirigeant qui dit avoir « adopté » l'IA)presque

← B44B46 →