La loi de Goodhart : lorsqu'un chiffre devient une cible, il commence à mentir

Une métrique peut être utile jusqu'à ce que les gens soient récompensés pour l'avoir modifiée. Le chiffre peut alors s'améliorer tandis que le véritable objectif se détériore.

La loi de Goodhart explique pourquoi les tableaux de bord, les classements et les quotas peuvent se retourner contre nous lorsqu'une métrique de substitution devient l'élément que les gens optimisent directement.

Par l'équipe de rédaction de Math Says Yes

Examiné par des humains selon nos normes en matière de sources et de corrections.

Comment nous évaluons le contenu

LE PIÈGE

Supposer qu'améliorer la métrique doit signifier améliorer l'objectif sous-jacent que la métrique a été choisie pour représenter.

Une jauge de tableau de bord atteignant une cible tandis que des voyants d'avertissement indiquent que la qualité baisse.

La loi en une phrase

La loi de Goodhart se résume généralement ainsi : lorsqu'une mesure devient une cible, elle cesse d'être une bonne mesure. La mesure en soi n'est pas le méchant ici. Une mesure est généralement un indicateur indirect de quelque chose de plus profond, et une fois que des récompenses ou des punitions sont rattachées à cet indicateur, les gens l'optimisent — ce qui peut briser son lien avec l'objectif plus profond.

Ce que montrent les chiffres

week 1

target set

week 8

tickets fermés (la cible)

problèmes réellement résolus

Une fois que les tickets fermés deviennent la cible, les fermetures augmentent tandis que les problèmes des utilisateurs résolus diminuent. La métrique gagne ; l'objectif perd.

La version quotidienne

Si les agents du support sont jugés uniquement sur les tickets fermés, les tickets faciles peuvent évincer les plus importants. Si les écoles sont jugées uniquement sur les résultats des tests, l'enseignement peut se limiter à la matière testée. Si les hôpitaux sont jugés uniquement sur la durée du séjour, libérer les patients plus tôt peut ressembler à de l'efficacité tout en augmentant les risques. La métrique s'améliore, mais l'expérience, l'apprentissage ou la santé de l'utilisateur peuvent ne pas s'améliorer.

Pourquoi l'intuition échoue

Un chiffre semble objectif. Il apparaît sur un tableau de bord, monte ou descend, et donne aux gestionnaires quelque chose de concret à comparer. Ce caractère concret fait qu'il est facile d'oublier ce que le chiffre omet. Les gens ne sont pas des objets de mesure passifs ; ils réagissent au fait d'être mesurés. Dès que la métrique devient précieuse, elle fait partie du système qu'elle était censée observer.

Comment l'utiliser

Utilise les métriques par paires et en systèmes. Une cible de vitesse nécessite une contre-métrique de qualité. Une cible de productivité nécessite des contrôles de la clientèle ou de la sécurité. Un classement nécessite un examen périodique des cas individuels. Si le chiffre s'améliore alors que le résultat concret ne s'améliore pas, la métrique s'est éloignée de l'objectif. La loi de Goodhart est un rappel de mesurer la réalité, puis de continuer à vérifier si la mesure pointe toujours vers la réalité. Les tableaux de bord ont besoin d'humilité.

Exemple concret

Supposons qu'une équipe logicielle soit jugée par le nombre de tickets fermés par semaine. Au début, la métrique peut suivre grossièrement la productivité. Une fois qu'elle devient la cible, l'équipe peut diviser le travail en plus petits tickets, éviter les bugs ambigus ou fermer des problèmes avant que les utilisateurs ne soient satisfaits. Le chiffre augmente, mais l'objectif initial, de meilleurs logiciels pour les utilisateurs, peut stagner ou empirer.

Quand il s'applique

La loi de Goodhart importe le plus lorsqu'une métrique indirecte est liée à des récompenses, à des punitions, à un classement, à un financement ou à la réputation publique. Elle est moins forte lorsque la métrique est privée, difficile à manipuler, régulièrement audidée et associée à des mesures d'équilibre. Arrêter la mesure n'est pas la solution. Garde l'objectif visible, fais pivoter ou examine les métriques, et inspecte les cas où le chiffre s'améliore mais où le résultat concret ne s'améliore pas.

Ce que les gens comprennent mal

Une mesure ne reste pas neutre une fois qu'on évalue les gens à l'aune de celle-ci. Un chiffre peut être un indicateur utile tant qu'il est simplement observé. Dès que des primes, des classements ou des sanctions en dépendent, le chiffre devient une composante du système d'incitation et peut cesser de représenter l'objectif initial.

Note sur les sources

L'article de Strathern dans la European Review est utilisé car il constitue une source académique stable pour la formulation courante selon laquelle une mesure peut cesser d'être une bonne mesure lorsqu'elle devient un objectif. La page applique cette formulation aux tableaux de bord pratiques et aux incitations, tout en maintenant la leçon générale axée sur les mesures indirectes et la réponse comportementale.

FAQ

Qu'est-ce que la loi de Goodhart ?

C'est l'idée qu'une mesure tend à cesser d'être une bonne mesure lorsqu'elle devient un objectif, car les gens adaptent leur comportement pour améliorer le chiffre.

Comment éviter la loi de Goodhart ?

On ne peut pas l'éviter complètement, mais on peut l'atténuer en utilisant des mesures d'équilibre, en examinant des cas réels, en modifiant les incitations lorsque des stratégies de contournement apparaissent et en maintenant l'objectif sous-jacent explicite.