Cet article est le résultat d’un travail d’analyse du livre Noise, publié par Kahneman, Sibony et Cass Sunstein en 2021, afin de rendre leurs travaux mobilisables dans une dissertation au concours sur le thème de « Juger ». Il s’attaque en effet aux facteurs qui expliquent les erreurs de jugement humain : le biais, mais aussi — et c’est le moins connu — le bruit.
Noise, ou les erreurs impensées du jugement
Le bruit et le biais : deux facteurs d’erreur
Selon les auteurs, les facteurs d’erreur de jugement se décomposent en biais et en bruit systémique. Selon eux, un grand nombre d’organisations et d’hommes, malheureusement, en souffre ; parfois, le bruit est même la composante la plus importante de l’erreur. Pourtant, dans le débat public sur l’erreur humaine aussi bien qu’au sein des organisations, le rôle du bruit demeure rarement reconnu.
Or, le niveau de bruit qui entache les décisions prises dans le monde réel est souvent scandaleusement élevé. Noise révèle ainsi des exemples préoccupants, qui concernent des situations dans lesquelles la justesse des jugements a pourtant une grande importance. L’exemple des demandes d’asile politique aux États-Unis est ainsi très parlant :
La décision d’admettre ou non un demandeur d’asile s’apparente à une loterie.
Une étude intitulée Refugee Roulette, fondée sur des affaires attribuées aléatoirement à différents juges, révèle ainsi que l’un d’eux accordait une réponse favorable à seulement 5 % des requêtes, tandis qu’un autre en acceptait 88 %. Mais quel rapport entre cet écart et le bruit ? Pour le comprendre, il faut d’abord rappeler ce qu’est l’acte de juger.
Le jugement comme mesure : entre justesse et erreur
Juger, au sens de l’activité mentale qui consiste à interroger et produire une conclusion, c’est mesurer pour être juste. Mesurer, c’est utiliser un instrument pour attribuer à un objet une valeur choisie sur une échelle. Rendre un jugement constitue un acte similaire, même si l’échelle n’est pas toujours chiffrée :
Le jugement peut donc être considéré comme une mesure dont l’instrument est un esprit humain.
Cela suggère que le jugement a pour but la justice : une mesure doit s’approcher le plus possible de la vérité, c’est-à-dire minimiser l’erreur. De même, l’objectif du jugement, du moins professionnel, est d’être juste, c’est-à-dire de minimiser le bruit et les biais pour prendre les bonnes décisions et rendre les bonnes conclusions. En quoi consistent alors ces biais et ce bruit ?
Les biais et le bruit qui provoquent l’erreur dans le jugement
Les biais et le bruit sont, respectivement, l’écart systématique et la dispersion aléatoire qui provoquent des erreurs de jugement.
Le biais
Certains jugements souffrent de biais, c’est-à-dire qu’ils manquent leur cible en raison de l’influence des préférences, des valeurs, des espoirs et des craintes qui ne devraient pas entrer en compte.
Un corpus abondant de recherche en psychologie et en économie comportementales identifie ainsi une longue liste de biais psychologiques : l’erreur de prévision, l’excès de confiance, l’aversion à la perte, le biais pour le présent, ou encore les biais favorables ou défavorables à certaines catégories de personnes.
Le bruit
Le bruit, lui, fait que des personnes qui devraient être d’accord aboutissent en réalité à des conclusions très différentes, en raison d’éléments aléatoires inconscients comme la météo, l’humeur ou encore une information lue dans la presse. En clair, le bruit consiste en des éléments de la vie de tous les jours qui orientent en permanence notre jugement.
Si le bruit, dont nous n’avons pas conscience, peut se retrouver dans les décisions récurrentes, il peut néanmoins aussi se produire lors de décision uniques, une décision singulière étant simplement une décision récurrente qui n’est prise qu’une fois. Il faut ainsi, selon les auteurs de Noise, interroger sérieusement les causes et les conséquences du bruit, mais aussi des biais, qui concernent donc potentiellement tous nos jugements :
Si le biais est donc la silhouette qui capte le regard, le bruit est l’arrière-plan auquel nous ne prêtons pas attention. Pour améliorer la qualité de nos jugements, nous devons nous attaquer au biais mais aussi au bruit. Comprendre le problème du bruit et essayer de le résoudre est un travail de tous les instants et une œuvre collective. Nous avons la possibilité d’y participer et le livre essaie de nous les faire saisir.
Les exemples de bruit et de biais que Noise décrit ne sont que la partie émergée d’un énorme iceberg : en réalité, à chaque fois que l’on étudie le jugement humain, il y a de très fortes chances que l’on y trouve du bruit. Examinons cependant un exemple important : l’influence du bruit et des biais sur les jugements de la justice.
Le bruit et le biais, facteurs d’erreurs judiciaires
Les erreurs dans le jugement discrétionnaire des juges
Le pouvoir discrétionnaire des juges, considéré comme un signe de justice non mécanique et donc d’humanité, a longtemps été célébré. L’individualisation de la peine était un principe capital ; mais cet enthousiasme commence à se tempérer dans les années 1970, en raison du niveau assourdissant de bruit.
Ainsi, en 1973, un juge célèbre, Marvin Frankel, dans son livre Criminal Sentences : Law Without Order, expose la variabilité inexplicable des condamnations – c’est-à-dire, en réalité, le bruit. Mais il s’inquiéte également du biais, c’est-à-dire des disparités raciales et socio-économiques.
En 1981, une vaste étude — un audit du bruit — mobilise ainsi cent huit juges fédéraux, chargés de se prononcer sur les peines de 16 prévenus hypothétiques dont les affaires étaient résumées dans un rapport identique : elle révèle que l’« absence de consensus était la norme ». Il n’y a ainsi d’accord unanime sur la peine d’emprisonnement que dans trois affaires et, dans ces cas, la durée varie considérablement. Dans une affaire de fraude, la peine moyenne recommandée est de 8,5 ans ; la plus longue est la perpétuité. Le résultat varie donc selon les affaires ; mais, pour l’affaire moyenne, la peine était de 7 ans de prison, et l’écart type autour de cette moyenne de 3,4. Le bruit peut donc être source de terribles injustices.
Le bruit comme responsable de l’erreur de jugement
Pourtant, la peine infligée à une personne reconnue coupable ne devrait dépendre ni du juge, ni du temps qu’il fait, ni du score de l’équipe de football locale lors du match de la veille. Il serait non seulement injuste, mais également scandaleux que des individus aux profils en tout point comparables et reconnus coupables du même crime soient condamnés à des peines radicalement différentes.
Les auteurs de Noise considèrent ainsi que certaines informations non pertinentes, voire des facteurs mineurs ou aléatoires peuvent conduire les juges à des décisions différentes. Ainsi, les juges ont tendance à accorder plus souvent la liberté sous caution en début de journée ou après une pause déjeuner que juste avant celle-ci. De même, lorsque le juge a faim, il est plus sévère ; lorsque c’est l’anniversaire du reconnu coupable, il est plus clément. Enfin, les juges sont plus sévères les jours qui suivent une défaite de l’équipe de football de leur ville. Alors, comment réduire ces biais et ce bruit ?
Les stratégies de réduction du biais et du bruit dans le cas judiciaire
Dès son époque, Frankel appelait à réduire le bruit qui influençait les décisions de justice en élaborant des profils détaillés ou des listes de facteurs comprenant une forme de notation objective, par exemple chiffrée, et un ensemble de règles impersonnelles, universellement applicables, ainsi qu’une commission des peines. Ces arguments attirèrent l’attention d’Edward M. Kennedy, qui comptait parmi les membres les plus influents du Sénat, et qui déposa une proposition de loi sur la fixation des peines.
En 1984, pour remédier à la variété injustifiée des condamnations pénales, le Congrès adopta alors le Sentencing Reform Act qui visait à diminuer le bruit, et donc le pouvoir discrétionnaire des juges, en raison de l’ampleur injustifiable de la disparité des peines, notamment à New York : pour un même cas, les peines pouvaient y varier de 3 à 20 ans de prison.
La Commission des peines devait ainsi publier des directives obligatoires, qui restreignaient l’éventail des peines pour chaque crime ou délit, la plus lourde ne pouvant dépasser la plus légère que de 25 %. Elle portait également sur l’utilisation de moyennes issues de la pratique passée. Les autorités attribuent ainsi à chaque infraction un niveau de gravité, et analysent le passé du criminel. Mais ces directives ne plaisent pas à tout le monde, et sont accusées d’automatiser le jugement plutôt que de l’affiner.
Débats et contre-arguments
Certains estimèrent en effet que ces directives empêchaient les juges de prendre en compte comme il se doit les circonstances particulières de chaque affaire. Réduire le bruit avait un prix : celui d’introduire une automaticité jugée inacceptable dans les décisions.
En 2005, la Cour suprême invalida donc ces directives, qui ne servent désormais qu’à titre indicatif — ce qui relança les disparités et posa de sérieux problèmes d’équité et de justice. Trois ans après le décès du juge Frankel en 2003, l’annulation des directives avait provoqué le retour de son pire cauchemar : la loi sans l’ordre.
Les stratégies plus globales pour améliorer le jugement
Selon Noise, pour améliorer notre jugement, il faut donc diminuer le bruit et les biais et trouver une « hygiène de la décision » avant qu’ils n’aient produit leurs effets. Cela passe par plusieurs étapes.
Première étape
La prise de conscience : comprendre qu’il y a du bruit dans les jugements professionnels, et que ce bruit est un problème qui mérite l’attention des dirigeants.
La deuxième étape
Lors d’un audit du bruit, on peut appeler un grand nombre d’individus à se prononcer sur les mêmes problèmes. Ainsi, on mesure le bruit systémique qui implique la variabilité des jugements, avec un observateur des décisions qui vérifie cette disparité.
Les directives et algorithmes
Si cet audit révèle un niveau intolérable de variabilité, l’une des options à envisager est de remplacer ou d’accompagner le jugement humain par des règles ou des algorithmes, ce qui pose aujourd’hui des débats sur l’intelligence artificielle. Celle-ci offre en effet, peut-être, une vision externe impartiale, basée sur un nombre incalculable de données (statistiques, erreurs passées, etc.). L’amélioration du jugement humain – plutôt que son remplacement – est donc une tâche plus urgente que jamais, puisque, comme le rappelle l’ouvrage,
Juger est (…) un art difficile et c’est une évidence dans le monde judiciaire, mais aussi dans la plupart des jugements professionnels comme ceux que produisent les médecins, les infirmières, les avocats, les enseignants, les cabinets de recrutement, les responsables des entreprises et bien d’autres.
Applications aux autres domaines du jugement
Dans le domaine de la médecine, certains algorithmes détectent des métastases sur les ganglions lymphatiques chez les femmes souffrant d’un cancer du sein. De surcroît, l’intelligence artificielle fait déjà aussi bien que les radiologues pour détecter un cancer du sein à partir de la mammographie ; de futurs progrès la rendront probablement encore meilleure. Ainsi,
Les médecins feront très probablement un recours croissant aux algorithmes à l’avenir, car, en réduisant à la fois le bruit et le biais, la technologie promet de sauver des vies (et probablement de réduire les coûts du système de santé). Ainsi, cet outil ne consiste pas à éliminer le jugement humain mais à l’encadrer avec des directives.
Conclusion
Juger est un art difficile, traversé de biais et de bruits qui affectent les décisions humaines dans des domaines aussi divers que la justice, la médecine ou encore les entreprises. L’exigence contemporaine est donc double : préserver l’humanité du jugement tout en réduisant ses failles systémiques, par une véritable hygiène de la décision. Selon les auteurs de Noise, ce n’est donc qu’en pratiquant un “audit du bruit“ que nos jugements pourront être objectifs.
