Les outils d’évaluation des risques ont pris une place importante dans la justice américaine. Une enquête récente a tenté d’identifier tous les outils présents dans les 50 états américains.

Les outils d’évaluation des risques se sont multipliés

Il existerait aujourd’hui plus de 100 logiciels de RNA (risk and needs assessment tools) utilisés en matière pénale par les juges américains. En réaliser l’inventaire est devenu très compliqué, parce que les Etats américains n’ont pas suivi les mêmes règles pour leur mise en place. Parfois, on a laissé les juridictions locales décider de quoi elles ont besoin. Il arrive aussi que des outils créés localement se répandent et finissent par être utilisés un peu partout dans le même Etat. Les outils de RNA sont utilisés pour évaluer la population adulte, mais il existe aussi des logiciels spécialisés, pour la délinquance des mineurs, ou pour évaluer les risques dans le domaine des violences domestiques, ou des abus sexuels.

Tous les outils d’évaluation des risques ne relèvent pas de l’intelligence artificielle

L’enquête permet de constater que tous les outils d’évaluation des risques n’utilisent pas « l’intelligence artificielle ».

Dans de très nombreux cas, on se trouve en présence de logiciels très sommaires, qui imposent à leurs opérateurs de calculer eux-mêmes les scores obtenus. Ils sont parfaitement transparents, et ils se contentent de faciliter les calculs de ceux qui les utilisent. Finalement, il n’y a guère que le célèbre COMPAS, popularisé par l’affaire Loomis qui relève vraiment de l’intelligence artificielle. Seul COMPAS soumet les données à un algorithme à prétention prédictive.

Les critiques formulées ont été telles que la société EQUIVANT, qui détient les droits sur COMPAS a annoncé une prochaine version « transparence » du logiciel.

L’impact sur les décisions prises

Les outils d'évaluation des risquesLes études réalisées (Kentucky et Virginie) laissent penser que l’impact de ces outils a pour le moment été assez faible sur la manière dont les juges statuent. L’impact sur le taux d’incarcération a été réduit. Une hausse temporaire de 4% sur le taux des mises en liberté, qui s’est dissipé progressivement. L’espoir que ces outils réduisent la détention provisoire a plutôt été déçu.

Dans certains états, comme le New Jersey, il y a pourtant en eu une baisse sensible des incarcérations. Cependant l’usage des RNA n’a été qu’un élément de réformes de plus d’ampleur. Il est difficile de leur attribuer exclusivement le mérite des résultats.

Le risque de détournement

Le principal risque reste que les outils d’évaluation des risques, qui doivent aider le juge dans la phase qui précède le procès pénal sont parfois utilisés au moment du jugement.

C’est ce genre de dérive qui avait été constatée à l’occasion de l’affaire Loomis, mais on en retrouve d’autres exemples dans la jurisprudence de plusieurs Etats.

Pour les chercheurs, il existe plusieurs explications à ce phénomène. L’une des causes est une mauvaise appréciation des juges quant aux capacités des outils d’évaluation des risques : “If you think about a risk assessment tool as a very specific mechanical tool, like something that is designed to pull the transmission out, you wouldn’t want to use that tool to also change the oil. Risk assessment is not like that. Think of it kind of like a sharp stick. That’s the kind of level of tool we’re talking about. No one would ever say that a sharp stick designed for digging holes can’t also be used for scratching your back.”