Fichierpositif.com

Le crédit scoring algorithmique : risques de discrimination financière

Homme à lunettes, la main au menton, écoutant une conseillère qui commente un document, ordinateur affichant des graphiques ; sujet : crédit scoring algorithmique, risque discrimination financière

Le crédit scoring algorithmique, source de risques de discrimination financière, est une méthode qui calcule automatiquement une note de risque pour chaque demandeur de prêt, à partir de données personnelles et de modèles statistiques ou d'apprentissage automatique. Les prêteurs s'en servent pour accepter, refuser ou tarifer un crédit en quelques secondes. Le danger apparaît lorsque le modèle reproduit des inégalités présentes dans ses données ou s'appuie sur des critères indirects. Elle soulève donc des questions d'équité, de transparence et de recours pour les emprunteurs.

Comment un algorithme fabrique une note

Un modèle de notation commence par un apprentissage sur des dossiers passés. On donne à l'algorithme un grand nombre de crédits accordés, avec leurs caractéristiques au moment de la demande et l'issue observée : remboursement normal ou impayé. Le modèle cherche alors les combinaisons de variables qui, par le passé, ont été associées à un défaut. Il en tire une probabilité, convertie en note ou en classe de risque, que le prêteur compare à un seuil d'acceptation.

Les techniques vont de la régression logistique, longtemps dominante parce qu'elle reste lisible, à des méthodes plus complexes comme les arbres de décision en ensemble ou les réseaux de neurones. Plus le modèle est puissant, plus il détecte des corrélations fines, mais plus il devient difficile à expliquer à la personne concernée.

Les sources de biais

La première source est la donnée d'entraînement. Si, dans le passé, certaines catégories de population se sont vu refuser davantage de crédits, leur absence d'historique ou leurs refus antérieurs entrent dans les données et influencent le modèle. Celui-ci apprend alors une réalité déformée : il ne sait pas ce qu'auraient fait les emprunteurs refusés, faute de les avoir financés.

La deuxième source tient au choix des variables. Même lorsqu'un critère protégé est exclu du modèle, d'autres informations peuvent le remplacer. Un code postal peut refléter l'origine, le type de contrat de travail peut refléter l'âge ou le sexe, le modèle de téléphone ou l'heure de connexion peuvent indiquer un niveau de revenus. On parle de variables indirectes ou de substituts : elles permettent de reconstituer par détour ce que la règle interdit de prendre en compte directement.

La troisième source concerne la définition même de l'objectif. Un modèle optimisé pour maximiser le rendement d'un portefeuille n'a pas le même effet qu'un modèle conçu pour minimiser les refus injustifiés. Le choix de la métrique n'est jamais neutre.

Le problème des dossiers sans historique

Les jeunes adultes, les personnes récemment arrivées en France, les travailleurs indépendants ou les femmes dont les engagements étaient souscrits au nom du conjoint disposent souvent de peu de traces de crédit. Un système fondé sur l'historique les classe mécaniquement comme incertains. Le risque de discrimination financière naît alors moins d'une intention que d'une absence de données, qui équivaut à une pénalité.

Ce que la loi interdit

En droit français, la discrimination est définie à l'article 225-1 du code pénal : il s'agit de toute distinction fondée notamment sur l'origine, le sexe, la situation de famille, la grossesse, l'apparence physique, le patronyme, le lieu de résidence, l'état de santé, le handicap, l'âge ou les opinions. L'article 225-2 punit le fait de refuser la fourniture d'un bien ou d'un service sur un tel fondement. Un refus de crédit motivé, même indirectement, par l'un de ces critères peut donc être sanctionné.

Le droit européen ajoute une couche de protection. Le règlement général sur la protection des données encadre les décisions fondées exclusivement sur un traitement automatisé lorsqu'elles produisent des effets significatifs sur la personne. Dans un arrêt du 7 décembre 2023 concernant la société allemande SCHUFA, la Cour de justice de l'Union européenne a considéré que l'établissement d'un score de solvabilité peut lui-même être une telle décision lorsque le tiers qui reçoit la note s'appuie largement dessus pour accorder ou refuser un contrat.

Les nouvelles règles européennes

La directive (UE) 2023/2225 relative aux contrats de crédit aux consommateurs, dite CCD2, renforce l'évaluation de la solvabilité. Elle prévoit que lorsque le prêteur s'appuie sur un traitement automatisé, le consommateur peut demander une intervention humaine, obtenir une explication claire de l'évaluation et contester la décision. Elle interdit aussi de fonder l'évaluation sur certaines catégories de données sensibles ou sur des informations tirées des réseaux sociaux. Les États membres devaient la transposer avant la fin de l'année 2025, pour une application à partir de novembre 2026.

Le règlement (UE) 2024/1689 sur l'intelligence artificielle classe de son côté parmi les systèmes à haut risque ceux qui évaluent la solvabilité des personnes physiques ou établissent leur note de crédit. Ces systèmes doivent respecter des exigences de qualité des données, de documentation, de supervision humaine et de robustesse.

Le rapport des autorités françaises sur les algorithmes

En mai 2020, le Défenseur des droits et la Commission nationale de l'informatique et des libertés ont publié un rapport commun sur la prévention de l'automatisation des discriminations par les algorithmes. Il recommande de former les concepteurs, de tester régulièrement les systèmes pour y déceler des effets discriminatoires et de renforcer l'information des personnes. Le texte vaut pour tous les secteurs, mais s'applique pleinement à l'octroi de crédit, où l'enjeu est l'accès à un service essentiel.

Un exemple américain très commenté

En 2019, plusieurs clients d'une carte de crédit lancée par une grande entreprise du numérique ont affirmé que les limites de crédit accordées aux hommes étaient nettement supérieures à celles de leurs épouses, malgré des situations financières comparables. Le régulateur financier de l'État de New York a ouvert une enquête et n'a, au terme de celle-ci, pas conclu à une discrimination illégale. L'affaire a pourtant mis en lumière une difficulté durable : un modèle peut être juridiquement conforme tout en laissant l'impression d'un traitement inéquitable, faute de pouvoir être expliqué simplement.

Les garde-fous techniques et organisationnels

Plusieurs pratiques réduisent les risques. Les prêteurs peuvent mesurer les écarts de taux d'acceptation entre groupes comparables, rechercher les variables indirectes, documenter les modèles, conserver une trace des décisions et réentraîner régulièrement les algorithmes. Ils peuvent aussi privilégier des modèles interprétables lorsque l'enjeu est élevé, et prévoir un examen humain pour les refus contestés ou les cas limites.

Du côté des personnes, les droits d'accès et de rectification permettent de vérifier les données utilisées. Un emprunteur refusé peut demander quels éléments ont pesé dans la décision. Ces droits n'ont de sens que si l'information est fournie dans un langage compréhensible, et non sous la forme d'un simple code interne.

Le lien avec un registre central des crédits

Dans le débat sur un registre national, le scoring joue un rôle d'amplificateur. Une base commune fournirait des données plus complètes, qui pourraient réduire les erreurs liées aux dossiers incomplets. Mais elle alimenterait aussi des modèles plus nombreux et plus puissants, avec le risque d'une uniformisation des refus si tous les prêteurs utilisent les mêmes variables. La qualité de l'encadrement des algorithmes compte donc autant que celle des données elles-mêmes.

Un autre point d'attention concerne la proportionnalité : plus la donnée est riche, plus la tentation d'en tirer des inférences éloignées du crédit est forte. Les autorités de protection insistent pour que les informations d'un registre servent exclusivement à évaluer la capacité de remboursement.

Ce qu'il faut retenir pour l'emprunteur

Un refus automatisé n'est pas un jugement définitif. L'emprunteur peut demander à connaître les motifs du refus, faire corriger une donnée inexacte, exiger l'examen de son dossier par une personne et saisir le médiateur de la consommation ou la Commission nationale de l'informatique et des libertés en cas de difficulté. Face à un système de notation, la meilleure protection reste la connaissance de ses droits, associée à la vérification régulière des informations qui le concernent.

Organisme à connaître

La Quadrature du NetSite de l'association de défense des libertés numériques, avec ses analyses et campagnes sur les algorithmes de notation et de profilage utilisés par des organismes publics et privés.

À découvrir aussi