Un article très intéressant, clair et concis, de la Commission de l'éthique en science et en technologie sur les enjeux éthiques des systèmes décisionnels automatisés (SDA). Comme on l'explique, il s'agit de systèmes algorithmiques qui aident ou remplacent les humains dans la prise de décision.
Ces systèmes sont envisagés comme un moyen prometteur pour renforcer l’efficience des processus administratifs. N’empêche, le logiciel de traitement de demandes de permis d’études déployé par le ministère fédéral de l’Immigration a soulevé récemment de vives préoccupations dans l’espace public en raison d’une hausse notée du taux de refus de permis d’études d’étudiants étrangers francophones depuis l’implantation de ce système en 2018. Ces systèmes décisionnels sont introduits dans une variété de contextes, que ce soit dans les services de police, en éducation, en assurance ou en justice pour faire des prédictions, dégager des recommandations et prendre des décisions. L’utilisation de ces systèmes est donc susceptible de générer des effets considérables dans la vie quotidienne de la population, notamment en ce qui a trait à l’accès aux services. En plus des refus de permis d’études, on note des refus de prêts bancaires, de demandes d’immigration, etc., un ensemble de conséquences sociales qui soulèvent d’importants enjeux en matière de respect des droits et libertés de la personne.
Parmi les enjeux soulevés dans l'article, il y a ceux de la fiabilité et la validité des SDA, ainsi que ceux des biais discriminatoires et des pratiques inéquitables (tel qu'illustré, par exemple, il y a quelques années, dans une enquête l'organisation ProPublica).
(Merci à Marc-Kevin d'avoir suggéré cet article).
Aucun commentaire:
Publier un commentaire