Accéder au contenu principal

Les algorithmes auront-ils la peau de l’État providence ?

Le rapport sur l'impact des nouvelles technologies sur l'État providence doit être présenté à l'Assemblée nationale de l'ONU vendredi 18 octobre
Le rapport sur l'impact des nouvelles technologies sur l'État providence doit être présenté à l'Assemblée nationale de l'ONU vendredi 18 octobre Studio Graphique France Médias Monde

Le rapporteur spécial aux droits de l’Homme de l’ONU met en garde contre la croyance que le numérique va rendre l’État plus efficace. Dans son rapport annuel, il dénonce une dérive technologique des gouvernements qui accentue les inégalités.

Publicité

"Comme des zombies" sur le point de basculer dans une "dystopie technologique" où "l’État providence accentue les inégalités et renforce l’isolement des plus démunis". C’est en ces termes que Philip Alston, le rapporteur spécial des Nations unies à l’extrême pauvreté et aux droits de l’Homme, évoque les pays qui automatisent de plus en plus leurs missions sociales.

Son rapport annuel, qui doit être présenté devant l’Assemblée générale de l’ONU vendredi 18 octobre, est un violent réquisitoire contre la tentation des États de miser sur le tout technologique au nom de l’efficacité. "De nombreux exemples portés à notre connaissance démontrent que l’introduction du numérique dans le fonctionnement de l’État providence a entraîné une réduction des budgets, une diminution du nombre de bénéficiaires des aides, une élimination de certains services, l’imposition de régimes de sanctions plus sévères et un renversement complet de la notion traditionnelle que l’État doit rendre des comptes aux individus", résume Philip Alston.

Élaborées à la va-vite

Selon cet ancien avocat new-yorkais, les contribuables qui se trouvent du mauvais côté de la fracture numérique sont les premières victimes de cette course au tout numérique des autorités. Au Royaume-Uni, par exemple, "11,9 millions de personnes (22 % de la population) n’ont pas les compétences numériques nécessaires" pour s’y retrouver dans le dédale des services publics en ligne, constate le rapport. Ce handicap concerne majoritairement les individus les plus fragiles financièrement, qui se retrouvent ainsi de facto coupés de l’accès à des aides parfois vitales.

Même lorsque les personnes savent accéder aux services en ligne, les choses peuvent rapidement très mal tourner. En Suède, un système informatique de mise en relation entre les services de l’agence pour l’emploi et des chômeurs s’est révélé tellement complexe à utiliser que plus de 15 % des décisions prises pour l’accompagnement des demandeurs d’emploi se sont révélés erronées. En 2018, Stockholm a décidé de laisser tomber complètement le logiciel controversé.

Les solutions technologiques sont aussi trop souvent élaborées à la va-vite par des administrations trop désireuses de se montrer à la pointe de l’innovation, regrette Philip Alston. C’est ce qu’ont pu constater, en 2016, près de 40 000 Australiens qui ont reçu des mises en demeures de paiement de dettes erronées calculées par des algorithmes mal programmés. Un vaste scandale qui a débouché sur plusieurs actions collectives en justice contre la société à l’origine du programme de recouvrement de dette.

Menace pour les droits de l’Homme

La tendance des États à sous-traiter certains aspects de leur politique de redistribution des richesses à des entreprises privées est, d’ailleurs, l’un des principaux reproches faits par Philip Aston aux gouvernements. Ces sociétés ont tendance "à imposer des frais supplémentaires et à inciter les contribuables à souscrire à des services connexes payants", note le rapporteur. Entre 2015 et 2018 en Afrique du Sud, une entreprise chargée par l’État d’automatiser la distribution des aides à des personnes handicapées, des retraités, ou encore des familles monoparentales s’est enrichie sur le dos de ces personnes fragiles à grands renforts de frais supplémentaires et en revendant les données personnelles collectées.

Ce recours à des sociétés privées du secteur Tech, dont "les activités sont souvent peu réglementées est aussi particulièrement problématique au regard des droits de l’Homme", prévient le rapporteur spécial. Ces entreprises collectent les données, les mettent à disposition des autorités qui peuvent succomber à la tentation de les utiliser à des fins de surveillance. L’Inde a mis en place, avec l’aide de grands groupes comme le Français Safran, le plus vaste système d’identification biométrique au monde qui a permis d’enregistrer des données de plus d’un milliard d’individus. "Il aurait été utilisé pour harceler des opposants politiques", soutient le rapport.

Et ce ne sont pas les riches qui trinquent. Ils n’ont pas besoin d’avoir recours aux aides publiques, contrairement aux plus démunis qui "sont obligés, dans les faits, de faire le deuil de leur droit à la vie privée en échange de l’accès au soutien financier de l’État", souligne Philip Aston.

Le rapporteur spécial de l’Onu n’en est pas à sa première offensive contre les effets pervers de l’utilisation des nouvelles technologies par l’État providence. Il avait déjà dénoncé ces dérives en 2018, mais en se concentrant sur le cas britannique. Il reconnaît d’ailleurs dans la conclusion de son rapport que c’est devenu l’un de ses principaux chevaux de bataille : "on pourra me reprocher de ne pas être objectif, car je n’évoque pas tous les avantages potentiels du numérique au service de l’État. Mais je laisse ce travail aux fervents militants de la cause technologique, qui sont bien plus nombreux et bruyants que ceux qui appellent à plus de retenue".

Pourtant, pour lui, si on ne se penche pas très vite sur les dangers de cette évolution, la société pourrait bien se diviser entre ceux qui pourront "s’offrir des voitures autonomes ou volantes et des assistantes personnelles robotiques", tandis que les plus pauvres seront surveillés et "sanctionnés au moindre faux pas par une administration" dopée à l’intelligence artificielle.

Page non trouvée

Le contenu auquel vous tentez d'accéder n'existe pas ou n'est plus disponible.