Le Progrès Technique

p-technique

L'essentiel de l'information industrielle du moment

Un article paru récemment sur le New York Times s'interroge sur les biais associés aux algorithmes utilisés dans de plus en plus de secteurs d'activité de l'économie.


Les algorithmes remis en question
Les algorithmes, lorsqu'ils sont dédiés à la recommandation de produits par exemple, ne posent pas de problème majeur ni aux entreprises, ni aux consommateurs. En revanche, dès lors qu'ils servent pour effectuer un diagnostic médical ou pour prévenir la criminalité, la responsabilité humaine devient très importante, car il existe bel et bien un risque de mauvais diagnostic. L'auteur de l'article affirme que dans ces situations, de plus en plus nombreuses, l'humain doit pouvoir conserver la possibilité de superviser l'action de la machine.
 
L'humain devrait donc toujours être capable d'expliquer comment un processus algorithmique a fonctionné pour comprendre comment la décision finale a été prise. C'est seulement à cette condition que les décisions issues de résultats algorithmiques pourraient être prises avec un maximum de sécurité. Ainsi, selon Gary King, directeur d'un labo de recherche à Harvard dédié aux sciences sociales quantitatives, la machine et l'homme doivent pouvoir coopérer pour éviter une prise de décision risquée, l'ordinateur effectuant des calculs très poussés et l'homme pouvant intervenir dans ce processus pour le nuancer par exemple.
 
En France, un débat est né il y a plus d'un an sur le "gouvernement des algorithmes" et sur ses dangers potentiels. Si la faculté des grandes entreprises et des gouvernements à travailler de plus en plus avec des algorithmes ne fait plus aucun doute, elle inquiète autant qu'elle fascine. Il y a quelques années, la ville de New York a communiqué sur une expérimentation très positive d'utilisation des algorithmes pour prévenir le crime dans la ville. Pourtant, l'efficacité n'est pas la seule dimension à examiner dans ce débat. La possibilité de modifier les algorithmes et de vérifier à tout moment les décisions et leurs effets sont deux aspects parmi d'autres qui doivent être étudiés avec une grande attention.
 
Les instances publique réfléchissent depuis longtemps à ces sujet en les replaçant au centre des libertés fondamentales et en s'interrogeant sur les pratiques et leur encadrement. L'étude "Le numérique et les droits fondamentaux " réalisée en 2014 par le Conseil d'Etat est constituée de 50 propositions pour mettre le numérique au service des droits individuels et de l’intérêt général.
 
Au final, pour mener à bien une réflexion et un encadrement éthique et juridique de l'utilisation des algorithmes, il faudra sans doute distinguer les activités et les catégories de données. Rien de commun en effet entre les données personnelles volontairement transmises (quantified self) et les données recueillies par certaines grandes entreprises à l'insu des clients ou utilisateurs, ou entre le traitement algorithmique de données par un gouvernement ou par une entreprise.
 

Cité dans cet article: : algorithme décision marketing économie