En théorie, les algorithmes sont neutres. En pratique, ils peuvent bouleverser des vies, en décidant qui a droit à un prêt étudiant, à un emploi et même à une peine de prison plus clémente.
Portrait of Cathy O’Neil in NYC
À l’ère du big data , les algorithmes semblent nous connaître mieux que nous-mêmes. Qui n’a jamais reçu de recommandations de produits, de voyages, de films ou de lectures en naviguant sur le Web ? Si ces résultats d’algorithmes semblent inoffensifs, d’autres ont le pouvoir de changer le cours d’une vie, et pas toujours pour le mieux. Loin d’être objectifs, ils renforceraient même les inégalités sociales. Voilà pourquoi la mathématicienne et auteure américaine Cathy O’Neil les qualifie d’« armes de destruction mathématique » dans son plus récent livre Weapons of Math Destruction : How Big Data Increases Inequality and Threatens Democracy . Entretien avec une scientifique des données qui a décidé de monter au créneau.
Pourquoi qualifiez-vous les algorithmes d’« armes » ?
Les algorithmes utilisent des masses de données pour prédire des événements et optimiser les chances de réussite. On essaie de recréer les conditions qui ont mené à un succès afin qu’il se reproduise à l’avenir. Mais, secrètement, ils détruisent des vies. Ils sont bâtis par des gens qui ont des objectifs cachés.
