Les plus grands scientifiques et ingénieurs en nouvelles technologies se consacrent à l’optimisation du marketing et du commerce. L’ère d’internet, l’abondance des données, et les applications intelligentes ont ouverts la porte au marketing, à la publicité ciblée, et à la recommandation personnalisée de produits ou services.

La prise de décision automatisée est censée soulager les humains, mais il est aussi très humain de vouloir vérifier ces résultats générés par l’ordinateur. Certains voient le marketing comme un laboratoire d’essai pour faire émerger une science. Car dans le cas où un algorithme est faux, la conséquence n’est pas catastrophique : une audience voit juste une publicité non adaptée pour elle.

Mais avec toutes ces méthodes et cet état d’esprit « science des données » adoptées par une large partie de l’économie et de la société, l’enjeu grandit. Les entreprises et start ups commencent à utiliser les technologies dans les décisions liées à des diagnostics médicaux, à la prévention des crimes, ou encore  à l’octroi de crédits. Si la science des données s’applique à de tels domaines, on se pose la question de savoir quand une supervision humaine sur les résultats d’algorithmes devient nécessaire.

Cette question motive désormais des recherches académiques sur le sujet de la responsabilité des algorithmes. Par ailleurs, de nombreuses organisations de droits civils ou regroupements d’intérêts étudient l’implication de la science des données, ses forces et faiblesses. D’ailleurs, le président de  l’association The Leadership Conference on Civil and Human Rights a récemment déclaré que « le big data peut et doit générer plus de sécurité, d’opportunités économiques et de confort pour tout le monde ».

Par exemple, pour un octroi de prêt à la consommation, la méthode numérique utilise le principe de base de la finance : connaître son client. En exploitant des sources de données comme les connections sociales ou en étudiant comment une personne remplit son formulaire de demande, les spécialistes des données affirment qu’ils peuvent mieux connaitre les emprunteurs, comme jamais auparavant. Ils peuvent bien mieux prédire si une personne remboursera un crédit qu’en se basant uniquement sur ses antécédents de crédit. La promesse est de garantir des souscriptions et tarifications de prêts plus efficaces, pour permettre à des millions de personnes de faire des milliards d’économies.
Mais tout ce processus dépend d’applications dont les algorithmes traitent des masses de données et se perfectionnent au fur et à mesure. Il n’est pas possible de retracer pourquoi un prêt est accordé à une personne et pas à une autre ? Certains spécialistes s’en inquiètent…

Ils préconisent de construire des applications qui traduisent les décisions des machines, en fournissant la liste des enchainements qui ont entrainé les décisions. Pour que les hommes puissent ainsi superviser les décisions et intervenir si nécessaire. D’autres leurs opposent que donner un droit de veto sur les systèmes algorithmique introduit une partialité humaine ; pour eux, la prise de décision automatisée doit être basée sur plus de science et moins d’intuition pour fournir de meilleurs résultats.

La solution est alors peut être de modifier les algorithmes pour que leur finalité ne soit pas de générer plus de profit ou d’efficacité mais de donner plus de poids et d’outils aux humains ?