Pourquoi un monde axé sur les données devrait envisager un serment d’éthique

Le serment d’Hippocrate exige qu’un nouveau médecin jure sur un certain nombre de dieux guérisseurs qu’il respectera les normes éthiques professionnelles. Il lie aussi fortement l’étudiant à l’enseignant et à la communauté plus large des médecins.

Au fil des siècles, ce serment a été réécrit, souvent pour s’adapter aux valeurs de différentes cultures influencées par la médecine grecque, mais en tant que principe, il reste aussi pertinent et valide qu’il l’était à l’époque antique. Et pour cause, étant donné le pouvoir que les médecins ont sur nos vies.

Sautez quelques milliers d’années et les médias sociaux, les algorithmes, l’intelligence artificielle (IA) et l’apprentissage automatique ont fait du monde un endroit qu’Hippocrate reconnaîtrait à peine. Tout aurait été grec pour lui, mais pour le reste d’entre nous, aucune facette de la vie n’a été laissée inchangée par un monde axé sur la technologie dans lequel les données sont la denrée la plus précieuse.

Oui, la ressource la plus précieuse au monde n’est plus le pétrole. Dans le monde numériquement transformé et connecté d’aujourd’hui, les données sont produites quotidiennement en grandes quantités, à un volume et à un rythme ahurissants. En fait, 90 % des données mondiales ont été créées au cours des deux dernières années seulement, comme l’a récemment déclaré un DSI d’un centre de données à l’émission BBC TV Panorama.

Il a également révélé qu’un seul hôpital normal peut générer plus de données en une journée que pendant toute l’année 1997. Qu’il s’agisse de lutter contre des maladies comme le Covid-19, de protéger les espèces menacées ou de reconstruire après des catastrophes naturelles, les entreprises et les organisations du monde entier exploitent efficacement ces énormes volumes de données pour améliorer l’humanité et faire la différence.

La science des données est l’une des industries à la croissance la plus rapide au monde. Il a la pouvoir de transformer la prise de décision de tout le monde, des présidents des plus grandes économies de la planète aux universitaires des institutions les plus prestigieuses du monde. Ceci, à son tour, a un impact sur notre santé et notre bien-être. Il est juste de dire qu’avec ce pouvoir vient une grande responsabilité.

Ce sont les data scientists comme moi qui sont au cœur de cette révolution technologique. Notre travail consiste à collecter, organiser et analyser des quantités massives de données. Et son utilisation est partout.

Les données sont largement utilisées par les forces de l’ordre, les services de renseignement et l’armée, qui ont accès à de grandes quantités de données et de techniques telles que la reconnaissance faciale pour aider à identifier les criminels, déjouer les complots terroristes et rendre le pays plus sûr.

J’ai observé que, dans le secteur de la santé, l’analyse des données accélère la vitesse à laquelle les chaînes d’ADN peuvent être décodées, conduisant à la création plus rapide de remèdes et à la capacité de prédire les schémas de maladie. Il est également utilisé pour surveiller les bébés prématurés, permettant aux médecins d’analyser les battements cardiaques et les schémas respiratoires.

L’analyse des données a même rendu possible la recherche scientifique telle que le CERN, le Large Hadron Collider produisant des quantités astronomiques de données conçues pour percer les secrets mêmes de l’univers.

Sans chercher à s’auto-glorifier, je pense qu’il est juste de dire que, comme les médecins, les data scientists sont aussi parfois à l’origine de décisions de vie ou de mort. Décisions fondées sur la science des données sont largement utilisés dans la profession médicale, et les décisions fondées sur le risque peuvent avoir d’énormes répercussions liées à la mobilité financière.

Ce que nous, en tant que data scientists, faisons, et comment nous le faisons, a d’énormes conséquences sur la façon dont nous vivons nos vies : comment nous interagissons les uns avec les autres ; comment nous allons faire du shopping ; comment allons-nous à des rendez-vous ; comment nous sommes traités à l’hôpital; comment nous trouvons des emplois ; comment nous voyageons ; et oui, même comment nous votons aux élections.

C’est une industrie qui n’est pas sans critiques. Le même Systèmes de reconnaissance faciale basés sur l’IA utilisés pour faciliter les déplacements ou identifier des criminels auraient été utilisés pour le profilage ethnique de Les Ouïghours en Chine, selon Panorama. De même, le programme a souligné que les progrès des armes intelligentes capables de traiter des milliers de points de données en quelques secondes créent une course aux armements qui protège et menace à la fois des milliards de citoyens.

Pendant ce temps, ces citoyens doivent naviguer chaque jour dans le bourbier du contenu en ligne basé sur les données, alors que les robots Twitter propagent la désinformation et la discorde sur tout, des problèmes politiques à Covid-19. Tel est le niveau de méfiance envers ce que nous voyons et ce que nous entendons que les « fausses nouvelles » étaient le mot de l’année 2017.

Je crois que le économie des données exige une nouvelle approche – et une nouvelle norme. Et tout commence avec le data scientist.

Tout comme Hippocrate a eu la prévoyance et la vision d’aider à humaniser la fonction du médecin et d’inculquer l’éthique dans le rôle, est-il temps que les scientifiques des données déclarent également qu’ils ne devraient « ne pas faire de mal » ? Ce data scientist ici le pense certainement.

Iain Brown est responsable de la science des données chez SAS UK&I et professeur adjoint d’analyse marketing à l’Université de Southampton