Covid-19. Utiliser l’IA pendant la crise, quel rapport bénéfices/risques ?

Vous êtes membre du consortium éthique international sur l’utilisation des données et de l’intelligence artificielle pour lutter contre la pandémie de Covid-19. Quel est le rôle de ce consortium ?

Jean-Gabriel Ganascia¹ : À l’heure où se développent, en urgence, des technologies numériques pour lutter contre la pandémie, des chercheurs de l'Université Technique de Munich ont mis en place ce consortium qui réunit des spécialistes de l’éthique du monde entier. Son objectif est double. D’une part, faire un inventaire des technologies pouvant être utilisées pour surmonter la crise sanitaire actuelle. D’autre part, évaluer les conséquences à court et à long terme du recours à ces technologies sur nos vies et nos libertés.

En quoi l’IA peut-elle aider la recherche liée au Covid-19 ? 

J.-G. G. : Ces technologies devraient aider à mieux comprendre la maladie et sa diffusion à partir de grandes masses de données. Sur le plan clinique, des algorithmes pourraient analyser des images médicales pour déterminer si un patient est atteint de Covid-19. D’autres pourraient contribuer à élaborer des traitements personnalisés. D’autres encore sont susceptibles d’intervenir dans le développement de nouveaux médicaments ou d’aider les médecins à prendre des décisions dans des situations complexes. Sur le plan biologique, la modélisation permettra de mieux comprendre les mécanismes de pénétration du virus dans les cellules ou de savoir si des facteurs génétiques sont effectivement à l’origine de formes graves de la maladie. 

Par ailleurs, durant cette crise les chercheurs du monde entier produisent des milliers d’articles. La fouille de texte permet d’extraire des connaissances à partir de la littérature scientifique afin d'obtenir des informations synthétiques sur la maladie et la pandémie. 

Quelles sont les possibles utilisations de l’IA dans la gestion de l’épidémie ? 

J.-G. G. : Parmi les nombreuses possibilités liées à l’utilisation de l’IA, citons la modélisation par des systèmes multi-agents de la propagation de l’épidémie. Grâce à des algorithmes, les scientifiques vont pouvoir accélérer leurs prévisions et adapter leurs modèles aux nouvelles informations. La robotique aide également à la réalisation massive de tests virologiques et sérologiques.

Dans un autre registre, la lutte contre la désinformation pourrait s’appuyer sur des outils basés sur l’IA. L'Organisation mondiale de la santé a déjà travaillé avec des réseaux sociaux afin de s'assurer que les utilisateurs soient dirigés vers des sources fiables lorsqu’ils recherchent des informations sur le Covid-19.
Enfin, l’IA peut participer à la lutte contre la propagation du virus en avertissant les contacts des malades des risques qu’ils encourent via des applications numériques telles que StopCovid.

Cette application de traçage inspirée de la gestion de la crise en Corée du Sud est l’une des solutions préconisées par le gouvernement. Comment fonctionne-t-elle ?

J.-G. G. : Si nous activons l’application StopCovid, notre téléphone enregistre les identifiants cryptés envoyés par le mobile des personnes que nous rencontrons. Ces données sont ensuite transmises à un système centralisé. Lorsque nous nous signalons volontairement comme porteur du virus sur l’application, les personnes avec qui nous avons été en contact sont automatiquement alertées et incitées à rester chez elles et à réaliser un test de dépistage.

Quels prérequis sont indispensables, selon vous, pour utiliser cette technologie de manière éthique ?

J.-G. G. : Un suivi réalisé par des dispositifs numériques doit satisfaire à un certain nombre de contraintes. Il faut notamment s'assurer que les principes d’autonomie de la personne, de protection de l’intimité et de proportionnalité dans le recueil des données soient respectés. L'application StopCovid a été pensée pour être conforme à ces principes et au règlement général sur la protection des données. Pour cela, elle n’enregistre pas le nom du porteur du téléphone mais un identifiant, généré automatiquement et crypté. Par ailleurs, le Bluetooth, utilisé dans la communication à très courte distance, a été préféré au GPS pour éviter la géolocalisation des utilisateurs.

Malgré ces précautions, certains s’inquiètent encore de la centralisation de ces informations par l’État. Mais, on ne voit pas bien à quoi pourraient servir ces données dans un État de droit, si ce n’est à limiter les contaminations. En revanche, nous pouvons nous interroger sur les potentiels intérêts commerciaux que pourraient avoir Google et Apple en développant leur propre application.

L’efficacité des solutions d’IA est-elle à la hauteur des risques qu’elles pourraient faire courir à nos libertés individuelles ? 

J.-G. G. : Il ne faut pas penser que ces technologies constituent une menace démesurée. Ce sont des outils parmi d'autres dans la gestion de cette crise. Il s’agit d’adopter envers eux ce que le sociologue Max Weber appelle une « éthique de responsabilité ». Cela consiste ici à mettre en regard nos convictions morales avec les nécessités de santé publique. La protection de la vie privée, essentielle à la liberté de pensée, doit être mise en balance avec les morts causées par la propagation du virus et les conséquences d’un confinement prolongé qui nous prive de la plus élémentaire des libertés, celle d'aller et de venir. 

Plutôt qu’une opposition de principe, il est donc nécessaire de poser des exigences, d'obtenir des garanties, en se souciant notamment de la réversibilité des mesures d'exception prises aujourd'hui, en s'assurant que la surveillance restera limitée dans le temps, que le recueil d'informations sera ciblé et proportionnel à des besoins clairement exprimés, que les données personnelles acquises seront effacées une fois la crise passée, etc. À nous d’être vigilants et d’analyser les conséquences sur l’ensemble de nos libertés, sans céder à la peur. 

¹ Professeur d’informatique à la faculté des Sciences et Ingénierie, il dirige l’équipe Acasa (Agents cognitifs et apprentissage symbolique automatique) du laboratoire LIP6.