D. S. A terme, l’intelligence artificielle se substituera-t-elle au médecin ?
J.-G. G. Affirmer que l’intelligence artificielle se substituera au médecin n’a pas grand sens et ce pour au moins deux raisons.
D’abord, parce que, contrairement à ce que l’on affirme souvent, les dispositifs technologiques ne sont pas indépendants de nous en ce sens que ce sont des dispositifs « sociotechniques » qui ne prennent sens qu’au sein d’une organisation humaine au regard d’un besoin et d’une pratique. Par exemple, en biologie, les machines automatiseront de plus en plus de tâches d’analyse et les exécuteront à notre place. Cependant, toutes ne seront pas aussi performantes que nous : certaines seront exécutées plus rapidement, mais avec moins de précision et de discernement. Il faudra alors regarder comment ce dispositif s’insère dans le processus de la décision médicale, car le résultat aura une grande incidence sur le parcours de soin et la vie du patient.
L’autre question soulevée est la suivante : lorsque des ordinateurs proposeront de prendre des décisions, quel sera statut de ces suggestions : seront-elles contraignantes ou simplement consultatives ? Par exemple, un système prédictif établissant un diagnostic de façon automatique le fera-t-il dans l’objectif d’éclairer le médecin ou de prendre la décision à sa place ? Autrement dit, à terme le médecin sera-t-il obligé de suivre la décision énoncée par la machine, au risque, sinon, d’être passible de sanctions et de poursuites pénales de la part des assurances santé ou des patients ? À titre personnel, je crois que cela conduise à éluder la responsabilité du médecin, ce qui changerait sa fonction. Indépendant de cette forme d’asservissement du médecin à la machine, l’écueil serait qu’à terme il perde ses compétences puisque les machines décidant à sa place son rôle se ramènerait à celui d’un simple exécutant.
En vérité, je suis beaucoup moins pessimiste : je crois que l’IA ne se réduit pas à de simples automatismes et que son rôle ne sera pas de remplacer le médecin, mais de lui permettre de surmonter les difficultés de son métier en lui offrant des systèmes de recherche d’information qui l’aideront à explorer la littérature.
D. S. Faut-il avoir peur des Gafa ?
J.-G. G. Dans mon livre sur Le mythe de la singularité*, j’ai alerté sur ce risque. Le terme de Gafa est un peu trompeur car cela laisse entendre qu’il y aurait une coalition d’intérêts alors qu’en réalité ils sont tous en rivalité les uns contre les autres. Toutefois il existe bien une tendance forte de ces grands acteurs du numérique à se substituer aux États qui sont devenus en Europe extrêmement vulnérables. Plus exactement, ces acteurs cherchent à assumer les grandes fonctions régaliennes — sécurité intérieure, finance, justice, défense — qui correspondaient aux attributs de la souveraineté de États. Laurent Alexandre de ce point de vue-là a eu d’excellentes intuitions. Sans doute est-il excessif lorsqu’il affirme que l’on sera en mesure de sélectionner les embryons pour accroître le QI moyen de la population… En revanche il a raison lorsqu’il affirme qu’il faut prendre la mesure des défis qui nous sont lancés. La question n’est peut-être aussi dramatique qu’il la présente, mais elle est sérieuse. Ainsi, en ce qui concerne la formation et la recherche, on doit se souvenir qu’en 2000 en Europe, il y a eu une réunion des chefs de gouvernement qui ont constaté l’entrée de notre société dans l’ère de la connaissance. Forts de ce diagnostic tout à fait pertinent, ils incitaient au développement de la formation et de la recherche. Or il ne s’est rien passé et l’Europe a révélé son impuissance. Il faudrait une réaction extrêmement forte et rapide pour accroître et, surtout, réorganiser ces secteurs. Qui plus est, on n’intéresse pas suffisamment les jeunes aux métiers du numérique : il faudrait leur expliquer ce que sont les débouchés et les potentiels des filières de formation dans le numérique et, surtout, l’importance de l’hybridation des savoirs anciens et nouveaux et l’existence de nouvelles spécialités et de nouveaux métiers.
D. S. Comment les pays européens peuvent-ils s’en sortir ?
J.-G. G. L’histoire de la régulation des données s’explique à travers l’histoire de l’Europe au XXe siècle. Nous regardons toujours le Monde avec les yeux d’hier. C’est pourquoi nous craignons avec les Cnil la toute-puissance d’un Etat centralisé (nazisme, stalinisme) alors que la situation actuelle est totalement différente dans nos Etats démocratiques. En fait, nous rentrons dans une période de nouveau féodalisme avec des acteurs qui sont multiples. C’est pourquoi il faut travailler sur la notion de souveraineté. Le président Macron a semble-t-il bien compris les enjeux actuels sur cette question. Il distingue bien la notion de souveraineté qui est à la base du fonctionnement de l’Etat de droit de la notion de souverainisme. Il ne s’agit pas de refermer le pays sur lui-même mais au contraire de repenser cette nouvelle relation entre les Etats dans une société mondialisée.
À la mémoire de notre consœur et amie
Dérives sectaires : une hausse préoccupante dans le secteur de la santé
Protection de l’enfance : Catherine Vautrin affiche ses ambitions pour une « nouvelle impulsion »
Dr Joëlle Belaïsch-Allart : « S’il faut respecter le non-désir d’enfant, le renoncement à la parentalité doit interpeller »