{{{sourceTextContent.title}}}

Intelligence artificielle, transhumanisme, post-humanité : Entre peur et imagination

{{{sourceTextContent.subTitle}}}

Jean-Michel Besnier est un philosophe français qui enseigne à l'Université de la Sorbonne à Paris

{{{sourceTextContent.description}}}

Ses recherches portent sur l'impact philosophique et éthique de la science et de la technologie sur les représentations et l'imagination individuelles et collectives. On l'a rencontré pour parler d'intelligence artificielle.

DirectIndustry e-magazine : De quoi avons-nous essentiellement peur quand nous parlons de l'IA ?

Jean-Michel Besnier : Nous avons simplement peur de perdre le contrôle, d'avoir généré une technologie qui nous contrôle maintenant, notre comportement, nos pensées, nos inspirations. Lorsque des personnalités telles que Stephen Hawking, Bill Gates, Elon Musk et Noam Chomsky ont publié leur célèbre appel intitulé "L'IA peut tuer la race humaine", elles ont mis en garde contre le risque que l'IA puisse nous conduire à nous déshumaniser nous-mêmes, à "tuer la race humaine"

Inspecteur Emag : N'est-ce pas un peu exagéré ?

J-M. B. : Il est vrai que l'IA fournit des services et est un critère de productivité dans les entreprises. Mais l'IA est également préoccupante lorsque l'on sait qu'elle entraînera des suppressions d'emplois, par exemple. C'est une crainte très objective. Le fantasme me semble donc vrai.

Dans leur rapport, l'OCDE affirme que seulement 13 % de nos activités résisteront à l'IA parce qu'elles ne seront pas automatisées. Cela signifie que 87 % de nos activités peuvent être automatisées. Et ce ne sont pas seulement les caissiers qui seront remplacés. Cela concerne également les radiologues, par exemple, à qui on dit que n'importe quel scanner est plus à même de décrypter les images IRM qu'eux. Qu'allons-nous faire de toutes ces personnes hautement qualifiées, comme les radiologistes ou les cardiologues ?

Inspecteur Emag : Sachant tout cela, pourquoi allons-nous toujours vers l'IA ?

J-M. B. : Ce que nous vivons aujourd'hui, c'est ce que les philosophes et les sociologues ont décrit il y a plusieurs décennies : le phénomène de l'autogénération des technologies. Il y a une logique endogène aux technologies qui fait que tout ce qui est techniquement faisable se produit peu importe le coût. Même si nous devions déclarer à l'unanimité le caractère nuisible de l'IA, les innovations technologiques convergeraient vers l'amélioration de l'IA.

Inspecteur Emag : À qui s'adresse l'IA ?

J-M. B. : AI est avant tout au service des constructeurs de machines et des grands groupes industriels. Ces groupes, les GAFA et leurs homologues en Chine, veulent prendre le pouvoir aujourd'hui à grande échelle. Ils nous ont largement privés d'initiative démocratique et les politiciens nous mangent dans leurs mains. Nous sommes dans un système libéral où la libre entreprise est encouragée. Cette libre entreprise a provoqué la domination et la conspiration de grands groupes qui n'ont d'autre souci que de nous imposer les besoins des machines.

Inspecteur Emag : Et si les industriels perdent le contrôle ?

J-M. B. : C'est un scénario catastrophique que nous avons déjà vécu en 2008 lorsque les robots traders ont provoqué la crise financière. Les spéculateurs savent qu'ils contrôlent rarement les choses. Leur puissance se mesure par la réactivité qui peut être la leur. Être réactif signifie que vous n'êtes pas actif, que vous réagissez simplement à quelque chose produit par autre chose. Le ministère des Finances est un bon exemple de cette dépossession de commandes qui est diagnostiquée à grande échelle avec l'IA.

Inspecteur Emag : Comment l'IA peut-elle dépasser l'homme ?

J-M. B. : Il y a deux façons d'être dans le monde. Nous pouvons être dans le monde en disant que tout dans le monde a une cause et nous, les humains, nous cherchons à identifier les bonnes causes afin de pouvoir agir sur les effets. C'est du cartésianisme, c'est nous qui dirigeons.

Et puis il y a une autre façon d'être dans le monde, c'est-à-dire qu'il y a beaucoup de données et d'informations qui circulent et qui vont se corréler d'une manière ou d'une autre, produisant des intersections qui à leur tour vont produire des actions. Nous n'essayons pas ici d'en identifier les causes, parce que c'est devenu trop complexe. Nous travaillons sur les corrélations.

La médecine en est un très bon exemple. D'un côté, il y a le médecin "démodé" qui tente d'identifier la cause des symptômes du patient en l'écoutant et en lui faisant passer des examens médicaux. Et il existe un nouveau médicament qui remet en question tout cela, dans lequel les patients seront équipés de capteurs de toutes sortes qui enregistreront automatiquement le fonctionnement de leurs organes. Ces données seront corrélées avec celles d'autres cohortes de patients à grande échelle. De cette corrélation émergeront des intersections qui permettront d'établir des diagnostics. Le médecin utilisera ensuite ces corrélations comme base de son diagnostic. Il n'y aura plus d'identification de la cause, seulement des corrélations. Le médecin sera dépendant des machines qui géreront les données par rapport à d'autres données.

Inspecteur Emag : En s'appuyant aveuglément sur la technologie, quel est le risque pour les êtres humains ?

J-M. B. : Nous devenons basiques. Nous nous simplifions. Les sociologues d'entreprise ont développé un concept appelé "stupidité fonctionnelle" Ils ont constaté, à la suite d'enquêtes menées dans des petites et grandes entreprises, que la stupidité fonctionnelle est encouragée en demandant aux employés d'être réactifs et de s'abstenir de penser, de ne pas utiliser leurs connaissances et d'être plus attentifs à ce qui pourrait arriver. Il y a une sorte de parenthèse de la connaissance pour être fonctionnel. Je suis très surpris de voir que ce concept fonctionne bien dans le domaine de la finance. Même après l'obtention de votre diplôme de HEC ou de Harvard, ce qui vous sera demandé sur le terrain, c'est d'être réactif et non inventif.

Inspecteur Emag : Qu'est-ce que le transhumanisme ?

J-M. B. : Ce sont des pistes de réflexion impliquant des personnes convaincues que la science et la technologie permettront de réaliser toutes les aspirations de l'espèce humaine. Dans le passé, les gens faisaient confiance à la religion et à la politique pour trouver satisfaction et bonheur. Aujourd'hui, la science et la technologie assument ce rôle.

Il existe deux types de transhumanistes. Les transhumanistes "doux" qui pensent que la science et la technologie nous permettront de vivre plus longtemps. Au fur et à mesure qu'ils se généraliseront, ils seront accessibles à tous et serviront donc l'égalité. Les transhumanistes français sont plus comme ça. Et puis il y a les transhumanistes "durs", surtout américains, qui pensent que la science et la technologie vont nous permettre de transformer l'homme, de le bioniser, de modifier son génome, de lui faire acquérir de nouvelles compétences génétiques. Ils vont "cyborguiser" les êtres humains, leur permettant d'intégrer de plus en plus d'électronique dans leur anatomie et de les transformer en machines puissantes. Nous viserons l'augmentation de l'humain, nous augmenterons les facultés cognitives et motrices de l'homme. Ces transhumanismes durs à cuire croient souvent que nous sommes au bord d'une rupture - appelée "singularité" - ce sera le moment où l'IA prendra conscience d'elle-même et aura acquis une autonomie complète par rapport aux humains.

Inspecteur Emag : Et vous croyez que la "singularité" est une possibilité probable ?

J-M. B. : Nous nous disons de plus en plus que si nous pouvions changer l'être humain, ce serait mieux. Si nous pouvions vivre plus longtemps et ne jamais être malades grâce à la manipulation génomique, ce serait mieux. Nous sommes en effet à une époque où la science et la biotechnologie nous offriront de nouvelles opportunités et nous ne savons pas jusqu'où cela ira. On peut s'attendre à n'importe quoi, à faire fonctionner les gènes animaux dans les génomes humains, à artificialiser certains gènes qui produiront des effets complètement nouveaux, etc.

Inspecteur Emag : Le but ultime est-il de créer une nouvelle espèce humaine ?

J-M. B. : Oui, c'est de cela qu'il s'agit. L'espèce humaine présente de nombreuses vulnérabilités. C'est fragile, mortel. Pourquoi ne pas imaginer que l'on puisse modifier l'espèce humaine au point de créer une nouvelle espèce que nous appellerons "post-humaine" ? D'un point de vue darwinien, nous provoquons des variations qui vont elles-mêmes provoquer des mutations. Et ces mutations pourraient mener à une nouvelle espèce. Après tout, les événements récents nous ont montré que les humains deviennent une espèce différente, la science et la technologie cherchent à contrôler la sélection naturelle. En contrôlant la sélection naturelle, ils pourraient donner naissance à une nouvelle espèce pour laquelle, en tant qu'humains, nous ne serions rien d'autre qu'une variante destinée à disparaître

Inspecteur Emag : Le progrès technologique est-il vraiment une bonne chose pour l'humanité ?

J-M. B. : Je suis l'exemple des paléoanthropologues qui considèrent que dans le processus de l'évolution humaine, le progrès a toujours été réalisé par l'utilisation des outils (technologie) et des mots (langage). Le progrès technologique sans langue est catastrophique. Et le langage sans technique nous conduit à la stagnation. C'est donc l'équilibre entre discours, langage, politique, concertation et innovation technologique qui donne tout son sens au progrès. Aujourd'hui, cependant, nous sommes complètement engagés dans le développement technologique qui ne se reflète plus en termes de mots, de politique et de consultation. C'est là la difficulté.