par Jean Staune.
En effet, cette question de la nature de notre conscience n’a pas seulement un intérêt philosophique, elle est vitale pour l’avenir de l’humanité. Et ce à cause d’un mouvement dont on commence à beaucoup parler et dont on parlera encore davantage au cours du XXIème siècle : le transhumanisme.
Le transhumanisme peut prendre trois formes :
1. Le transhumanisme mécanique, qui existe déjà : il s’agit de greffer sur un être humain des organes contrôlés par sa pensée.
Il s’agit donc de passer des prothèses, même sophistiquées, qui ne sont que des bouts de métal « morts », comme celles d’Oscar Pistorus, à des prothèses qui réagissent aux commandes du cerveau. Ces organes mécaniques sont susceptibles de remplacer des pieds et des mains et même d’être plus performants que nos organes d’origine (5).
2. Le transhumanisme génétique, qui consiste à manipuler le génome humain pour créer des hommes plus performants.
Comme notre compréhension de la biologie est encore très partielle, ce transhumanisme-là, malgré de nombreux effets d’annonce, n’est pas encore pour demain, mais pour après-demain.
3. Le transhumanisme « ultime » qui est, lui, directement lié à la question de la conscience.
Il s’agit de pouvoir télécharger sa conscience dans un ordinateur et vivre éternellement Bien entendu, en parallèle, il sera possible, selon les tenants de cette forme extrême de transhumanisme, de créer non seulement des intelligences artificielles, mais des consciences artificielles, qui seront en tout point équivalentes aux nôtres.
Vous pensez que c’est de la science-fiction. Pas Google, qui a embauché comme directeur du développement Ray Kurzweil, le « prophète » de cette forme de transhumanisme. Ray Kurzweil a théorisé ce qu’il appelle la « singularité », le moment où vous pourrez pour 1 dollar vous procurer l’équivalent d’un être humain, avec toutes ses qualités, sa créativité, sa sensibilité, et où vous pourrez, à la mort de votre corps physique, vivre éternellement en transférant votre esprit dans une machine. Kurzweil explique qu’à ce moment-là, toutes les religions, toutes les cultures, toutes les traditions humaines vont disparaître, comme aspirées par un trou noir, qui constitue en astrophysique ce que l’on appelle une « singularité », d’où l’emploi de ce mot par Kurzweil. Pour lui, cette singularité est proche (6) et devrait se produire d’ici une trentaine d’années. Il croit tellement à ses propres prédictions qu’il suit un régime prototype constitué de deux cents pilules fournies par un grand laboratoire américain, dans l’espoir de prolonger le plus possible sa vie (il a actuellement 67 ans). En effet, ne serait-ce pas terrible de mourir cinq ans avant que l’humanité puisse enfin accéder à l’immortalité ? Kurzweil se comporte ainsi en prophète d’une nouvelle religion, la science, ou plutôt le scientisme. Il nous dit en somme : « Toutes les religions vous mentent depuis des milliers d’années en vous promettant l’immortalité alors qu’elle n’existe pas. Mais nous, nous sommes la seule vraie religion qui va pouvoir tenir cette promesse, grâce à la technologie. »
Si cette perspective enchante Kurzweil et les patrons de Google ainsi que de nombreux geeks, elle affole beaucoup d’autres personnes, et cela au cœur même de la Silicon Valley. Ainsi, deux des principaux « titans » des nouvelles technologies, Elon Musk et Bill Gates, ont lancé un appel signé par des centaines de personnalités scientifiques, dont le célèbre astrophysicien paralysé Stephen Hawking, pour un moratoire sur le développement de l’intelligence artificielle (7). « Oubliez, nous disent-ils, le réchauffement climatique, la guerre nucléaire ou de possibles épidémies dévastatrices. La plus grande menace pour l’humanité, c’est le développement de l’intelligence artificielle. » Pour comprendre pourquoi, il faut lire le livre de James Barrat, Notre dernière invention, dont le sous-titre est explicite : L’intelligence artificielle et la fin de l’ère humaine (8).
Le raisonnement de Barrat est le suivant : si nous arrivons un jour à construire une intelligence artificielle qui serait exactement équivalente à un être humain, elle pourra faire tout ce que fait un être humain, y compris construire une intelligence artificielle. Elle pourra donc s’autoaméliorer en permanence jusqu’à atteindre un niveau mille fois plus évolué que le nôtre. Elle risquera alors de considérer l’humanité comme nous considérons les souris : des êtres tellement inférieurs que l’on peut en faire ce que l’on veut. Cela vous paraît de la science-fiction.
Vous l’avez déjà vu dans des films comme Terminator ou Matrix? « Justement, disent, en s’arrachant les cheveux, les auteurs de cette campagne pour un moratoire. Ce n’est pas parce que vous l’avez vu au cinéma que cela est impossible. » Bien au contraire, la science-fiction est souvent visionnaire en ce qui concerne les progrès technologiques et les évolutions sociologiques.
Les partisans du transhumanisme fort, comme ceux qui le combattent, partent de l’hypothèse qu’une intelligence artificielle équivalente à un être humain, c’est-à-dire possédant une conscience lui donnant le sentiment d’exister et donc l’envie de survivre, est possible. Il ne s’agit pas seulement d’une intelligence artificielle capable de simuler le fait d’être conscient (9), de passer « le test de Turing », c’est-à-dire d’imiter si bien la parole humaine que, lors d’une conversation, il ne sera plus possible de savoir si l’on parle à un ordinateur ou à un être humain (10), mais d’une intelligence artificielle capable d’éprouverce qu’éprouve une conscience humaine. C’est ce que j’appelle le test 2001 Odyssée de l’espace. Je reconnaîtrai qu’une intelligence artificielle est l’équivalent d’un être humain le jour où, comme Hal, l’ordinateur de 2001 l’Odyssée de l’espace, elle sera capable de me tuer pour préserver sa propre existence, alors qu’elle aura été programmée pour m’aider à vivre.
Nous allons vivre au XXle siècle entourés de robots qui auront l’air d’être conscients, mais seront-ils conscients ou simuleront-ils seulement le fait d’être conscients ? De la réponse à cette question dépend notre avenir. Si une intelligence artificielle peut vraiment être consciente comme nous le sommes, alors l’humanité ne dépassera pas le XXIème siècle, affirment déjà un certain nombre de penseurs et de prospectivistes (11).
Une troisième école, à l’inverse des deux premières, postule qu’aucune intelligence artificielle ne sera jamais véritablement consciente. Car les deux premières ont en commun de considérer que le cerveau est un iPod.
Et si ce n’était pas le cas ? Si le cerveau était une radio ? Alors cela nous amènerait à une révision radicale de nos conceptions concernant notre propre nature… et cela redonnerait des perspectives à toute l’humanité. Dans le reste de ce chapitre, nous allons voir quelques raisons scientifiques de penser que ce n’est pas une illusion.
Notes :
(5) Cette vidéo de Hugh Herr est une de celles qui m’ont le plus impressionné, car elle montre à la fois la beauté qu’il y a à pouvoir « réparer » des êtres humains gravement handicapés et les risques éthiques qui résultent de telles recherches : https://www.youtube.com/watch?v=CDsNZJTWw0w. On peut mesurer les progrès entre cette vidéo et une des premières mondiales réalisées peu de temps auparavant qui concernait des bras robots: http://www.letribunaldunet.fr/actualites/ampute-des-deux-bras-il-peut-desormais-controler-ces-bras-bioniques-avec-son-cerveau.html— ce qui montre la vitesse d’évolution dans ce domaine.
(6) L’un des ouvrages majeurs de Kurzweil a pour titre La singularité est proche(Singularity is Near), l’autre L’Âge des machines spirituelles (The Age of Spirituel Machines).
(8) James Barrat, Our Final Invention. Artificial intelligence and the End of Human Era, Thomas Dunne Books, 2013. Ce livre n’est malheureusement pas traduit en français.
(9) Voir par exemple le très joli film Her(Spike Jonze, États-Unis, 2013) qui présente un cas de ce type.
(10) Voir ici un des robots le plus proche de passer ce testhttps://www.youtube.com/watch?v=dMrX08PxUNY
(11) Paul Jorion, Le dernier qui s’en va éteint la lumière, Fayard, 2016.
Source : Explorateurs de l’invisible – Guy Trédaniel éditeur