Nous avons lu… « The Singularity is near: When humans Transcend Biology », de Raymon C. Kurzweil (2005)

Nous avons lu… « The Singularity is near: When humans Transcend Biology », de Raymon C. Kurzweil (2005)

«The Singularity is Near» est le principal ouvrage de R. Kurzweil et a donné lieu à un film (Transcendant Man). Il est l’un des «futurologues» les plus influents de la Silicon Valley et est désormais responsable des projets de «machine learning» pour Google, après avoir fait fortune dans l’optique dans les années 70 et dans diverses activités au croisement de l’ingénierie et des affaires.

L’horizon de la fusion Homme-Machine

1.La «singularité» désigne pour R. Kurzweil la «fusion de l’homme et de la machine». Selon l’auteur, cette fusion impliquerait notamment la disparition de certaines des dimensions contingentes à l’existence humaine comme le vieillissement des cellules et, à terme, la mort. Cette évolution technologique marquerait une rupture par rapport à l’évolution biologique.

2. Cet horizon conclurait le voyage de l’humanité à travers 6 «ères». Pour R. Kurzweil, se seraient succédées les phases d’évolution suivantes : la physique (création de l’univers), la biologie (apparition de l’ADN), la pensée consciente (le cerveau), l’ère de la technologie (ère actuelle) et la « singularité » serait la 5ème ère avant que ne lui succède une ère finale : « l’expansion de l’humanité dans l’univers ».

Pourquoi serions-nous proches de cette nouvelle ère de la «singularité»?

3. Les progrès de la médecine commenceraient d’ores et déjà à nous faire entrer dans l’ère de la singularité, selon R. Kurzweil. En effet, d’après lui, les applications médicales seraient une première phase du développement de cette ère, avec des projets d’implants sur les neurones pour lutter contre la maladie de Parkinson ou pour remédier aux paralysies irréversibles.

4. Quels développements attendre à un horizon proche? R. Kurzweil envisage notamment l’avènement d’un « cerveau augmenté » par des implants neurologiques puis par de très petits robots (« nanobots ») dans le cerveau qui permettraient d’accroître exponentiellement la mémoire, la réflexion logique et les perceptions sensorielles. Selon l’anticipation de Kurzweil, la réalité virtuelle devrait alors transformer l’existence et il serait possible de ‘charger’ (« uploader ») une personnalité (mémoire, émotions) vers un corps non biologique.

C’est ainsi que, d’après l’auteur, l’humanité serait capable de dépasser la mort.

QUELLES CONSEQUENCES ECONOMIQUES ?

5. La singularité ouvrirait une perspective d’abondance. Pour R. Kurzweil, ces évolutions représenteraient un progrès et mettraient fin aux souffrances de l’humanité. En particulier, dans une telle société, le travail ne serait plus nécessaire. En revanche, R. Kurzweil ne précise pas les conséquences économiques et sociales de ces transformations. Il relève néanmoins que, dans une société où la production de biens et services ne reposerait plus sur le travail, les droits de propriété intellectuelle deviendraient l’une des sources essentielles des « revenus ».

QUELLES TENSIONS SOCIETALES ?

6. R. Kurzweil s’inquiète des oppositions susceptibles de s’ériger contre ce type de progrès. Il évoque, d’une part, «l’humanisme fondamentaliste» opposé à la thérapie génique et à l’extension de la vie et, d’autre part, le «luddisme fondamentaliste» selon lequel l’humanité se porterait mieux sans progrès. Il met en garde contre la résistance au progrès technologique qui serait pour lui constitutive d’un nouveau «totalitarisme antidémocratique», mais ne croit pas véritablement au pouvoir mobilisateur de ces courants.

7. R. Kurzweil ne nie cependant pas les risques  liés à la fusion homme-machine et préconise un agenda de politiques publiques pour les contenir. L’intelligence artificielle pourrait chercher à nous évincer, les robots pourraient être détournés de leurs fonctions par des puissances hostiles à des fins destructrices et cela d’autant plus que la guerre va changer de nature avec les robots tueurs, les exosquelettes, l’interface robots/soldats, etc. En réponse, il lui apparaît essentiel d’investir dans les technologies défensives pour être toujours en avance face aux menaces (« proactionnary principle » ou principe d’une politique publique proactive), ce qui suppose des programmes publics.

8. Pour R. Kurzweil, la régulation ne doit cependant pas être une contrainte. En effet, pour lui la recherche et les applications pratiques ne devraient pas être ralenties par la régulation et il faudrait faire confiance aux règles éthiques posées par les scientifiques eux-mêmes. Dans ce cadre, R. Kurzweil se positionne également comme un défenseur de la décentralisation de la gouvernance.

9. Il envisage tout de même une limite que devrait imposer le régulateur de manière absolue. En effet, R. Kurweil envisage qu’il faudrait interdire la création de tout robot autoreproducteur.

Commentaire : Non seulement les thèses sur la «fusion homme-machine» sont abondamment débattues dans la Silicon Valley, et cela depuis quinze ans, mais surtout certaines des idées issues de ce débat donnent d’ores et déjà lieu à des projets de développement, y compris lorsque ceux-ci comprennent d’importantes levées financières. On pourra relever le numéro du National Geographic d’avril 2017 dédié à ce thème. La thérapie génique est déjà presque à portée technique, ce qui met en perspective l’écart existant avec les débats français sur le principe de précaution et les effets que cet écart pourrait avoir sur les problématiques de compétitivité. Il y a, à ce stade, de très nombreux impensés autour de ces perspectives ouvertes par la «fusion homme-machine» notamment en ce qui concerne les questions de gouvernance.

COMMENTS

WORDPRESS: 0
DISQUS: 0