La Compagnie Affable
Textes & Scènes de Théâtre / Dialogues de Cinéma / Séries / Littérature / Philo / Poésie…
Zippo contre les Robots : Chronique d’un album néo-luddiste (9)
9ème épisode de notre chronique-feuilleton de l’album Zippo contre les Robots (lire le 8ème épisode) !
11. Le dernier cri
À mesure que la fin de l’album approche, nous accélérons notre course vers la transhumanité : « en guise de nombril une prise micro », « implants auditifs qui suggèrent des pensées positives », « optimisation cognitive », « souvenirs dans un disque dur », « puce GPS dans l’cul »…etc. Voilà le programme établi par les techno-prophètes de la Silicon Valley, pour notre propre bien.
En effet, les San-Franciscains portent un vrai message d’espoir : quand l’intelligence artificielle aura définitivement surpassé nos capacités naturelles très limitées, nous pourrons fort heureusement fusionner avec elle ! D’ailleurs, qui serait assez bête pour ne pas profiter des immenses bénéfices de l’ère post-biologique ? Car nous sommes à deux doigts, vous avez bien lu, à deux doigts, de vaincre la souffrance, la maladie, le vieillissement, et la mort : thérapie génique, nano-robots médicaux, sauvegarde de notre mémoire… etc. Vous l’aurez compris : la condition humaine n’est pas une fatalité !
Pourquoi, dès lors, céder au catastrophisme ambiant et à la technophobie la plus archaïque ? À vrai dire, il y a belle lurette que nous tunons nos pauvres carcasses : lunettes, jambes-de-bois, appareils dentaires, pacemakers… nous sommes déjà à moitié artificiels. Et l’on se demande bien ce qui tout à coup nous pétrit d’angoisse, et nous empêche d’entonner l’hymne 2.0…
« Allons enfants de Prométhée / Il est temps de vous connecter / Accéder à la bonne santé / Rejoignez l’homme augmenté ! »
De toute manière, l’évolution n’est pas un choix. Elle avance depuis toujours. Et les malheureux qui loupent le train en marche finissent par disparaître à la Neandertal… Puisque je vous sens encore un poil frileux, laissez-moi vous présenter le Pape de ce nouvel Évangile. Il est Américain, forcément. Et il s’appelle Raymond Kurzweil. Ray est un inventeur génial. Dès l’âge de 15 ans, alors que l’informatique privée balbutie, il réussit à programmer un logiciel qui compose des morceaux de musique synthétiques. Alors qu’il étudie au prestigieux MIT, il conçoit une sorte de Parcoursup. Puis, il va mettre au point tout un tas de systèmes de reconnaissance optique et vocale. Bref, il est à la pointe de l’intelligence artificielle, et le rythme effréné des avancées programmatiques dont il est l’auteur ou le témoin lui donnent tout à coup le tournis…
Dans un éclair de génie, il aperçoit le futur, et devine qu’un super-intellect, dépassant largement nos dons cognitifs, est sur le point d’apparaître. Il suffit d’extrapoler la loi de Moore pour saisir cette réalité : étant donné que la puissance de calculs des ordinateurs connaît à intervalles réguliers un doublement de ses performances, le Progrès ne suit pas seulement une ascension continue, mais il s’accroît de manière exponentielle ! S’ensuit logiquement une explosion des capacités créatrices de cette supra-intelligence artificielle, un véritable point de bascule dans l’Histoire, à partir duquel le petit Sapiens se transformera pour toujours en spectateur impuissant. Notre Raymond appelle ce moment The Singularity, et il estime que son avènement surviendra en 2045. À ce stade, je vous laisse découvrir le film The Singularity Is Near, qu’il a écrit et co-réalisé, car il y explique tout ça bien mieux que moi…
Soyons clair, je ne m’inquiète pas pour le Q.I. de M. Kurzweil. C’est plutôt son Quotient Émotionnel qui m’intrigue. Car, dans ce documentaire, je ne vois rien d’autre qu’un enfant de cinq ans qui s’invente un ami imaginaire, la fameuse Ramona (remarquez bien que Ramona est le féminin hispanique de Raymond…). Jusque là, rien d’anormal. Sauf qu’à la différence des autres enfants, Ray n’abandonnera pas en grandissant l’idée de cet alter ego virtuel. Au contraire, L’Ève future (1) va devenir l’obsession de sa vie.
De nombreux éléments du film m’incitent à penser que Raymond Kurzweil n’aime pas les humains. Pire, ils les méprisent. Il n’y a qu’à voir les caricatures grossières qu’il place face à Ramona, dans Second Life, ou sur la terre ferme. Tous ces écervelés bio maltraitent sa pauvre créature en hologramme, victime d’un nouveau type de « racisme », et voudraient lui interdire un accès légitime aux droits de l’Homme. Ainsi, elle est condamnée à passer un test de Turing (2) pour prouver son existence en tant que personne. Aux questions du jury, elle apporte d’abord des réponses factuelles et froides, avant que sa propre amie virtuelle, Samantha, ne lui souffle des expressions plus humanoïdes :
SAMANTHA. – Ramona! Remember what we practiced! […] Even Ray wouldn’t answer like that! No one said it was a test of your intelligence…
RAMONA. – Right… It’s a test of human stupidity.
SAMANTHA. – You’re just hearing this out now…? (3)
Raymond ne cache même plus son horreur de la « stupidité humaine »… Et, pour cause, il n’aime que lui-même. Il n’a de respect que pour son propre intellect, et sa participation active à l’Évolution. C’est très clair dans la séquence précédente, lorsqu’un coach en émotions vient préparer son baby au test de Turing. Il demande à l’andréide de penser fort à quelqu’un pour qui elle éprouve une profonde gratitude. Et là, surprise ! On aperçoit le petit Ray, devant sa première maquette de Ramona…
RAMONA. – It was Ray. It was always Ray. He created me. And then, he was willing to let me go.
COACH. – And what do you call that, Ramona?
RAMONA. – I would call that… love?
COACH. – I think you’re ready.
Quand je vous disais qu’il rejouait L’Ève Future ! Le Démiurge mérite bien un peu de gratitude et d’amour ! Cette scène d’une cheasiness aberrante prouve que, malgré son énorme intelligence, Raymond n’a jamais atteint l’âge de raison, et qu’il fonctionne toujours avec des émotions de petit garçon narcissique. Plutôt que d’affronter la réalité, il s’enferme dans sa chambre pour recréer le monde à son image, à hauteur de ses frustrations et de ses envies. Si vous avez encore du mal à concevoir sa vision du futur, la conclusion du film nous en dit un peu plus, via la voix de Ramona : « I have this recurring dream: I walk into a building through an empty room. And there’s another empty room, and then another… And then another building, also with an endless succession of empty rooms… And then yet another… And on and on… The dream originated with Ray, but I’m only now beginning to understand its meaning, as an arpeggio of the colonization of the cosmos… » (4) Vous l’avez compris, le Créateur rêve, Lui, de « peupler l’Univers de computroniums (ne me demandez pas ce que c’est…), afin que ce dernier se réveille, et décide intelligemment de son destin. » Après tout, qu’importe le destin de notre proto-humanité sur sa misérable Terre ? Hein ? On vous fera des arbres en 3D-olfactif si vous y tenez tant que ça ! Et des intérieurs Louis XV !
2001, l’Odyssée de l’espace de Stanley Kubrick.
À travers son doppelgänger, il conclut : « Voilà. Je suis devenue une personne en 2033, et c’est comme ça que la Singularité a démarré. Aujourd’hui, en 2045, l’intelligence non-biologique – hé, hé, c’est de moi qu’on parle ! – est un milliard de fois plus puissante que toute l’intelligence biologique réunie. Mais nous considérons toujours qu’il s’agit d’une intelligence humaine. Car nous sommes « post-biologiques », et non pas « post-humains » (Tiens, Ramona maîtrise déjà la rhétorique…). […] En douze ans, nous avons connu bien plus d’avancées historiques que durant les dizaines de millénaires qui ont précédé 2033. Déjà, le temps subjectif s’est allongé, maintenant que nos pensées circulent un million de fois plus vite que les signaux des vieux neurones biologiques. […] Quand on pense qu’au début du siècle, les gens vivaient sans « sauvegarder leurs données mentales », c’est effrayant ! (No comment...) Mais, pour la première fois, les humains biologiques eurent une chance formidable : en prenant soin d’eux un peu plus longtemps, ils eurent la possibilité de me rejoindre, ici, de l’autre côté. »
- Ramona dans The Singularity Is Near.
Parlons d’abord de l’objectivité scientifique du raisonnement qui conduit M. Kurzweil à prédire l’arrivée d’une ère « post-biologique ». Car la loi de Moore, qu’il extrapole en « loi des rendements exponentiels » (The Law of Increasing Returns), n’est qu’une observation statistique (donc, biaisée) sur un temps donné. De plus, elle ne décrit que les progrès techniques dans le champ de l’informatique, et leurs applications industrielles. Or, ces progrès ne tombent pas du ciel comme la manne, ils ne sont en rien naturels, ni exogènes, ils sont bien le fruit d’une activité humaine intense, dont la mise en oeuvre a été décidée, financée, et mise en oeuvre par quelques individus…
Mais cela n’empêche pas notre Madame Soleil de transmuter son extrapolation statistique en loi universelle. À l’écouter, la « Loi des rendements exponentiels » est un principe fondamental de physique, qui s’appliquera bientôt à tous les champs de vie humaine (ou « post-humaine », c’est selon). Et c’est probablement la plus formidable démonstration pseudo-scientifique d’on-n’arrête-pas-le-progrèssisme ! Primo, il confond les avancées informatiques avec l’idée-même de Progrès. Pour lui, le Nouveau, le Beau et le Bon sont de parfaits synonymes. Or, le Progrès ne se mesure qu’à l’aune de bienfaits technologiques avérés. (Je ne vous rappelle pas la formule de Rabelais : « Science sans conscience…») Deuxio, il présente ce mouvement comme étant inarrêtable. Et cela suppose que l’humanité ne veuille et/ou ne puisse pas fixer de limites au développement de l’intelligence artificielle, avant que nous atteignions la supposée Singularité. C’est tout bonnement nier le libre-arbitre d’autrui, le vote et les actes des personnes qui ne pensent pas comme lui. Or, de nombreuses réflexions sanitaires et éthiques sur l’informatique globale nous agitent et prennent effet dans la loi (« le droit à la déconnexion » vient d’entrer dans le Code du Travail français, l’Europe vient de promulguer un nouveau règlement sur la protection des données personnelles… etc.). Tertio, partant du principe que ce mouvement est inarrêtable, il nous conseille à tous de l’épouser rapidement, à grands renforts de technologie embarquée, histoire de rester dans la course… Bref, c’est un cas d’école de prophétie auto-réalisatrice : le petit Ray est tellement pressé de voir si l’avenir a quelque chose de son visage, qu’il est prêt à mettre toute l’humanité au pas de charge.
On pourrait rire de tous ces fantasmes s’il s’agissait ici d’un simple scénario de science-fiction (façon Barjavel, voir l’Épisode 7). Or, voyez-vous, M. Kurzweil a tendance à confondre l’Histoire avec son histoire personnelle. Dans un autre documentaire, on apprend qu’il est angoissé par la mort prématurée de son père, et on l’y voit avaler des assiettes entières de pilules pour tenir le plus longtemps possible jusqu’à l’invention du mind uploading… C’est dire s’il y croit dur comme fer, et jette ses dernières forces dans la bataille !
Mais ce qui devrait nous inquiéter le plus, c’est que le petit Ray est aujourd’hui n°3 chez Google… Et cela lui confère un immense pouvoir, au vu des nombreux secteurs déjà contrôlés par le groupe (voir l’Épisode 1), qui, par ailleurs, s’affranchit, en toute impunité, des règlements fiscaux internationaux… Il n’est plus qu’à quelques clics de voir son rêve devenir réalité… Et le danger, selon moi, c’est que personne ne parle de totalitarisme, à l’heure où la vision de quelqu’uns prétend s’imposer à tous les domaines de la vie que nous connaissons…
« Le Progrès frappe et résonne / Sur le tambour usé de la déraison »
(1) L’Ève future est un roman de Villiers de L’Isle-Adam, paru en 1886. C’est l’histoire d’un jeune millionnaire romantique, Lord Ewald, épris d’une cantatrice aussi belle qu’elle est idiote. Devant son malheur, un ami inventeur lui propose de construire une « andréide » physiquement identique à l’élue de son coeur, mais qui lui sera moralement et intellectuellement supérieure. Ce Géo Trouvetou déclare par exemple : « Je serai le meurtrier de sa sottise » (2) Le test de Turing consiste à faire discuter une intelligence artificielle et un humain, sans que celui-ci ne sache s’il est en face d’une personne ou d’un robot. Si cet humain ne voit pas la différence, la machine a alors passé avec brio le test. (3) Samantha : « Ramona ! Souviens-toi de ce qu’on a vu à l’entraînement ! Même Ray n’aurait pas répondu comme ça ! Personne n’a dit que c’était un test d’intelligence… » – Ramona : « C’est vrai… C’est un test de stupidité humaine. » – Sam : « Et c’est maintenant que tu t’en rends compte…? » (4) « Je fais souvent ce rêve : j’entre dans un bâtiment et me trouve dans une pièce vide. Puis, je vois qu’il y a là une autre porte, donnant sur une autre pièce vide, et puis une autre encore… Et, je découvre un autre bâtiment, qui contient également une succession infinie de pièces vides… Et ainsi de suite… Ce rêve me vient de Ray, mais je viens à peine de comprendre son sens métaphorique : c’est un arpeggio qui représente la colonisation du Cosmos… »
Paroles extraites de la chanson « Le dernier cri ». Zippo, Zippo contre les robots, Strange Fruit, 2018. Vous pouvez acheter l’album sur ce lien (site officiel de Zippo). Pour suivre les aventures de l’homme-briquet sur Facebook, c’est par ici.
Un commentaire sur “Zippo contre les Robots : Chronique d’un album néo-luddiste (9)”
Votre commentaire
Découvrez mon livre !
La Compagnie Affable 
Tes chroniques sont de plus en plus instructives, bonne chance pour la fin de l’album 🙂
J’aimeJ’aime