Benard Lonergan - Colloque CCCM 2018

Avant-propos

Je me présente à vous comme un « honnête homme » du XX^e et XXI^e siècle, très imparfaitement instruit et éduqué particulièrement sur l’intelligence artificielle qui envahit désormais notre monde. Devant l’ampleur du défi, je me suis plongé dans des ouvrages d’auteurs bien plus qualifiés que je ne le suis sur le sujet qui ont proposé des réflexions profondes et auxquels je réfère dans la bibliographie. Parmi les meilleurs résumés, je pense entre autres à Jacques Testart et sa conférence d’ouverture au Collège des Bernardins donnée en mai 2017¹. Pour ma part, j’ai tenté de démêler les écheveaux de cette nouvelle technologie dans une demi-douzaine d’articles inspirés des lectures du moment que l’on trouvera en référence sur le site Facebook du CCCM et qui ont été envoyés à toutes les personnes préinscrites au colloque.

Mon exposé, qui est loin d’être exhaustif ici, constituera, je l’espère, une amorce à notre discussion sur les implications et la place de l’IA dans nos vies aujourd’hui et demain. Cette vie précieuse, nous y tenons tous, que nous soyons croyants, agnostiques ou athées; que nous soyons théistes, humanistes ou matérialistes. Les transhumanistes², qui nient et Dieu et l’homme, croient quand même à la vie, même s’ils l’imaginent perpétuée non dans un corps biologique mais bionique. En passant, on pourrait critiquer l’ambigüité des termes utilisés ici. Le préfixe bio suppose, en effet, un vivant fait de chair et de sang, si nécessaires à ce cerveau pour vivre et qui est tellement étudié de nos jours. Mais la chair et le sang, pour eux, ont fait leur temps. C’est un support trop fragile pour la suite de l’histoire. Cette chair et ce sang n’ont pourtant jamais cesser d’être pensés de mille manières dans les traditions humanistes autant antiques que modernes et ont même été depuis le début sanctifiés pour les Chrétiens dans les sacrements, notamment dans l’Eucharistie. Ne sont-ils plus que des véhicules transitoires, comparables à ces étages inférieurs que les fusées spatiales larguent au cours de leur ascension vers les étoiles? Si nous n’avons pas un corps, mais sommes un corps. Alors la sainteté, qui bibliquement signifie séparé, et à laquelle nous sommes appelés, aura besoin d’un autre corps, céleste celui-là, pour exister dans le monde à venir. Ce pourrait être l’objet d’un autre colloque.

Introduction

Au mot enjeu, les dictionnaires Larousse et Robert s’entendent pour dire : « ce que l’on peut perdre ou gagner dans une entreprise quelconque ». Avec l’Intelligence artificielle (IA), l’enjeu n’est certainement pas quelconque mais de taille. Car se développe en ce moment un outil formidable, fruit de l’intelligence humaine (IH) et qui prend des proportions telles que l’outil semble nous échapper et même menace de nous dominer (l’IA). Il ne nous domine pas encore mais est présent dans nos vies trépidantes qu’on s’en rende compte ou non. Ne serait-ce qu’une recherche sur Google, qui est devenu un verbe (googler) n’est qu’un exemple parmi des milliers d’autres. On n’échappe pas si facilement de nos jours à Google, Amazon, Facebook, Apple et Microsoft : ceux que l’on dénomme sous le vocable « GAFAM » et d’autres plateformes comme Twitter, Instagram, Spotify, etc. Nos cellulaires, qui aujourd’hui sont tributaires de l’IA font de nous des abonnés du règne du numérique.

G : Google	B : Baidu	N : Netflix
A : Apple	A : Alibaba	A : Airbnb
F : Facebook	T : Tencent	T : Tesla
A : Amazon	X : Xiaomi	U : Uber
M : Microsoft

Les parutions récentes à grand succès, qui ont guidé ma recherche sur l’IA, sont les deux ouvrages de Yuval Noah Harari : Sapiens³ et Homo Deus⁴, ainsi que celui de Laurent Alexandre : La guerre des intelligences⁵. Pour réfléchir aux enjeux de l’IA, le livre de Laurent Alexandre permet de s’avancer sur cette terra incognita avec un peu moins d’incertitudes, même si les livres de Yuval Harari, tout aussi passionnants, les perspectives surtout à long termes sont ahurissantes.

Laurent Alexandre brosse un tableau des trois grandes révolutions technologiques et économiques dans notre histoire. La période récente a formidablement accéléré notre maitrise, sinon notre domination de l’environnement en particulier notre exploitation indue de l’environnement et les risques évidents que nous faisons courir à l’intégrité de la vie sur terre.

La première révolution qui va de 1770 à 1850 a vu la machine à vapeur changer radicalement nos modes de production et nos modes de transport : la production de masse a débuté et le train a rapproché les hommes autant dans l’espace que dans le temps. La seconde révolution technologique et économique est survenue avec l’électricité et le pétrole qui ont apporté l’automobile et l’avion. La troisième révolution vers l’an 2000 a vu l’arrivée de technologies NBIC : nanotechnologie, biotechnologie, informatique et sciences cognitives qui se structurent autour du réseau Internet et de l’IA.

Les enjeux économiques

Les enjeux économiques sont nombreux quand on regarde la montée de l’IA. On ne peut qu’esquisser les problèmes qu’elle soulève ici. Avec le covoiturage, la recherche d’un hôtel ou la recherche d’un colocataire ou d’un partenaire de vie sur internet, on ne fait qu’optimiser le mode de vie d’avant l’IA et internet. Passer d’une consommation de masse (Ford) à la consommation ciblée (Toyota) grâce aux mégadonnées, ne pose pas à priori de dilemme moral, selon Daniel Cohen,⁶ économiste. « Le problème se pose quand le « Big Data » nous demande de devenir nous-mêmes l’information traitée comme des algorithmes »⁷. L’individu totalement numérisé sous contrôle des capteurs numériques fait en sorte que la personne n’existe plus comme dans le film Matrix. Le paradoxe est que les transhumanistes, dans leur version douce veulent permettre aux hommes de s’affranchir de toutes servitudes afin d’en arriver à une société de loisirs telle que pouvait le laisser entrevoir Jean Fourastier⁸. Mais si l’IA définit la valeur de l’être humain, on assistera à une prolétarisation des salariés. Se pose donc la question du travail humain à l’heure de l’IA. Or Daniel Cohen n’est pas très chaud pour le revenu universel. Les humains, selon lui, ont besoin de travailler pour participer à un projet de société et interagir collectivement. Silicon Valley voudrait que la société tourne le plus possible à l’algorithme. L’élite financière invente des produits, des logiciels, des algorithmes qui font tourner la société et ne voit la complémentarité qu’en fonction de l’homme et la machine. Or la numérisation butera toujours sur le corps dit Daniel Cohen. Les humains ont besoin des sens, toutes les sortes de sens : sensation, direction et signification⁹ et ont besoin d’interagir avec les autres. Or l’internet attise un biais d’endogamie sociale. On reste entre « nous », on fonctionne en silos numériques. La première complémentarité est celle des tous les talents humains pas juste ceux des mathématiciens et des QI élevés. La valeur d’un humain ne se réduit pas à sa capacité d’être complémentaire à l’IA. Il faudra peut-être le redire souvent dans le monde emmaillé de techniques qui vient.

Dans cette évolution de la société vers le numérique et l’IA, on parlera en termes plus ou moins ésotériques par exemple de la loi de Moore¹⁰ et du principe de Schumpeter¹¹, comme étant des évidences naturelles et incontournables. Prenons simplement acte qu'aux deux facteurs traditionnels de production, soit le capital (incluant les machines et les bâtiments) et le travail des humains, s’ajoute maintenant un troisième facteur l’IA, et qu’il y ait des chances qu’elle remplace tous les autres métiers non spécialisés. La révolution industrielle a été rendue possible grâce à la vapeur et l’électricité, la révolution numérique aura été rendue possible grâce à l’IA. Dorénavant, produire voudra dire : investir, travailler et « cognifier » (IA).

C’est ainsi que Joël de Rosnay suggère qu’il ne faut plus enfermer la jeunesse dans des parcours fermés qui les destinent à une voie de garage. L’école devra changer et intégrer l’IA. Joël de Rosnay est un homme cultivé qui a été nourri par la tradition humaniste dans une France marquée par la chrétienté. Il évoque sans ambages Teilhard de Chardin avec lequel il partage l’idée de la noosphère. On soupçonne que la part humaniste, dans l’humain augmenté qu’il souhaite, est importante. Mais il n’en parle pas tellement. Vaut mieux une tête bien faite, qu’une tête bien pleine, reste une maxime plus que nécessaire aujourd’hui avec les défis que posent l’IA. Mais cet idéal sera mis à rude épreuve si les paramètres de la promotion sociale sont déterminés par les GAFAM.

Quand on parle de manipuler la matière animée, la neuro-révolution nous entraine sur le terrain de la reconfiguration génétique, ce qui laisse à penser que nous pouvons réparer toutes les erreurs de la nature. Les rêves les plus fous se bousculent dans la tête des prophètes de bonheur. « Les technologies NBIC deviennent des savoirs incontournables de l’honnête homme du XXIe siècle » (p. 16). L’école d’aujourd’hui sera vue comme le sanatorium d’une autre époque. Comme on le voit, Laurent Alexandre ne manque pas d’images frappantes pour exprimer son point de vue. Il prévoit même que dans un avenir rapproché, en 2035, l’éducation deviendra « une branche de la médecine » (p. 17). L’IA sera omniprésente et tendra à fusionner avec l’IH, abandonnant son corps limité au recyclage écologique. Il se fait très net sur ce point : « Ce livre explique pourquoi et comment les petits enfants de nos enfants n’iront plus à l’école » (p. 17).

On ne peut entrer dans le détail chapitre après chapitre de son livre enlevant et inquiétant tout à la fois. De même en est-il pour Yuval Noah Harari, surtout dans son deuxième livre, Homo Deus, qui nous intéresse davantage ici. À la fin de son ouvrage, Laurent Alexandre avoue cependant qu’il est difficile « de conclure un tel essai » (p. 303). Nous sommes devant l’IA comme devant une forêt que l’on commence à défricher. « Tous les équilibres sont bouleversés » (p. 303). Il envisage ainsi sept bouleversements majeurs :

7 bouleversements majeurs.

La zone d’influence de l’Occident, soit l’Atlantique nord sera déplacée dans la zone Asie-Pacifique.
Comme on est passé du géocentrisme à l’héliocentrisme, du Jardin de l’Éden à la sélection naturelle avec Darwin, la machine prendra le pas sur le vivant.
« Les institutions humaines et les technologies évoluent désormais dans deux temporalités distinctes » (p. 304). Les lois de nos parlements sont de plus en plus dépassées devant le développement fulgurant de l’IA. Les jurisprudences arrivent de moins en moins à combler le vide.
« Face à des démocraties vieillissantes et lasses d’elles-mêmes, le monde des géants du numérique incarne une vitalité démocratique stupéfiante : après tout 100% des gens, qui ont un téléphone tournant sous Android ou un IPhone, l’ont choisi » (p. 305). Les petits services tellement appréciés que nous fournissent les GAFAM à faible coût, avec l’IA, offriront bientôt des services d’éducation et de santé bien meilleurs que la fonction publique.
La capacité de planifier l’avenir se pratique sur des étendues temporelles sans comparaison : la prochaine élection pour un politicien, l’avenir pour un homme d’État (Churchill ou De Gaule), mais les milliardaires du WEB pensent, eux, pour les dix prochains siècles … » (p. 305).
Si la maitrise de l’IA tient ses promesses, alors ce sera la prospérité pour tous à perpétuité. La rareté énergétique ne sera plus un problème et nous vivrons dans une économie démiurgique où rien ne sera impossible (p. 306). L’homme ne se nourrira plus que de pain?
« Dans un monde hypercomplexe, la morale deviendra aussi hypercomplexe. Si l’éthique explose en des myriades de questions techniques spécialisées, alors « l’ingénieur sera le prêtre de demain » (p. 306).

High Tech / Low Tech

S’achète-t-on une conscience, comme on achetait les indulgences à une certaine époque, quand on voit la philanthropie de certains grands dirigeants des GAFAM? Considérons pour le moment leur intérêt pour des causes humanitaires pour ce qu’elles sont. À ce titre, en 2010, Bill Gates et Warren Buffet ont mis sur pied une fondation « The Giving Pledge » (La promesse du don) où 200 milliardaires ont publiquement promis de donner l’essentiel de leur fortune en pure philanthropie, ne laissant à leur descendance qu’une infime partie en héritage. Parmi eux, Laurent Alexandre signale Mark Zuckerberg (Facebook), George Lucas, Paul Allen cofondateur de Microsoft, Elon Musk (Space X, Tesla, PayPal) et Ted Turner (CNN). Des transhumanistes se mobilisent pour certaines missions humanitaires et l’on voit un Sergey Brin (cofondateur de Google) donner des sommes considérables à la lutte contre le Parkinson (dont il serait sujet) ou un Bill Gates financer les recherches et la vaccination en Afrique pour combattre la tuberculose et le paludisme mais aussi, dans son cas, à travailler à l’installation d’infrastructures de base comme l’accès à des latrines et à une eau non-contaminée qui sont des manières très efficaces pour sauver des millions de vies. Une façon, en passant du High Tech au Low Tech, de retourner à des moyens techniques simples qui ont prouvé leur efficacité depuis longtemps. Que ce soit pour le développement accéléré des technologies, ou pour la philanthropie, les gouvernements du monde sont dépassés et tout simplement à la remorque des ONG qu’ils soient nantis ou non.

Si on doit composer avec l’IA et les transhumanistes qui l’acceptent comme incontournable ou la vénèrent comme la voie de sortie de notre condition mortelle, autant essayer de comprendre. En face de ce phénomène, nous sommes tous convoqués à l’attention aujourd’hui. Autant regarder en face les formidables possibilités qu’offre l’IA pour le meilleur ou pour le pire pour le monde à venir. Car, c’est de cela dont il est question ici. S’agira-il d’un progrès ou d’un déclin pour les humains? La pensée de Bernard Lonergan sur ce qui constitue un déclin et un progrès nous sera sans doute très précieuse à cet égard. Pour nous chrétiens, qu’en est-il de cette puissance quasi-divine qui nous est échue en ce début de millénaire? Que reste-t-il du sujet humain? On a vu des réactions chez des philosophes comme Luc Ferry¹² et des penseurs chrétiens se sont invités récemment dans cette discussion comme on le voit avec le frère Éric Salobir, dominicain qui a fondé le réseau OPTIC dans le but d’établir un dialogue avec toutes les instances concernées par l’utilisation de l’IA. Tandis que les transhumanistes ne jurent que par les algorithmes annonciateurs de paradis futurs sur terre, - ce qu’on peut critiquer ou même craindre -, force est de constater que les humains n’ont jamais renoncé à un outil qui leur facilite la vie. Mais comme toujours, on peut se questionner de quelle vie au juste il s’agit? Cette révolution que l’on dit numérique ne peut être ni boudée, ni adorée mais doit être comprise, raisonnée, régulée et utilisée comme le dit Éric Salobir au service de la personne, non du simple consommateur, et sur l’horizon du bien commun. La tentation de l’hybris¹³ demeure pourtant réelle devant la montée de puissance que procure l’IA et les groupes financiers et les gouvernements qui la convoitent à leurs propres fins. Plus que jamais l’injonction faite à l’homme, de n’être pas à lui-même la mesure de tout, en Gn 1,16-17 prend soudainement une importance dramatique. Pourquoi? Parce qu’aujourd’hui avec le savoir, qui avec l’IA, constitue l’avoir et le pouvoir désormais, elle décuple la puissance de l’homo sapiens, qui finit par se croire le maître du monde. L’exégèse moderne a montré que la tradition biblique depuis le début, dans la Genèse, l’humain est considéré plutôt comme l’intendant de la nature qu’un Autre, Dieu, lui a confiée¹⁴ avec tous les risques que ça comporte bien évidemment. C’est bien connu, quand nous sommes puissants, nous sommes à risque d’être à nous-mêmes notre pire danger. L’encyclique Laudato si du Pape François à cet égard n’est pas en reste.

La recherche de puissance

À lire les Yuval Harari, Laurent Alexandre et d’autres transhumanistes, on se prend au jeu en rêvant aux progrès de la science avec l’IA. Du moins, avec celle que l’on dit faible et moyenne qui déjà habitent notre quotidien (météo, Google Maps, virement bancaire etc). C’est lorsqu’on aborde l’IA forte que le malaise surgit. Cette puissance imaginée paraît soudainement plus inquiétante. L’excellent roman fiction de Patrice Fransceschi donne une sombre idée de l’univers totalitaire où règne la fin de la vie privée dans une société du futur dominée par l’IA forte ¹⁵. Et spécialement quand on lit chez Laurent Alexandre, par exemple, une citation de Sergey Brin, cofondateur de Google qui dit: « Nous ferons des machines qui raisonnent, pensent et font les choses, mieux que nous le pouvons »¹⁶. À priori, ça fait rêver parce qu’on imagine qu’on sera toujours en contrôle du système. Et en même temps, on se demande : la machine peut-elle arriver à « penser » mieux que nous? Nous verrons plus loin les quatre raisons qui laissent sérieusement douter de cela.

Pourtant, Laurent Alexandre semble endosser cette perspective quand il affirme que « seule l’intelligence artificielle peut certifier le réel … L’obsolescence du cerveau actuel devient plus qu’une crainte : une évidence »¹⁷. Plus loin, il parle de l’effacement de l’Intelligence humaine. « Pour Ray Kurzweil, le gourou transhumaniste chez Google, une authentique IA dotée d’une conscience … devrait émerger dès 2045 et serait un milliard de fois plus puissante que la réunion de tous les cerveaux humains. »¹⁸. Mark Zuckerberg, rapporte Laurent Alexandre pense que le futur enseignant sera un neuroculteur, un cultivateur de cerveau. On sera très cultivé!

La voie est tracée, le véhicule de l’IA est maintenant partout et les transhumanistes, fort de leur fortune - grâce à cette nouvelle toile, ou toison d’or, - pensent que, comme les glaciers d’un autre âge, elle nous entrainera invinciblement là où elle va. Si nous lui résistons, nous serons écrasés. Autant s’hybrider, pensent les transhumanistes, pour survivre avec cette masse de données envahissante. L’humanité augmentée, comme le veut l’expression favorite de Joël de Rosnay, engendra une version « beta » d’homo sapiens, toujours en processus de mise-à-jour, comme nos logiciels. À moyen terme, Microsoft pense qu’on vaincra le cancer en 2026 et Mark Zuckerber, non moins optimiste, pense même qu’on viendra à bout de toutes les maladies vers 2100. Au final, on verra l’émergence d’homo sapiens 2.0, nouvelle définition de l’homme, déchiffré et numérisé. Le neurosapiens devenu homme-dieu n’aura aucune limite à ses ambitions. Ici tout est vu en termes matérialistes ou le chiffre semble le langage de la seule vérité.

Or les sages-femmes savent bien depuis des millénaires que 1 + 1 = toujours 3. Physiquement, psychiquement et spirituellement. Ce qui est sous-entendu par cette vision du monde et de l’homme à la puissance 2, c’est que tout sera évalué sous le signe du mérite associé à l’IA, nouvel étalon de mesure. Désolé pour les moins doués du QI, mais si vous n’êtes pas un QICIA : un Quotient intellectuel complémentaire de l’intelligence artificielle vous ne participez pas à la marche de l’humanité vers le futur. L’eugénisme retrouvera ses lettres de noblesse, pouvant désormais intervenir grâce aux progrès indéniables de l’IA avant la naissance et jusqu’au séquençage de votre ADN. Plus que jamais, l’invasion irraisonnée de l’IA vers le seul objectif du trio MacDo : efficacité-productivité-rentabilité, risque de déclasser une masse de gens peu qualifiés ou inclassables. Ce qui est déjà à l’œuvre.

En principe, l’eugénisme, qui a si mauvaise réputation depuis que les Nazis en ont fait une doctrine mortifère de purification de la race humaine, devrait au contraire nous réjouir. Nous l’avons depuis toujours cultivée avec les animaux et les plantes. Sauf que cette fois, c’est nous qui sommes en cause. En même temps, qui ne veut pas des meilleures chances dans la vie? Étymologiquement, le mot eugénisme signifie en grec « bien naître ». Quel parent aujourd’hui refuserait que l’on dépiste à temps des anomalies génétiques chez leur enfant à naître, grâce à l’IA? Les diagnostics précoces peuvent éliminer 96% des enfants trisomiques. On laissera moins au hasard « la sélection des gamètes des donneurs sur la base génétique »¹⁹. On voudra préparer nos enfants à être très intelligents et vivre très longtemps en bonne santé. Et au nom de quoi nous limiter, plaidera ensuite l’avocat du diable? Pourra-t-on génétiquement un jour choisir un enfant à la carte? Et pour éviter le naufrage de la démence dans la vieillesse est-ce qu’on n’autorisera pas les recherches les plus transgressives pour y parvenir? À défaut de perdurer sur terre indéfiniment, choisir un enfant à la carte n’est-ce pas une manière inconsciente de se cloner soi-même? Jusqu’où pourrons-nous aller? L’école suivra très rapidement l’hôpital sur la voie de l’eugénisme. Le choix de la meilleure pédagogie sera « scientifique ». Terminées les querelles d’écoles et d’idéologies! Tout sera évalué en « neuros » : les éducateurs seront neurogénéticiens, neurobiologistes, neuro-électroniciens et, qui sait, verrons-nous un jour des neuro-éthiciens, … bref, ils seront les spécialistes de IA en éducation.

Les parents devront aussi faire leurs devoirs génétiques avant de concevoir un enfant et se soumettre à une procédure qu’on appellera : « paramétrer la sélection embryonnaire »²⁰. Parents! Vous voulez un enfant ? Alors à vos tables algorithmiques! La pensée transhumaniste laisse entendre que comme le privilège de la naissance fut renversé par la bourgeoisie méritoire à la Révolution française, la neuro-révolution marquera l’abolition du privilège de l’intelligence à la naissance. Et la course à l’égalité favorisera les neurosciences. Un spécialiste de la maladie de Parkinson, Alim Louis Benabid²¹, se demande en quoi se serait gênant d’améliorer le cerveau? A-t-on peur que le voisin soit aussi intelligent que soi, sinon plus? On passera de l’homme réparé à l’homme augmenté, comme le répète à souhait Joël de Rosnay²²qui parle d’hyper-humanisme Qu’est-ce qui empêchera le tobogan eugéniste de se précipiter dans la dictature neuronale se demande Laurent Alexandre de son côté vers la fin de son ouvrage? On voit bien que le débat est déjà engagé même parmi les transhumanistes.

Quatre raisons de douter de l’IA forte²³

Résumons-nous, Pour les transhumanistes, il semble évident que tôt ou tard le développement de l’intelligence artificielle (IA) dominera toutes les dimensions de la vie au point de supplanter complètement l’intelligence humaine (IH). Cette IA, devenue consciente d’elle-même prendra le contrôle (la singularité) et éliminera l’IH attachée au corps biologique périssable. Au mieux, les humains auront eu la sagesse de se fusionner avec cette nouvelle entité autonome omnipuissante, s’ils veulent survivre indéfiniment dans ce nouveau support physique et virtuel tout à la fois. Alexis Toulet²⁴, présente quatre raisons qui permettent de douter d’une telle issue.

Il faut que la conscience, telle qu’elle se manifeste, dans la tête de tout un chacun, soit entièrement compréhensible en termes matériels. C’est là, une position philosophique matérialiste.
Il faut aussi que le comportement de la matière impliquée dans l’émergence de sa conscience soit entièrement compréhensible en termes calculables. Il faut transmettre dans une machine Turing²⁵ tout ce qui nous habite. Cela implique que le hasard et l’indétermination décrits par la physique quantique soient réduits à l’état de spectateur. C’est une position déterministe et objectiviste de la conscience et de l’intelligence humaine.
Si les deux premières conditions sont vérifiées : soit le cerveau et la conscience humaine sont entièrement compréhensibles, ensuite traduisibles en termes matériels ; en d’autres mots, entièrement calculables et exclusivement déterministes, alors la conscience du chercheur serait aussi tout à fait comprise et expliquée par lui-même. Ensuite, cette conscience serait capable d’être reproduite, sans sexualité, dans une fabrication, une chose qui deviendrait quelqu’un. Or, selon Roger Penrose²⁶, étant donné que la pensée inclut un élément non-calculable, les ordinateurs ne peuvent jamais faire complètement ce que nous autres, êtres humains, faisons²⁷. Alors si, et seulement si, les réponses aux trois premières conditions sont positives, la construction d’une conscience artificielle est théoriquement possible pour des êtres humains. Reste maintenant, les problèmes pratiques. Là où le diable se cache dans les détails.
Comment s’y prendre concrètement pour fabriquer une telle machine pensante ? C’est toute la distance qu’il y a entre la carte et le territoire. Jusqu’ici, toutes les pistes anciennes n’ont pas abouti à tracer le plan d’une telle entreprise. Pour se faire, il faudrait une théorie rendant possible une piste pour une application. On attend toujours un Newton, un Galois²⁸, un Darwin, un Einstein, un Turing ou un Hawkins qui publiera la Théorie générale de l’esprit humain, ou encore « La conscience artificielle pour les nuls » par Jeannot Génie, comme s’amuse Alexis Toulet. Le F-35, l’avion de chasse le plus sophistiqué au monde, pose sans cesse des problèmes aux ingénieurs, tellement il est complexe. Il compte plus de 24 millions de lignes de codes mais sa complexité est très faible par rapport au cerveau humain. Reste que les meilleurs spécialistes du monde se butent à des difficultés qui ne cessent de ressurgir, rappelle Roger Penrose.

Alors, comme on le voit, le projet d’une IA forte semble impossible sinon très improbable. Il y a autant de distance à parcourir qu’entre Démocrite et son atome au V^e siècle avant JC et la création du premier réacteur atomique au XX^e siècle, nous dit Alexis Toulet. Et ce, évidemment si toutes les conditions, mentionnées plus hauts, qui sont impératives chacune séparée et ensemble tout à la fois, sont remplies. Et nous l’avons vu, il a été démontré qu’elles sont impossibles formellement car impératives en bloc, et au plan pratique, elles sont très improbables.

Faut-il attendre un ingénieur capable de maîtriser la complexité du réel pour bâtir la paix entre les hommes et avec la nature, sans projet de fraternité universelle fondée sur un destin commun et une ouverture sur la transcendance ? Car la question de la fraternité sans transcendance se pose avec le post-modernisme. Avec l’IA, on assiste non seulement à une révolution technologique aux répercussions culturelles et sociales sans pareilles mais aussi à des formes nouvelles de sacralisation. Quand la transcendance est évanouie, elle est vite remplacée par les utopies techniciennes où l’homme prends le chemin court des apprentis-sorciers.

Quoiqu’il en soit des opinions des spécialistes sur l’IA, Laurent Alexandre pense que trois scénarios du futur s’offrent à nous.

Le premier scénario : un repli vers le bon vieux temps.

L’hypothèse du grand bond en arrière conservateur. « La compréhension du monde peut aller vers plus de superstitions, tout comme la démocratie n’est pas l’aboutissement inévitable et définitif de tout régime politique… ». Des révoltes contre le progrès se sont déjà produites dans l’histoire²⁹. La régression des savoirs est toujours possible, du moins pour un temps. En même temps, les révoltes ont contribué à humaniser le progrès au lieu de nous laisser aliéner aux diktats du trio : efficacité-productivité-rentabilité. Toutefois, les Amish de l’IA seront minoritaires selon Laurent Alexandre. Il voit dans la récente l’élection du Président Trump, le fruit d’un électorat ébranlé par une mondialisation débridée, qui a créé une masse de laissés pour compte. Reste que le gros de l’humanité voudra avancer comme on dit, Mais vers quoi ? Le scénario # 1 est peu probable et on peut au contraire craindre davantage une fuite en avant.

Deuxième scénario : après la course aux armements, la course à l’intelligence.

L’humanité sera engagée dans une surenchère eugéniste et neuro-technologique. La nouvelle matière première à s’emparer sera l’information que procure l’IA. Dans ce scénario, il faut voir que l’IA n’apporterait que secondairement, un bien-être général à l’humanité. Car, elle pourrait être convoitée et thésaurisée pour assouvir le désir de domination d’une minorité propriétaire de ces précieuses informations. Quand il s’agit de conquérir un territoire ou un marché, tous les moyens sont bons pour y parvenir, y compris pour l’IA. Actuellement les GAFAM, qui sont américaines, ont des avantages comparatifs considérables sur les autres plateformes numériques dans le monde. Elles accaparent les meilleurs cerveaux de tous les continents. Les vieilles rivalités religieuses et ethniques, toujours tapies dans l’inconscient collectif, nourriront la course à plus de neuro-technologie. La rivalité de la Chine avec les États-Unis en est l’illustration la plus criante. La question des choix de sociétés deviendra alors cruciale. Les entreprises du GAFAM chercherons-elles à devenir plus puissantes afin de ralentir la mort de l’univers? Tandis que d’autres, résignés, retournerons cultiver leurs rosiers dans la peur d’un Armageddon inévitable? Si la société de la neuro-augmentation fini par l’emporter, mettant fin au bricolage des mariages au hasard des alliances amoureuses, on risque de voir une société où les privilégiés se coopteront entre eux. La mobilité sociale risque d’être figée plus que jamais, préviennent les spécialistes. Ce sera, à la limite un nettoyage social imparable. Après le paramétrage génétique des parents, viendra l’éducation hyper-augmentée où chaque groupe va choisir son « pack » de valeurs à transmettre. Le second scénario, en somme, décrit un monde de concurrence débridée de l’IA, - qui a court en ce moment dans la zone Asie-Pacifique -, une surenchère eugéniste et une neuro-technologie sans aucun contrôle gouvernemental. Le permis d’enfanter pourrait devenir obligatoire, vu les critères de capacité cognitive d’une part et de démographie galopante d’autre part. Le renouvellement de la population va devenir un objet de planification mondiale, sauf selon Jeff Bezos, fondateur d’Amazon, à coloniser la galaxie. Je vous laisse imaginer.

Troisième scénario : vers une neuro-dictature ou une démocratie augmentée?

Les intentions de certains dirigeants comme Larry Page³⁰ en disent long sur les ambitions dévorantes des GAFAM. « Notre intention est de contrôler toutes les informations du monde, pas juste une partie »³¹. On comprend dès lors que Laurent Alexandre, qui rapporte ses propos, voit dans la manipulation des cerveaux, trois ennemis : les géants du numériques, (Too big to fail), les dictateurs (Too big to Jail) et les IA fortes (Too big to fail from grace).

Même si Google est en train de devenir la première intelligence artificielle au monde, la menace de « Big Brother » est minime car les GAFAM sont encore imprégnés de culture démocratique, rappelle Laurent Alexandre. Mais ce n’est pas le cas des BATX qui sont entièrement contrôlés par le gouvernement chinois qui est basé sur une culture autoritaire. Quand les dictatures sont alliées avec l’IA, c’est une menace mortelle pour la liberté. L’IA forte consisterait alors à être complètement au service des mégalomanes de ce monde. Quand on pense au contrôle des populations de la Chine, de la Corée du Nord, de la Russie, des visées totalitaires de l’État Islamique ou de l’Islam fondamentaliste où toute opposition est muselée, où la liberté de penser et de parole est brimée, sinon inexistante, on frémit à l’idée que ces nouveaux Tamerlan pourraient user non seulement de l’arme atomique mais surtout maitriser l’IA forte au point de nous manipuler à volonté.

Allons-nous inévitablement vers une neuro-dictature? Ou cette menace suscitera-t-elle un sursaut éthique chez les humains qui refusent de se laisser assimiler dans l’empire artificiel des algorithmes? Car, ne nous y trompons pas, entre certaines mains, ce que nous livrons volontiers, sans trop y prendre garde en consultant Google ou en allant sur Facebook et autres, pourrait servir à nous influencer sans qu’on s’en rende trop compte et nous manipuler. Luc Ferry l’explique bien en citant le rapport remis au Commissariat général à la stratégie et à la prospective, placé auprès du Premier ministre français³²: « D’abord gratuite, la plupart des données sont maintenant payantes et constituent l’actif principal d’entreprises comme Facebook ou Google. (…) Alors que les organisations produisaient et utilisaient leurs propres données, des « data brokers » revendent aujourd’hui les données d’entreprise ou encore de l’État à divers acteurs. On estime ainsi que la société américaine Axiom spécialisée dans le recueil et la vente d’informations et qui a dégagé un revenu de 1.5 milliard de dollars en 2012, possèderait en moyenne 1,500 données sur 700 millions d’individus dans le monde, autant dire sur à peu près chacun d’entre nous ! »³³. L’IA n’est pas diabolique en soi. Ce sont ceux qui la contrôlent et qui peuvent le devenir et ce même en pensant rendre des services inestimables à l’humanité.

Bien sûr, il sera légitime que les militaires veuillent obtenir des outils neurologiques alliés aux techniques de l’oubli, pour neutraliser le stress post-traumatique des combattants. Ceux et celles qui travaillent auprès de personnes souffrantes dans des situations de catastrophes naturelles, d’écrasements d’avion, de viol ou de crimes de guerres de tout genre, voudront aussi pouvoir utiliser ces neuro-techniques que seul peut permettre l’IA. Non seulement pour des personnes souffrantes mais pour estimer les chances de récidives des criminels les plus odieux, l’IA peut aussi servir à des pronostics en vue des libérations conditionnelles. Il nous faudra alors un rigoureux cadre de pensée pour accueillir dans le discernement ce merveilleux et redoutable outil : une éthique, qui soit digne du défi qui se pose déjà à nous. Mais comme laisse entendre Jean-Claude Ravet, les déclarations de principes de bonnes et mauvaises pratiques en matière d’IA, dont la Déclaration de Montréal est une expression, sont insuffisantes. Ne serait-ce qu’en évitant des comparaisons trompeuses entre intelligence humaine et ce qu’on devait appeler l’intelligibilité artificielle. « L’IA au service du vivant serait de cesser de la comparer à l’intelligence humaine, irréductible à une logique computationnelle ». En effet, un ordinateur ordonne, un « computer compute » : il ne pense pas comme un cerveau humain. Une sérieuse critique du langage s’impose³⁴. Cette éthique dépendra aussi de la mystique qui la soutient. Elle dépendra autant des poètes, des artistes et des spirituels que des sciences humaines et de la théologie. Elle dépendra des récits qui nourrissent notre imaginaire. La tradition chrétienne en offre un qui, en ce troisième millénaire, peut redevenir plus que jamais, un « croyable disponible » selon l’expression de Paul Ricoeur, car il restitue toujours l’homme dans son aspiration fondamentale à la liberté que seule la transcendance peut garantir et qui le sauve de la chosification qu’en fait le transhumanisme. La pensée de Bernard Lonergan, que nous présentera Pierrot Lambert, offre justement une rare et précieuse réflexion pour fonder la souveraineté du sujet humain pensant.

Bibliographie

Volumes

Alexandre, Laurent (Dr) : La guerre des intelligences : Intelligence Artificielle versus Intelligence Humaine, Éditions JCLattès, 2017.

Beigbeder, Frédéric : Une vie sans fin, Grasset, 2018.

Cheng, François : Cinq méditations sur la mort, autrement dit sur la vie, Albin Michel, Livre de Poche, 2013.

Cheng, François : Cinq méditations sur la beauté, Albin Michel, Livre de Poche, 2006.

Ferry, Luc : La révolution transhumaniste, Plon, 2016.

Franceschi, Patrice : Dernières nouvelles du futur, Grasset, 2018.

Guillebaud, Jean-Claude : La foi qui reste, L’Iconoclaste, 2017.

Harari, Yuval Noah : Sapiens, une brève histoire de l’humain, Albin Michel, 2015.

Harari, Yuval Noah : Homo Deus : une brève histoire de l’avenir, Albin Michel, 2017.

Naccache, Karine et Lionel : Parlez-vous cerveau? Odile Jacob, 2018.

Moreau, Patrick : Ces mots qui pensent à notre place, Liber, 2017.

Trinh Xuan Thuan & al : Face à l’univers, Pluriel, 2017.

Wolton, Dominique : Pape François, Politiques et Société, dialogue inédit, L’Observatoire, 2017.

Articles et magazines

Dans la tête des robots, Le Monde, Hors-série, mars-avril 2018, 98p.

Big Data, vers une révolution de l’intelligence? Pour la recherche, Hors-série, # 98, février-mars 2018, 120p.

L’intelligence artificielle transforme les sciences : astronomie, météorologie, chimie, santé-médecine, génétique, La Recherche, no 529, novembre 2017. www.larecherche.fr

Le corps obsolète? Relations # 792, octobre 2017.

Jean-Claude Ravet : « L’Éthique et l’intelligence artificielle », Relations, # 795. Avril 2018, p.5.

« Vers la fin des parkings » : Carlo Batti & Assaf Biderman. Pour La Science # 479, Septembre 2017, p. 49-54.

« L’ordinateur quantique fera-t-il un (flip) flop » Pour la science, Hors-série, # 97, novembre-décembre 2017, p. 112.

« La démocratie, qu’ossa donne? », Francine Pelletier, Le Devoir, 21 mars 2018.

« L’IA : la mort d’une piétonne ne doit pas mettre fins aux efforts, dit un expert », Le Devoir, Karl Rettino-Parazelli, 20 mars 2018.

« Does AI Compare to Human Intelligence? » Pierrot Lambert, Science & Technology, July 12, 2017.

« L’homme a-t-il atteint ses limites physiques? Emmanuelle Lucas, La Croix, 12 février 2018.

« Scandale Facebook : « Il faut se réveiller », Karim Benassaieh, La Presse, 20 mars 2018.

« L’intelligence artificielle ou le danger de l’anthropomorphisme », Jacques Patenaude, Le Devoir, 12 février 2018.

« 10,000 photos stockées sur un brin d’ADN : le projet # Memories in DNA propose une capsule temporelle haute technologie pour protéger l’album souvenir de l’humanité. Le Devoir, Stéphane Baillargeon, 2 février 2018.

« Comprendre les enjeux de l’intelligence artificielle en 4 points » Rédaction Start, 13 juillet 2017. Actus. https://start.lesechos.fr/actu-entrprises/index.php

Questions Méta-scientifiques, Pierre Robert, Cahiers du mont Saint-Joseph, Notre-Dame-des-Bois, Aux Éditions du Levier, Nouvelle série # 16, automne 2017.

« Stephen Hawking Predicts: « This Pill Will Change Humanity », special editorial by Jon Stewart from Forbes. Special interview with Anderson Cooper about a brain booster. November 2016.

« Les menaces technicistes de l’intelligence artificielle » Miguel Benasayag, Le Devoir, 30 novembre 2017.

L’homme a-t-il atteint ses limites physiques? » Emmanuel Lucas, La Croix, 14 février 2018.

« Intelligence artificielle forte, quatre raisons de douter », Alexis Toulet, Agora Vox, 15 septembre 2017. https://www.agoravox.fr/actualites/technologies/article/intelligence-artificielle-forte-196794

« L’ère du fichage généralisé » François Pelligrini et André Vitalis, Le Monde Diplomatique, avril 2018, p. 12.

« Le socialisme numérique », Pierre Rimbert, Le Monde Diplomatique, mars 2018, p. 2.

« Censure et chaussette roses », Pierre Rimbert, Le Monde Diplomatique, janvier 2018, p. 2.

« Fin programmée pour « Homo sapiens », Marcus D. Besnard, Le Monde Diplomatique, janvier 2018, p. 26.

¹Jacques Testart : RÉSISTER AU TRANSHUMANISME. POURQUOI ? COMMENT ? Conférence au Collège des Bernardins, 19 mai 2017. in: Critique de la raison transhumaniste, 11-34, Cerf-Patrimoines 2018.