Par Tout développement technologique suppose un financement : au stade de la recherche puis à celui du développement. Il peut être public ou privé, et en général combine les deux. On pense que c’est parfaitement rationnel. C’est en un sens vrai a priori, dans l’objectif que se proposent les acteurs ; mais ce l’est en tout cas beaucoup moins dans le résultat.
En effet, comme le montre l’histoire, le lien entre l’objectif initial de la recherche et ses effets peut être très ténu et souvent inattendu. Par exemple il faut souligner la dimension importante de la recherche militaire. Non seulement quantitativement, mais aussi qualitativement, et dans de nombreux domaines. Mais en même temps, elle peut avoir des effets totalement imprévisibles, comme le montre l’exemple spectaculaire de l’Internet, qui dérive de recherches de l’US Army. Dans un tel cas d’ailleurs, même si l’investissement initial a trouvé ensuite une rémunération, ce n’est pas en proportion de son effet : la valeur réelle de la découverte de l’Internet n’a d’ailleurs jamais fait l’objet d’une rémunération. L’investissement privé est en principe plus contraint en termes de rémunération de son résultat – mais là aussi l’inventeur ne tire pas toujours le plein profit de son invention : le PC a été inventé par IBM, mais développé par d’autres, et sur une échelle qu’IBM n’avait pas prévue.
Si on remonte dans l’histoire, on constate un rôle massivement croissant de l’innovation scientifique. Sans parler de la révolution technique médiévale, la première révolution industrielle était peu scientifique et surtout technique, à la limite d’une artisanat astucieux (machine à vapeur, textile etc.). Mais la situation a évolué en profondeur avec la deuxième révolution industrielle et des découvertes comme la chimie, l’électricité, puis le téléphone, la voiture, l’électro-ménager, l’avion etc. Investisseurs et industriels ont alors compris l’intérêt stratégique de la recherche. Mais à nouveau ce ne sont pas toujours les inventeurs ou les premiers industriels qui ont accumulé des fortunes massives. Celles-ci apparaissent surtout au stade de l’industrialisation de la découverte, et encore pas toujours. Et certains secteurs n’ont pas rentabilisé l’argent investi pendant plusieurs générations (ainsi le transport aérien). En outre et surtout il faut souligner le rôle très important de la recherche sous fonds publics, et notamment comme on l’a vu, militaire.
Toutefois, à ces diverses époques, le fait est que la recherche restait financièrement relativement peu gourmande et demandait donc relativement peu aux organismes qui la finançaient. La situation a massivement changé depuis. Internet notamment a massivement frappé les imaginations, du fait des énormes fortunes amassées en moins de 20 ans par les fondateurs des GAFAM (Google, Amazon, Facebook, Apple et Microsoft), et plus encore du fait des énormes profits de ces entreprises, notamment liés à la possibilité de créer un effet de monopole et de rente qui est unique. En effet la plupart des innovations du passé créaient une effet de monopole ou de rente dans un premier temps, mais il disparaissait assez vite avec la concurrence. La situation est différente ici. C’est en effet un jeu où celui qui impose sa norme rafle tout le marché (par acceptation générale du standard et non par une décision publique) et met ce faisant la main sur des ressources colossales. Les marges sont énormes pour le gagnant, car le marché est immense et les coûts faibles : c’est en un sens un profit de rente (comme une rente foncière ou minière), quoique d’origine différente. Dans ce cas, la rareté vient en effet du standard (en outre entretenu par la recherche) et non d’une rente physique. Mais il est vrai aussi qu’elle est plus fragile que celle-ci, car à la merci de nouveaux développements technologiques, le risque pour la firme dominante étant de voir une nouvelle invention lui faire perdre sa position centrale ; ou même le produit être surclassé par autre chose. En même temps, dans l’intervalle, les autorités de concurrence sont assez démunies face à ce phénomène. Un tel fait est probablement sans précédent dans l’histoire, même toutes proportions gardées.
Il en résulte en outre une formidable capacité d’investissement de ces firmes, et donc espèrent-elles la possibilité de réédition de leur exploit. Ce qui subsiste en revanche est la grande incertitude sur les succès non seulement techniques, mais surtouts financiers de ces recherches. On voit notamment des investissements massifs dans deux domaines : l’informatique/électronique au sens large (y compris l’intelligence artificielle) ainsi que l’Internet ; et les biotechnologies. On investit massivement parce qu’on sait (depuis 20 ans) que ce qui marche peut être formidablement payant, dans le cas des réussites, à côté d’une très grande majorité des recherches dont on sait qu’elles rendront peu ou pas. L’incertitude sur l’avenir est maximale, seule subsiste l’espérance de résultats massifs quand cela marche, sachant que c’est rare. Si donc l’économie pilote la science ou la technique, ce n’est pas de façon sûre : on joue à une roulette où les martingales larges peuvent espérer être gagnantes ; mais où le résultat vraiment payant n’est pas paramétrable.
A nouveau, de tels investissements sont par nature très différents du modèle de recherche planifié qu’on a naturellement en tête.
De telles recherches, qui sont comme on l’a vu loin d’être prévisibles dans leur effet, peuvent avoir un impact collectif majeur sur la société. D’où des inquiétudes que manifestent plusieurs ouvrages d’anticipation . On peut imaginer le rôle de tels systèmes branchés devenir central dans la vie des gens, tout en restant la propriété d’entreprises commerciales qui restent telles (et donc sans devenir un pouvoir politique au sens propre). Cela peut glisser vers une capacité de surveillance universelle, notamment de la santé et des mœurs, qui peut jouer une rôle important dans ce qu’on appelle le transhumanisme au sens large. Car cela veut dire concrètement qu’une firme peut être amenée à définir des mœurs et une forme d’éthique. Selon Carlo D’Asaro Biondo l’éthique de Google (dont il est un dirigeant) consiste à être contre toute violence, toute attaque sur les mineurs, etc. Cela peut paraître aller de soi ; mais ce même dirigeant ajoute en outre qu’il y a un fort attachement des fondateurs au respect de la diversité, au refus de discrimination raciale, sexuelle etc. Facebook fait signer une charte aux annonceurs, où domine l’idée de comportement non-haineux et du refus de toute discrimination. Là on entre dans le politique et le moral. Mais on le notera, ces objectifs éthiques sont assez conformistes : ils reflètent des thèmes déjà dominants idéologiquement. A ce stade, ces firmes ne génèrent donc pas une vision propre en la matière ; elles prennent dans la société ce qu’elles y trouvent. Mais elles lui donnent une force bien supérieure.
Ajoutons un fait apparemment trivial mais important : ces firmes sont dirigées par des personnes jeunes, sans spécificité au départ, sans formation ni expérience politique ou philosophique, a fortiori religieuse, qui ont réussi dans des proportions radicalement inimaginables au départ sur la base d’un idée géniale d’algorithme, et qui n’ont pas connu d’échec majeur dans leur vie. Cette situation est elle-même sans précédent. Dit en un mot, ce sont logiquement des gens qui spontanément ne doutent de rien. Mais qui sont très décontenancés devant les questions qui émergent, comme on l’a vu récemment avec Facebook.
Transhumanisme : l’homme augmenté
Quel rôle cela peut-il jouer en faveur du transhumanisme ? Il est dans cette perspective un mythe très puissant, car il est peut-être le seul à la dimension de l’Internet (qu’on peut décrire comme la connexion généralisée de l’humanité). Sous ses formes diverses, il attire donc des sommes énormes. Il est possible que la rentabilité finale en soit faible, mais même alors cela n’exclura pas des effets appréciables, tant financiers que sociaux. Là plus encore qu’ailleurs on cherche tous azimuts, sachant que le gros des efforts est perdu mais que le peu qui gagne est très rémunérateur.
Mais quand on dit transhumanisme il faut savoir de quoi on parle. Selon les cas le débat sera très différent. Il y a d’abord un transhumanisme ‘modéré’, type « homme augmenté ». Mais tout homme utilisant un outil, montant sur un véhicule, regardant un télescope etc., est un homme augmenté. Cela ne remet donc pas en cause la conception métaphysique de l’homme. En un sens même cela la fonde : l’homme a pour propre d’être capable d’augmentation, parce qu’il est un esprit qui dans son opération échappe en partie aux contraintes de la matière. Un être humain qui par effet biologique ou prothèse technique verrait bien mieux, courrait plus vite, calculerait beaucoup plus vite etc., resterait dans ce champ. Nous avons déjà des gens plus intelligents, plus rapides, plus beaux etc. que d’autres. Naturellement, le fait que cette capacité d’augmentation soit caractéristique de l’homme ne signifie pas qu’elle soit toujours bonne pour lui, loin de là.
Mais désormais on pourra acheter cette augmentation, et elle peut devenir cumulative. Les plus riches risquent alors d’avoir sans cesse plus de succès. Cela ne changerait rien d’essentiel à la nature de l’homme, mais poserait d’énormes problèmes sociaux. Et naturellement et surtout, ce serait un énorme marché. Ce qui accroît massivement la rationalité économique des investissements faits en la matière. On s’offusque des inégalités actuelles, mais si ces recherches débouchent (et a priori un nombre non négligeable d’entre elles le feront) on n’a donc encore rien vu. Bien sûr il pourra y avoir démocratisation ensuite – comme on l’a constaté dans le passé pour l’automobile : jugée être une provocation en 1900 car privilège des très riches, elle est devenue le symbole de la consommation de masse trois générations après. Mais rien ne dit que ce schéma se reproduira automatiquement. C’est d’autant plus vrai que contrairement aux époques antérieures nous sommes dans une économie qui prend de plus en plus conscience du fait que ses ressources sont limitées ; ce qui implique une compétition croissante pour l’accès à ces ressources rares, ce qui à son tour est un puissant facteur d’inégalité. Il peut dès lors y avoir distance croissante entre une minorité ultra performante (qui pourra alors se sentir d’une autre nature que la masse) et le reste. Inutile de dire qu’il y a là des enjeux financiers majeurs : puissance des sens, capacité intellectuelle, résistance aux maladies, performances physiques, etc. tout cela est très prometteur.
Quel peut être le sens de tels développements ? Il faut prendre en compte ici la puissance de ces mythes, leur force de fascination. On a évoqué avec le Pr Weizmann les mutations biologiques. Comme il nous l’a rappelé, un pas supplémentaire a été franchi avec le CRISPR : cela pourrait même permettre que les modifications héréditaires soient transmises aux générations suivantes. Mais c’est une technique peu coûteuse et facile à réaliser – avec le risque que cela perpétue une erreur. Et les obstacles juridiques sont minces : ces barrières sont sans poids face à la facilité d’utilisation de la technique. On peut donc considérer comme une quasi-certitude qu’elle sera activement développée. Et de façon très décentralisée, dans de vraies start-ups. En d’autres termes, à côté des mastodontes, les jeunes mammifères ont leurs chances dans la course à la richesse.
Mais comme on sait d’autres hybridations sont concevables. Le cyborg est par exemple l’idée d’une fusion de l’homme et de la machine, et l’intelligence artificielle peut être une tentative de reproduction du fonctionnement du cerveau humain à l’intérieur d’un ordinateur. Dans ces deux cas, il s’agit d’une sorte d’intrusion de l’univers mécanique et numérique à l’intérieur de la chair et de l’esprit. Mais comme la pensée, l’âme ou la conscience de l’homme utilisent des supports matériels, de tels projets sont, dans une certaine mesure, concevables même dans une perspective philosophique non matérialiste. Ils représentent alors une menace pour notre humanité dans la mesure où ils pourraient modifier notre rapport aux autres et au monde, outre bien sûr l’effet d’inégalité qu’on a relevé, qui est sans doute le plus significatif. Nos perceptions, nos sentiments, notre expérience charnelle de la réalité à travers nos sens seraient susceptibles d’être profondément transformés. Si cet interfaçage homme/machine semble enthousiasmer les partisans les plus radicaux de l’ère digitale, il suscite l’appréhension d’une très grande part de nos contemporains.
A nouveau, cela ne change pas la condition ultime de l’homme comme tel (un cyborg reste en un sens un homme avec ses vulnérabilités) mais cela peut bouleverser la société en en accentuant les traits existants. Ce n’est pas l’idée d’amélioration qui est en soi le problème, car par définition, rechercher une amélioration (un mieux, et donc quelque chose qui va plus loin dans le sens du bien) est en soi un bien ; mais à condition évidemment de savoir ce qu’est le bien. Or la sagesse chrétienne (et d’autres) nous enseigne que notre bien ultime n’est pas dans la matière et sa maitrise, qui ne sont qu’instrumentaux. Comme on voit donc, la question de fond est anthropologique. Comme le rappelle le P. Thierry Magnin , il y a ici la source d’une illusion majeure, issue de la croyance grandissante que les technologies vont libérer l’homme de ses difficultés ou même de ses limites ; ou même de dépasser toutes ses limites. L’image du cyborg invulnérable est parfaitement utopique ; car il y aura toujours des grains de sable. Mais elle offre l’illusion de sortir de la condition humaine, ce qui est propre à attirer les amateurs, et donc les budgets. Ce qui aura inévitablement certains résultats, bons ou mauvais.
Un risque existe, autre que celui de l’inégalité ; c’est celui de l’appauvrissement de l’humain. Le P. Thierry Magnin souligne par exemple que la croyance transhumaniste nous parle « d’une humain certes augmenté dans certaines fonctionnalités mais plutôt simplifié, robotisé et finalement diminué car quelque peu standardisé à partir de fonctions à optimiser ». Tout contrôler rend la vie triste. La douleur n’est pas qu’une effet physique, elle dépend de la focalisation. Quel serait l’impact des implants cérébraux sur la personnalité des hommes ainsi augmentés ? Quelle serait sa liberté ? Il n’y a pas de réponse. Mais dans la psychologie qui nous domine aujourd’hui, c’est très attractif. Et donc il y aura des budgets de recherche ; et si cela débouche, des clients.
Plus profondément, dans la réalité la mort sert à renouveler le vivant (les cellules meurent en permanence). Une société immortelle se figerait bien vite. Lacan disait que si la vie était sans fin, l’homme deviendrait fou. La mort n’est donc pas une défaite de l’humain. Dans le rôle indispensable des limites, une place est donc à faire à cette limite suprême, la mort. La sagesse conduirait donc a priori à ne pas désirer une société où elle disparaîtrait. Mais il est évident qu’en revanche il y aurait des clients.
Transhumanisme : l’homme transcendé
Mais cette importance de la perspective anthropologique est encore plus grande quand on passe au deuxième niveau du transhumanisme, car l’enjeu devient alors métaphysique. En effet, si on pousse à son terme la logique du transhumanisme, son objectif en fin de compte (son mythe) est une forme d’immortalité, en tout cas de maîtrise radicalement différente de l’homme sur lui-même et par exemple un être post-humain qui ne serait plus dépendant de son corps biologique actuel. L’hypothèse sous-jacente limite est que par la technologie on puisse donner un support différent à l’âme d’une personne, donc qu’on puisse l’appréhender comme un programme informatique au sens large et la restituer sur une base physique ou biologique. Ce transhumanisme radical est fondamentalement matérialiste. En effet, selon les conceptions spiritualistes au sens large, il est exclu qu’un procédé matériel puisse s’emparer de l’âme ou de l’esprit, notamment afin de refabriquer un être dont elle serait la mémoire et la volonté. Si donc les transhumanistes radicaux réussissaient leur opération, ce serait la preuve indiscutable que le matérialisme a raison et que les conceptions spirituelles sont fausses. Ce serait un cas exceptionnel où une réalisation scientifique trancherait de façon définitive un débat philosophique majeur.
Naturellement, même si on se situe dans un cadre de pensée matérialiste, le succès n’est en rien assuré. Rappelons tout simplement que par exemple la physique quantique nous rappelle que le réel est fondamentalement voilé : la nature n’est pas réifiable. Il y a donc semble-t-il une limite à ce qu’il est possible de faire, même en restant au niveau matérialiste. Ce qui nous est donné dépasse tout ce que nous pouvons espérer construire. Peut-être que le match entre matérialistes et croyants n’aura jamais de réponse en ce monde. Cela dit, inversement, même dans le cas où l’opération réussirait, on ne sortirait pas de la matière. L’homme augmenté même potentiellement ‘immortel’ resterait un simple dispositif technique ; il le serait même plus encore que l’homme d’autrefois, car il serait désormais démontré qu’il n’est que cela, avec la vulnérabilité que cela implique. La vulnérabilité de la matière (car la vulnérabilité ultime n’est pas celle de l’homme ou de la vie, mais celle de la matière) subsisterait intégralement : un programme ça s’efface, une machine, ça se casse – d’où la terrible angoisse qui hanterait ses bénéficiaires (erreur techniques, astéroïde malencontreux etc.). Cela n’a rien à voir avec la vie éternelle et la contemplation de Dieu…
Il en est de même de l’IA (intelligence artificielle au sens radical du terme). Fabriquer un être qui réellement penserait supposerait qu’il ait une forme de conscience. Une machine de traitement du langage ou de traduction ne connaît pas véritablement ce qu’est le sens. La conscience suppose une première personne. Une telle IA suppose qu’on ferait de la 1ère personne à partir de la 3e : on ne voit pas comment cela est possible. Sauf à nouveau si le matérialisme a raison. Mais c’est qu’alors la personne n’est pas une personne, mais un simple algorithme. Et donc en définitive, même s’ils gagnaient, en regard de leurs rêves nos matérialistes auraient perdu. Mais encore une fois, il y aura de l’argent pour explorer ces voies, beaucoup d’argent.
Enjeux et possibilités d’action
Le fait est donc que beaucoup d’argent s’investit dans ces recherches diverses…et en outre qu’elles ont des chances d’avoir certains débouchés, même s’ils diffèrent des objectifs initiaux. Il y a donc ici un enjeu majeur pour ceux qui ne partagent pas la philosophie implicite de ces recherches, qui est d’abord d’ordre politique et collectif : comme il est exclu d’aligner des investissements de cette amplitude dans un sens plus humaniste, c’est d’abord la question de la surveillance et de l’orientation de cette recherche qui est posée. Or les moyens publics (étatiques) pour ce faire sont limités, tardifs et souvent assez aveugles : pas inutiles mais partiels. Inévitablement donc, ces recherches avancerons. Et donc des entités privées (les firmes qu’on a citées) ou sous contrôle public mais dans des pays autoritaires à philosophie différente (Chine) se trouvent désormais dotées d’une capacité de bouleversement de nos sociétés qui est sans précédent en termes non seulement quantitatifs, mais qualitatifs. Sans parler des sous-produits de la recherche militaire. Nous ne pourrons dans une mesure très importante pas les en empêcher… Et ils auront beaucoup plus d’argent et de moyens intellectuels que nous.
En revanche nous pouvons tenter d’agir au niveau de la culture collective, car on l’a vu la philosophie sous-jacente en est assez pauvre ; pour faire un peu de Gramsci, la question de l’hégémonie culturelle est posée. Qui peut d’ailleurs se traduire en termes financiers, car les marchés sont très sensibles. Si en effet s’accrédite publiquement l’idée que tel ou tel comportement est répréhensible, et que les cours (de bourse) en pâtissent, les entreprises en tiennent compte ; cela peut déboucher sur une forme de pression coercitive, soit par la loi, soit par les marchés.
Ce serait encore plus vrai s’il existait à un niveau suffisant une finance sensible à ces valeurs collectives, et construite pour cela : une variable d’ISR (investissement socialement responsable), mais bien plus exigeante, car basée sur une anthropologie étoffée et solide. Notamment celle de la Doctrine sociale de l’Eglise. Une des objectifs naturels en serait de capter assez d’argent pour orienter une partie des recherches dans le bon sens. Ou au moins, surveiller les recherches des autres. Naturellement on l’a dit, la probabilité est qu’il y aurait beaucoup moins de ressources que dans la recherche dominante, et de façon écrasante. Mais moralement, ce qui compte est de faire ce qu’on a à faire. Car la leçon finale est que ces évolutions dantesques ne sont ni prévisibles ni même véritablement pilotées. Il apparaît donc que plus que jamais notre faiblesse est notre principale force, car elle nous conduit à reconnaître que nous sommes entre les mains de Dieu. Qui tire toujours un bien d’un mal et a déjà vaincu le mal… adjutorium nostrum in nomine Domini, qui fecit coelum et terram. Du pain sur la planche pour les catholiques, et plus généralement les hommes de bonne volonté.
Intervention à l’Académie d’études et de sciences sociales le 14 mars 2019, un peu abrégée.
Tout développement technologique suppose un financement : au stade de la recherche puis à celui du développement. Il peut être public ou privé, et en général combine les deux. On pense que c’est parfaitement rationnel. C’est en un sens vrai a priori, dans l’objectif que se proposent les acteurs ; mais ce l’est en tout cas beaucoup moins dans le résultat.
En effet, comme le montre l’histoire, le lien entre l’objectif initial de la recherche et ses effets peut être très ténu et souvent inattendu. Par exemple il faut souligner la dimension importante de la recherche militaire. Non seulement quantitativement, mais aussi qualitativement, et dans de nombreux domaines. Mais en même temps, elle peut avoir des effets totalement imprévisibles, comme le montre l’exemple spectaculaire de l’Internet, qui dérive de recherches de l’US Army. Dans un tel cas d’ailleurs, même si l’investissement initial a trouvé ensuite une rémunération, ce n’est pas en proportion de son effet : la valeur réelle de la découverte de l’Internet n’a d’ailleurs jamais fait l’objet d’une rémunération. L’investissement privé est en principe plus contraint en termes de rémunération de son résultat – mais là aussi l’inventeur ne tire pas toujours le plein profit de son invention : le PC a été inventé par IBM, mais développé par d’autres, et sur une échelle qu’IBM n’avait pas prévue.
Si on remonte dans l’histoire, on constate un rôle massivement croissant de l’innovation scientifique. Sans parler de la révolution technique médiévale, la première révolution industrielle était peu scientifique et surtout technique, à la limite d’une artisanat astucieux (machine à vapeur, textile etc.). Mais la situation a évolué en profondeur avec la deuxième révolution industrielle et des découvertes comme la chimie, l’électricité, puis le téléphone, la voiture, l’électro-ménager, l’avion etc. Investisseurs et industriels ont alors compris l’intérêt stratégique de la recherche. Mais à nouveau ce ne sont pas toujours les inventeurs ou les premiers industriels qui ont accumulé des fortunes massives. Celles-ci apparaissent surtout au stade de l’industrialisation de la découverte, et encore pas toujours. Et certains secteurs n’ont pas rentabilisé l’argent investi pendant plusieurs générations (ainsi le transport aérien). En outre et surtout il faut souligner le rôle très important de la recherche sous fonds publics, et notamment comme on l’a vu, militaire.
Toutefois, à ces diverses époques, le fait est que la recherche restait financièrement relativement peu gourmande et demandait donc relativement peu aux organismes qui la finançaient. La situation a massivement changé depuis. Internet notamment a massivement frappé les imaginations, du fait des énormes fortunes amassées en moins de 20 ans par les fondateurs des GAFAM (Google, Amazon, Facebook, Apple et Microsoft), et plus encore du fait des énormes profits de ces entreprises, notamment liés à la possibilité de créer un effet de monopole et de rente qui est unique. En effet la plupart des innovations du passé créaient une effet de monopole ou de rente dans un premier temps, mais il disparaissait assez vite avec la concurrence. La situation est différente ici. C’est en effet un jeu où celui qui impose sa norme rafle tout le marché (par acceptation générale du standard et non par une décision publique) et met ce faisant la main sur des ressources colossales. Les marges sont énormes pour le gagnant, car le marché est immense et les coûts faibles : c’est en un sens un profit de rente (comme une rente foncière ou minière), quoique d’origine différente. Dans ce cas, la rareté vient en effet du standard (en outre entretenu par la recherche) et non d’une rente physique. Mais il est vrai aussi qu’elle est plus fragile que celle-ci, car à la merci de nouveaux développements technologiques, le risque pour la firme dominante étant de voir une nouvelle invention lui faire perdre sa position centrale ; ou même le produit être surclassé par autre chose. En même temps, dans l’intervalle, les autorités de concurrence sont assez démunies face à ce phénomène. Un tel fait est probablement sans précédent dans l’histoire, même toutes proportions gardées.
Il en résulte en outre une formidable capacité d’investissement de ces firmes, et donc espèrent-elles la possibilité de réédition de leur exploit. Ce qui subsiste en revanche est la grande incertitude sur les succès non seulement techniques, mais surtouts financiers de ces recherches. On voit notamment des investissements massifs dans deux domaines : l’informatique/électronique au sens large (y compris l’intelligence artificielle) ainsi que l’Internet ; et les biotechnologies. On investit massivement parce qu’on sait (depuis 20 ans) que ce qui marche peut être formidablement payant, dans le cas des réussites, à côté d’une très grande majorité des recherches dont on sait qu’elles rendront peu ou pas. L’incertitude sur l’avenir est maximale, seule subsiste l’espérance de résultats massifs quand cela marche, sachant que c’est rare. Si donc l’économie pilote la science ou la technique, ce n’est pas de façon sûre : on joue à une roulette où les martingales larges peuvent espérer être gagnantes ; mais où le résultat vraiment payant n’est pas paramétrable.
A nouveau, de tels investissements sont par nature très différents du modèle de recherche planifié qu’on a naturellement en tête.
De telles recherches, qui sont comme on l’a vu loin d’être prévisibles dans leur effet, peuvent avoir un impact collectif majeur sur la société. D’où des inquiétudes que manifestent plusieurs ouvrages d’anticipation . On peut imaginer le rôle de tels systèmes branchés devenir central dans la vie des gens, tout en restant la propriété d’entreprises commerciales qui restent telles (et donc sans devenir un pouvoir politique au sens propre). Cela peut glisser vers une capacité de surveillance universelle, notamment de la santé et des mœurs, qui peut jouer une rôle important dans ce qu’on appelle le transhumanisme au sens large. Car cela veut dire concrètement qu’une firme peut être amenée à définir des mœurs et une forme d’éthique. Selon Carlo D’Asaro Biondo l’éthique de Google (dont il est un dirigeant) consiste à être contre toute violence, toute attaque sur les mineurs, etc. Cela peut paraître aller de soi ; mais ce même dirigeant ajoute en outre qu’il y a un fort attachement des fondateurs au respect de la diversité, au refus de discrimination raciale, sexuelle etc. Facebook fait signer une charte aux annonceurs, où domine l’idée de comportement non-haineux et du refus de toute discrimination. Là on entre dans le politique et le moral. Mais on le notera, ces objectifs éthiques sont assez conformistes : ils reflètent des thèmes déjà dominants idéologiquement. A ce stade, ces firmes ne génèrent donc pas une vision propre en la matière ; elles prennent dans la société ce qu’elles y trouvent. Mais elles lui donnent une force bien supérieure.
Ajoutons un fait apparemment trivial mais important : ces firmes sont dirigées par des personnes jeunes, sans spécificité au départ, sans formation ni expérience politique ou philosophique, a fortiori religieuse, qui ont réussi dans des proportions radicalement inimaginables au départ sur la base d’un idée géniale d’algorithme, et qui n’ont pas connu d’échec majeur dans leur vie. Cette situation est elle-même sans précédent. Dit en un mot, ce sont logiquement des gens qui spontanément ne doutent de rien. Mais qui sont très décontenancés devant les questions qui émergent, comme on l’a vu récemment avec Facebook.
Transhumanisme : l’homme augmenté
Quel rôle cela peut-il jouer en faveur du transhumanisme ? Il est dans cette perspective un mythe très puissant, car il est peut-être le seul à la dimension de l’Internet (qu’on peut décrire comme la connexion généralisée de l’humanité). Sous ses formes diverses, il attire donc des sommes énormes. Il est possible que la rentabilité finale en soit faible, mais même alors cela n’exclura pas des effets appréciables, tant financiers que sociaux. Là plus encore qu’ailleurs on cherche tous azimuts, sachant que le gros des efforts est perdu mais que le peu qui gagne est très rémunérateur.
Mais quand on dit transhumanisme il faut savoir de quoi on parle. Selon les cas le débat sera très différent. Il y a d’abord un transhumanisme ‘modéré’, type « homme augmenté ». Mais tout homme utilisant un outil, montant sur un véhicule, regardant un télescope etc., est un homme augmenté. Cela ne remet donc pas en cause la conception métaphysique de l’homme. En un sens même cela la fonde : l’homme a pour propre d’être capable d’augmentation, parce qu’il est un esprit qui dans son opération échappe en partie aux contraintes de la matière. Un être humain qui par effet biologique ou prothèse technique verrait bien mieux, courrait plus vite, calculerait beaucoup plus vite etc., resterait dans ce champ. Nous avons déjà des gens plus intelligents, plus rapides, plus beaux etc. que d’autres. Naturellement, le fait que cette capacité d’augmentation soit caractéristique de l’homme ne signifie pas qu’elle soit toujours bonne pour lui, loin de là.
Mais désormais on pourra acheter cette augmentation, et elle peut devenir cumulative. Les plus riches risquent alors d’avoir sans cesse plus de succès. Cela ne changerait rien d’essentiel à la nature de l’homme, mais poserait d’énormes problèmes sociaux. Et naturellement et surtout, ce serait un énorme marché. Ce qui accroît massivement la rationalité économique des investissements faits en la matière. On s’offusque des inégalités actuelles, mais si ces recherches débouchent (et a priori un nombre non négligeable d’entre elles le feront) on n’a donc encore rien vu. Bien sûr il pourra y avoir démocratisation ensuite – comme on l’a constaté dans le passé pour l’automobile : jugée être une provocation en 1900 car privilège des très riches, elle est devenue le symbole de la consommation de masse trois générations après. Mais rien ne dit que ce schéma se reproduira automatiquement. C’est d’autant plus vrai que contrairement aux époques antérieures nous sommes dans une économie qui prend de plus en plus conscience du fait que ses ressources sont limitées ; ce qui implique une compétition croissante pour l’accès à ces ressources rares, ce qui à son tour est un puissant facteur d’inégalité. Il peut dès lors y avoir distance croissante entre une minorité ultra performante (qui pourra alors se sentir d’une autre nature que la masse) et le reste. Inutile de dire qu’il y a là des enjeux financiers majeurs : puissance des sens, capacité intellectuelle, résistance aux maladies, performances physiques, etc. tout cela est très prometteur.
Quel peut être le sens de tels développements ? Il faut prendre en compte ici la puissance de ces mythes, leur force de fascination. On a évoqué avec le Pr Weizmann les mutations biologiques. Comme il nous l’a rappelé, un pas supplémentaire a été franchi avec le CRISPR : cela pourrait même permettre que les modifications héréditaires soient transmises aux générations suivantes. Mais c’est une technique peu coûteuse et facile à réaliser – avec le risque que cela perpétue une erreur. Et les obstacles juridiques sont minces : ces barrières sont sans poids face à la facilité d’utilisation de la technique. On peut donc considérer comme une quasi-certitude qu’elle sera activement développée. Et de façon très décentralisée, dans de vraies start-ups. En d’autres termes, à côté des mastodontes, les jeunes mammifères ont leurs chances dans la course à la richesse.
Mais comme on sait d’autres hybridations sont concevables. Le cyborg est par exemple l’idée d’une fusion de l’homme et de la machine, et l’intelligence artificielle peut être une tentative de reproduction du fonctionnement du cerveau humain à l’intérieur d’un ordinateur. Dans ces deux cas, il s’agit d’une sorte d’intrusion de l’univers mécanique et numérique à l’intérieur de la chair et de l’esprit. Mais comme la pensée, l’âme ou la conscience de l’homme utilisent des supports matériels, de tels projets sont, dans une certaine mesure, concevables même dans une perspective philosophique non matérialiste. Ils représentent alors une menace pour notre humanité dans la mesure où ils pourraient modifier notre rapport aux autres et au monde, outre bien sûr l’effet d’inégalité qu’on a relevé, qui est sans doute le plus significatif. Nos perceptions, nos sentiments, notre expérience charnelle de la réalité à travers nos sens seraient susceptibles d’être profondément transformés. Si cet interfaçage homme/machine semble enthousiasmer les partisans les plus radicaux de l’ère digitale, il suscite l’appréhension d’une très grande part de nos contemporains.
A nouveau, cela ne change pas la condition ultime de l’homme comme tel (un cyborg reste en un sens un homme avec ses vulnérabilités) mais cela peut bouleverser la société en en accentuant les traits existants. Ce n’est pas l’idée d’amélioration qui est en soi le problème, car par définition, rechercher une amélioration (un mieux, et donc quelque chose qui va plus loin dans le sens du bien) est en soi un bien ; mais à condition évidemment de savoir ce qu’est le bien. Or la sagesse chrétienne (et d’autres) nous enseigne que notre bien ultime n’est pas dans la matière et sa maitrise, qui ne sont qu’instrumentaux. Comme on voit donc, la question de fond est anthropologique. Comme le rappelle le P. Thierry Magnin , il y a ici la source d’une illusion majeure, issue de la croyance grandissante que les technologies vont libérer l’homme de ses difficultés ou même de ses limites ; ou même de dépasser toutes ses limites. L’image du cyborg invulnérable est parfaitement utopique ; car il y aura toujours des grains de sable. Mais elle offre l’illusion de sortir de la condition humaine, ce qui est propre à attirer les amateurs, et donc les budgets. Ce qui aura inévitablement certains résultats, bons ou mauvais.
Un risque existe, autre que celui de l’inégalité ; c’est celui de l’appauvrissement de l’humain. Le P. Thierry Magnin souligne par exemple que la croyance transhumaniste nous parle « d’une humain certes augmenté dans certaines fonctionnalités mais plutôt simplifié, robotisé et finalement diminué car quelque peu standardisé à partir de fonctions à optimiser ». Tout contrôler rend la vie triste. La douleur n’est pas qu’une effet physique, elle dépend de la focalisation. Quel serait l’impact des implants cérébraux sur la personnalité des hommes ainsi augmentés ? Quelle serait sa liberté ? Il n’y a pas de réponse. Mais dans la psychologie qui nous domine aujourd’hui, c’est très attractif. Et donc il y aura des budgets de recherche ; et si cela débouche, des clients.
Plus profondément, dans la réalité la mort sert à renouveler le vivant (les cellules meurent en permanence). Une société immortelle se figerait bien vite. Lacan disait que si la vie était sans fin, l’homme deviendrait fou. La mort n’est donc pas une défaite de l’humain. Dans le rôle indispensable des limites, une place est donc à faire à cette limite suprême, la mort. La sagesse conduirait donc a priori à ne pas désirer une société où elle disparaîtrait. Mais il est évident qu’en revanche il y aurait des clients.
Transhumanisme : l’homme transcendé
Mais cette importance de la perspective anthropologique est encore plus grande quand on passe au deuxième niveau du transhumanisme, car l’enjeu devient alors métaphysique. En effet, si on pousse à son terme la logique du transhumanisme, son objectif en fin de compte (son mythe) est une forme d’immortalité, en tout cas de maîtrise radicalement différente de l’homme sur lui-même et par exemple un être post-humain qui ne serait plus dépendant de son corps biologique actuel. L’hypothèse sous-jacente limite est que par la technologie on puisse donner un support différent à l’âme d’une personne, donc qu’on puisse l’appréhender comme un programme informatique au sens large et la restituer sur une base physique ou biologique. Ce transhumanisme radical est fondamentalement matérialiste. En effet, selon les conceptions spiritualistes au sens large, il est exclu qu’un procédé matériel puisse s’emparer de l’âme ou de l’esprit, notamment afin de refabriquer un être dont elle serait la mémoire et la volonté. Si donc les transhumanistes radicaux réussissaient leur opération, ce serait la preuve indiscutable que le matérialisme a raison et que les conceptions spirituelles sont fausses. Ce serait un cas exceptionnel où une réalisation scientifique trancherait de façon définitive un débat philosophique majeur.
Naturellement, même si on se situe dans un cadre de pensée matérialiste, le succès n’est en rien assuré. Rappelons tout simplement que par exemple la physique quantique nous rappelle que le réel est fondamentalement voilé : la nature n’est pas réifiable. Il y a donc semble-t-il une limite à ce qu’il est possible de faire, même en restant au niveau matérialiste. Ce qui nous est donné dépasse tout ce que nous pouvons espérer construire. Peut-être que le match entre matérialistes et croyants n’aura jamais de réponse en ce monde. Cela dit, inversement, même dans le cas où l’opération réussirait, on ne sortirait pas de la matière. L’homme augmenté même potentiellement ‘immortel’ resterait un simple dispositif technique ; il le serait même plus encore que l’homme d’autrefois, car il serait désormais démontré qu’il n’est que cela, avec la vulnérabilité que cela implique. La vulnérabilité de la matière (car la vulnérabilité ultime n’est pas celle de l’homme ou de la vie, mais celle de la matière) subsisterait intégralement : un programme ça s’efface, une machine, ça se casse – d’où la terrible angoisse qui hanterait ses bénéficiaires (erreur techniques, astéroïde malencontreux etc.). Cela n’a rien à voir avec la vie éternelle et la contemplation de Dieu…
Il en est de même de l’IA (intelligence artificielle au sens radical du terme). Fabriquer un être qui réellement penserait supposerait qu’il ait une forme de conscience. Une machine de traitement du langage ou de traduction ne connaît pas véritablement ce qu’est le sens. La conscience suppose une première personne. Une telle IA suppose qu’on ferait de la 1ère personne à partir de la 3e : on ne voit pas comment cela est possible. Sauf à nouveau si le matérialisme a raison. Mais c’est qu’alors la personne n’est pas une personne, mais un simple algorithme. Et donc en définitive, même s’ils gagnaient, en regard de leurs rêves nos matérialistes auraient perdu. Mais encore une fois, il y aura de l’argent pour explorer ces voies, beaucoup d’argent.
Enjeux et possibilités d’action
Le fait est donc que beaucoup d’argent s’investit dans ces recherches diverses…et en outre qu’elles ont des chances d’avoir certains débouchés, même s’ils diffèrent des objectifs initiaux. Il y a donc ici un enjeu majeur pour ceux qui ne partagent pas la philosophie implicite de ces recherches, qui est d’abord d’ordre politique et collectif : comme il est exclu d’aligner des investissements de cette amplitude dans un sens plus humaniste, c’est d’abord la question de la surveillance et de l’orientation de cette recherche qui est posée. Or les moyens publics (étatiques) pour ce faire sont limités, tardifs et souvent assez aveugles : pas inutiles mais partiels. Inévitablement donc, ces recherches avancerons. Et donc des entités privées (les firmes qu’on a citées) ou sous contrôle public mais dans des pays autoritaires à philosophie différente (Chine) se trouvent désormais dotées d’une capacité de bouleversement de nos sociétés qui est sans précédent en termes non seulement quantitatifs, mais qualitatifs. Sans parler des sous-produits de la recherche militaire. Nous ne pourrons dans une mesure très importante pas les en empêcher… Et ils auront beaucoup plus d’argent et de moyens intellectuels que nous.
En revanche nous pouvons tenter d’agir au niveau de la culture collective, car on l’a vu la philosophie sous-jacente en est assez pauvre ; pour faire un peu de Gramsci, la question de l’hégémonie culturelle est posée. Qui peut d’ailleurs se traduire en termes financiers, car les marchés sont très sensibles. Si en effet s’accrédite publiquement l’idée que tel ou tel comportement est répréhensible, et que les cours (de bourse) en pâtissent, les entreprises en tiennent compte ; cela peut déboucher sur une forme de pression coercitive, soit par la loi, soit par les marchés.
Ce serait encore plus vrai s’il existait à un niveau suffisant une finance sensible à ces valeurs collectives, et construite pour cela : une variable d’ISR (investissement socialement responsable), mais bien plus exigeante, car basée sur une anthropologie étoffée et solide. Notamment celle de la Doctrine sociale de l’Eglise. Une des objectifs naturels en serait de capter assez d’argent pour orienter une partie des recherches dans le bon sens. Ou au moins, surveiller les recherches des autres. Naturellement on l’a dit, la probabilité est qu’il y aurait beaucoup moins de ressources que dans la recherche dominante, et de façon écrasante. Mais moralement, ce qui compte est de faire ce qu’on a à faire. Car la leçon finale est que ces évolutions dantesques ne sont ni prévisibles ni même véritablement pilotées. Il apparaît donc que plus que jamais notre faiblesse est notre principale force, car elle nous conduit à reconnaître que nous sommes entre les mains de Dieu. Qui tire toujours un bien d’un mal et a déjà vaincu le mal… adjutorium nostrum in nomine Domini, qui fecit coelum et terram. Du pain sur la planche pour les catholiques, et plus généralement les hommes de bonne volonté.
Pierre de Lauzun
Intervention à l’Académie d’études et de sciences sociales le 14 mars 2019, un peu abrégée.
