IDF_Academie_Sciences_Morales_Politiques_N BIS (00000003)

Mardi 15 février 2022
Des Académiciens en Sorbonne
Grand Amphithéâtre de la Sorbonne

10h-11h45

Peut-on, doit-on augmenter l’humain ?
La société face aux nouvelles technologies

Daniel Andler
Membre de l’Académie des sciences morales et politiques

Les inscriptions des classes à cette conférence-débat sont coordonnées par le Rectorat de Paris en relation avec les Rectorats de Créteil et de Versailles.
Si vous souhaitez y assister, merci d’adresser un mél à l’Académie (marianne.tomi@asmp.fr).

Le conférencier

Daniel Andler a d’abord été mathématicien, spécialiste de théorie des modèles (une branche de la logique) ; titulaire d’un PhD de l’Université de Californie à Berkeley et d’un doctorat d’Etat de l’Université Paris 7, il a enseigné les mathématiques à Paris 7 et dans d’autres universités pendant une vingtaine d’années. Il s’est ensuite orienté vers la philosophie des sciences, en se spécialisant dans les sciences cognitives, sur lesquelles portent ses principaux travaux. Nommé professeur de philosophie à l’Université Charles-de-Gaulle – Lille III en 1989, il a poursuivi sa carrière philosophique à l’Université Paris X – Nanterre (1993-1998), au CNRS (1998-9), puis à l’Université Paris-Sorbonne (anciennement Paris IV, désormais Sorbonne Université) à partir de 1999. Il y a créé l’unité de recherche « Sciences, normes, démocratie » (aujourd’hui UMR 8011) et en est maintenant professeur émérite. Il a été en parallèle membre senior de l’Institut universitaire de France de 2007 à 2012. À l’École normale supérieure, il a fondé en 2001 et dirigé le Département d’études cognitives. En 2006, il a créé le Groupe Compas, un think-tank consacré aux rapports entre éducation, cognition et nouvelles technologies.

Il a été élu à l’Académie des sciences morales et politiques en décembre 2016, où il dirige depuis 2019 le projet « Technologies convergentes et sagesse collective », qui se propose d’approcher de manière transversale l’étude des technologies émergentes – les technologies de l’information et de la communication, en y incluant l’intelligence artificielle et la robotique, les biotechnologies, les technologies dérivées des sciences cognitives et des neurosciences et les nanotechnologies. Tout en apportant des outils extraordinaires, elles se propagent à toute allure et prennent le contrôle sur des biens essentiels du domaine privé tels que la maîtrise du temps, la privauté, l’attention, l’intimité, l’identité et confisquent au profit d’organismes privés transnationaux les prérogatives des Etats et des pouvoirs publics, de même qu’elles transforment de manière insidieuse des institutions démocratiques en instruments de surveillance, voire d’asservissement.

La conférence

En une vingtaine d’années une avalanche d’innovations technologiques – issues de la génétique, de l’informatique, des neurosciences cognitives, des nanosciences – a fait irruption dans nos existences, introduisant de profonds changements dans notre quotidien et dans le fonctionnement des sociétés. Leur liste est longue : génie génétique, tests génétiques, smartphone, réseaux sociaux, internet et ses innombrables outils – google, wikipedia, youtube, netflix, waze, paypal, sites de rencontre, TousAntiCovid…–, intelligence artificielle, reconnaissance faciale, prothèses motrices et sensorielles, robotique chirurgicale, armes létales autonomes, blockchain, internet des objets, justice prédictive, télé-médecine, textiles intelligents, etc.

Sans doute n’est-ce pas la première fois dans l’histoire de l’humanité qu’une invention change le cours des choses – qu’on songe à l’imprimerie, à la machine à vapeur, au chemin de fer, à l’électricité, au téléphone, à l’avion, à la médecine scientifique, à l’automobile, à la télévision… Mais jamais autant d’inventions ne sont apparues en si peu de temps, jamais elles n’ont envahi si rapidement et si largement la population humaine, jamais autant de pratiques individuelles et sociales n’ont été à ce point chamboulées du jour au lendemain, voire rendues caduques et remplacées par des procédures inimaginables jusque-là.

Deux facteurs contribuent à donner aux technologies du XXIe siècle leur impact sans précédent. D’abord elles font système : elles ont besoin des unes des autres pour prospérer, tant sur le plan technique et scientifique que sur le plan économique et envahissent la société en bloc. Ensuite, si elles apportent des outils et des ressources en tout genre, elles ne font pas que cela : certaines touchent à l’être humain lui-même et peuvent non pas simplement l’aider à atteindre ses objectifs, mais affecter sa nature. Le génie génétique peut désormais modifier durablement les cellules d’un individu, le délivrant ou le protégeant de pathologies ou lui conférant même des propriétés nouvelles ; et quoi que ce soit prohibé, ce génome modifié peut même, techniquement, être transmis à la descendance, ouvrant la perspective d’une modification du patrimoine génétique de l’espèce humaine. Les neurosciences cognitives et la neuropharmacologie peuvent intervenir directement sur le cerveau pour remédier à des troubles psychiques ou moteurs, pour induire des pensées, des désirs ou des émotions, et commencent à inspecter notre « for intérieur », notre subjectivité. Enfin, à un autre niveau, la « numérisphère » (l’ensemble des processus basés sur le numérique : internet, smartphone, réseaux sociaux, etc.) n’a pas seulement transformé les conditions de réalisation de toutes nos tâches intellectuelles, petites et grandes, elle a commencé à altérer durablement notre vie intérieure, surtout chez les « digital natives » que vous êtes et qui seront très bientôt la majorité de la population : notre attention est captée, nos pensées canalisées, notre intimité violée, notre relation à autrui formatée, sans du reste que ces phénomènes soient encore bien compris.

L’une ou l’autre de ces trois voies – génétique, cérébrale ou numérique – peut donc apporter à notre nature quelque chose qu’elle n’a pas. Qu’il s’agisse de compenser un manque ou de conférer une aptitude hors du commun, il semble se produire une sorte d’augmentation de l’humain – c’est flagrant pour la voie génétique, moins clair pour les deux autres. D’où deux questions liées : quelles augmentations sont-elles effectivement possibles, lesquelles sont permises ou souhaitables ? Ces questions mêlent science, technologie et éthique, et sont au cœur du débat sur le transhumanisme. Beaucoup de spécialistes par exemple acceptent les interventions visant à guérir ou à prévenir des affections graves, et rejettent celles qui confèrent un avantage physique ou cognitif, ou qui permettent de choisir pour sa progéniture une constitution avantageuse. Mais en pratique comme en théorie, la frontière entre les deux objectifs est difficile à tracer. C’est à ce point que l’éthique vivante – la recherche du bien en situation d’incertitude – doit se mettre en branle.

C‘est l’un des nombreux chantiers qu’elle doit investir aujourd’hui. Pour chaque technologie, peut-on distinguer une bonne fois les bons des mauvais usages, et conserver les premiers tout en limitant les seconds ? Quel équilibre trouver entre l’intérêt des individus et celui de la société ? À qui revient effectivement et à qui devrait revenir d’en décider, sachant que l’ensemble de la numérisphère et une part croissante des biotechnologies sont entre les mains d’entreprises géantes échappant largement au contrôle démocratique ? Peut-on brider leur développement sans risquer de se priver de solutions au moins partielles aux problèmes majeurs de notre époque – changement climatique, mondialisation, désordre géostratégique, recul démocratique ? Un immense effort est en cours pour rétablir un équilibre entre la logique des entreprises et l’initiative collective désintéressée, et pour limiter l’emprise des régimes totalitaires, mais la partie n’est pas gagnée.

Les nouvelles technologies soulèvent donc une multitude d’interrogations, tant théoriques que pratiques, qui appellent les efforts conjoints de nombreuses disciplines et l’implication des citoyens. Pour les générations nées au XXI^e siècle, elles constituent un double défi : comprendre le monde tel qu’elles l’ont transformé, alors que les générations antérieures leur lèguent des conceptions forgées avant leur survenue ; et les mettre au service des petites et grandes causes du siècle qui est le leur. Vaste programme ! Nous avons commencé le travail et ferons notre possible pour vous accompagner, mais l’essentiel reste à faire. Courage !

Mots-clés : bioéthique – biotechnologies – anthropologie numérique – internet – intelligence artificielle
– incertitude – éthique – bien commun – sagesse collective

En résonance avec les programmes

Lycée, Enseignement moral et civique, classe de première : « Les recompositions du lien social ». Classe terminale : « Repenser et faire vivre la démocratie »
Lycée, voie générale, spécialité « Humanités, Littérature, Philosophie », classe terminale : « L’humanité en question » (l’humain et ses limites)». “Aujourd’hui, les nouvelles possibilités d’intervention sur l’homme lui-même (biotechnologies, technologies numériques… soulèvent le problème de la définition de l’humain et de la vie humaine désirable ? (…) Quelle sorte de bonheur et quelle durée de vie pour un homme entièrement “réparé”, voire “augmenté” ?”
Lycée, voie générale, spécialité Numérique et sciences informatiques.
Lycée, voie générale, spécialité Histoire Géographie Géopolitique et Sciences politiques, classe de 1^ère: T2, Analyser les dynamiques des puissances internationales, notamment : « Les nouvelles technologies : puissance des géants du numérique (GAFAM, BATX…), impuissance des États et des organisations internationales ? ».
Lycée, voie générale, Philosophie, classe terminale : la nature, la science, la technique, la vérité.
Lycée, voie technologique, Philosophie : la nature, la technique, la vérité.
Lycée, voie générale et technologique : Enseignement optionnel Santé et social en seconde GT, pôle « Santé et innovations ».
Lycée, voie technologique, série Sciences et technologies de la santé et du social (ST2S) : Sciences et Techniques sanitaires et sociales, programmes de 1^ère santé bien-être et cohésion sociale et programme de terminale : politiques, dispositifs de santé publique et d’action sociale).
Lycée, voie technologique, série Sciences et technologies de la santé et du social (ST2S) : spécialité Biologie Physiopathologie humaine, cycle terminal.
Lycée, voie générale, Enseignement scientifique : “Une histoire du vivant – L’être humain peut-il externaliser son « intelligence ? ».
Lycée, voie générale, spécialité SVT, cycle terminal: « Corps humain et santé» (les enjeux de santé individuelle et collective).
Lycée, voie technologique, série sciences et technologies du laboratoire (STL) : spécialité Biochimie Biologie, cycle terminal.

Pistes de réflexion

– Quels sont les dangers moraux et politiques que soulève l’usage croissant du numérique et de l’intelligence artificielle dans tous les domaines de la vie, sur le plan individuel comme sur le plan collectif ?
– Doit-on faire tout ce qu’il est possible de faire techniquement parlant ? Doit-on désirer le plus ou doit-on désirer le mieux pour l’humanité ?
– Comment faire en sorte que l’innovation de pointe se développe au bénéfice du plus grand nombre tout en faisant droit aux normes éthiques et aux enjeux de société ?
– Sommes-nous en train d’assister à une mutation de la définition de l’humain ?
– L’intelligence artificielle peut-elle rendre compte de la complexité de l’être humain ? Peut-elle à son tour réduire celle-ci en « machinisant » l’humain ?
– Les machines peuvent-elles être rendues « intelligentes » et, potentiellement, entrer en concurrence avec l’intelligence humaine ?
– Comment l’individu et la société peuvent-ils se prémunir de risques dont il n’ont pas toujours une conscience et une compréhension claires ? Comment départager le bénéfice de la contrainte ? Comment faire entendre une voix raisonnable face à des investissements et à des intérêts industriels et financiers colossaux ?
– Avez-vous pensé qu’un jour vous pourriez être confronté à une décision à prendre concernant vos données personnelle, concernant votre génome ? Quelles questions vous poserez-vous pour prendre votre décision ?
– Que risquerait de perdre l’individu que l’on voudrait “améliorer” techniquement parlant ?

Matière à penser (citations pour aiguiser la réflexion)

« En fin des comptes le parfait ouvrier décida qu’à celui qui ne pouvait rien recevoir en propre serait commun tout ce qui avait été donné de particulier à chaque être isolément. Il prit donc l’homme, cette œuvre indistinctement imagée, et l’ayant placé au milieu du monde, il lui adressa la parole en ces termes : “Si nous ne t’avons donné, Adam, ni une place déterminée, ni un aspect qui te soit propre, ni aucun don particulier, c’est afin que la place, l’aspect, les dons que toi-même aurais souhaités, tu les aies et tu les possèdes selon ton vœu, à ton idée. Pour les autres leur nature définie est tenue en bride par des lois que nous avons prescrites : toi, aucune restriction ne te bride, c’est to propre jugement, auquel je t’ai confié, qui te permettra de définir ta nature. (..). Tu pourras dégénérer en formes inférieures, qui sont bestiales ; tu pourras, par décision de ton esprit, te régénérer en formes supérieures, qui sont divines.” »
Pic de la Mirandole, De la dignité de l’homme.

« Le pire n’est pas certain mais le meilleur reste possible »
Edgar Morin

« Avant la gouvernance des algorithmes, la vie privée de chacun ne devenait publique que s’il le décidait. Avec elle, ce verrou saute. Les avantages et les inconvénients qu’il en tire sont la question que chacun doit se poser. »
Serge Tisseron, Rapport de l’Académie de Technologie, Big Data, Questions éthiques, 2019, p.56.

Pour aller plus loin

Site personnel de Daniel Andler

« Où va l’intelligence artificielle ? », intervention au Colloque « Mythes et Machines, robotique et intelligence artificielle » co-organisé par l’Académie des sciences et l’académie des sciences morales et politiques le 27 novembre 2021.
TESaCo, ” Technologies émergentes et Sagesse collective”, cycle d’études (2019-2022) coordonné par Daniel Andler à l’Académie des sciences morales et politiques
-Les Cahiers de TESaCo n°1 (février 2021), Technologies émergentes : comprendre, faire comprendre, maîtriser. Les conditions d’une sagesse collective ; lire notamment Célia Zolynski, “Interactions Humains-Machine : quel cadre juridique pour demain ? ” (p.35-40), Daniel Kaplan, “De la toxicité de certains termes associés à “technologie” : impact, éthique, problème, solutions, usage…” (p.47-52), Patrick Couvreur, “Traiter les maladies graves à l’aide de nanomédicaments : pour un Homme réparé mais pas augmenté” (p.87-94).
-Les Cahiers de TESaCo n°2 (mai 2021), Données génétiques, droit à la santé, management algorithmique, éthique et autonomie en IA et robotique, Intelligence et sagesse collectives.
– Les Cahiers de TESaCo n°3 ( 2022)
« D’une économie de l’attention à une culture de l’attention -15 propositions pour reprendre le contrôle de notre attention et favoriser la capacité à penser par soi » version provisoire de libre blanc élaboré par TESaCo et #Leplusimportant, octobre 2021
« Protéger la démocratie à l’ère des réseaux sociaux – 25 propositions pour réguler l’espace publique numérique et préserver l’esprit critique et la délibération collective » (#Leplusimportant), version provisoire de Livre blanc, octobre 2021.
Rapport Big Data (2019) de l’Académie de Technologie, en particulier l’article de Serge Tisseron, “Du désir d’extimité à la liberté surveillée des algorithmes” (p.39 -56).
Michelle Bachelet, Les droits de l’homme à l’ère du numérique : peuvent-ils changer les choses ?, Discours liminaire de la Haute-Commissaire des Nations unies aux droits de l’homme, Japan Society, New York, 17 octobre 2019.