IA : FACE À LA DÉMESURE, LE TEMPS DE LA RÉVOLTE DÉMOCRATIQUE

Manifeste "1H" pour une puissance technologique sous contrôle démocratique

L’intelligence artificielle est une révolution. Il ne s’agit pas de l’arrêter mais de décider collectivement de ce que nous voulons en faire.

Les GAFAM (Google, Amazon, Facebook, Apple, Microsoft), Nvidia, SpaceX, les BATX (Baidu, Alibaba, Tencent, Xiaomi) maîtrisent les ressources technologiques et stratégiques, et concentrent des moyens financiers, des données et des infrastructures d’une ampleur inédite. Ces entreprises, véritables États dans les États, influencent déjà les usages, les normes, les dépendances, les choix collectifs, notre manière de travailler, d’apprendre, de nous informer.

Quand une telle puissance ne rencontre plus de contre-pouvoir à sa mesure, c’est l’équilibre même de nos démocraties qui est menacé.

Dès lors, la question n’est plus seulement de savoir ce que ces technologies peuvent faire, mais jusqu’où nous acceptons de laisser ceux qui les contrôlent décider à notre place. 

Quand l’IA devient un pouvoir

Beaucoup de discours et de prises de position sur l’IA portent, il ne faut pas s’y tromper, une vision du monde, parfois, apocalyptique. C’est ce que T. Gebru et É.P. Torres ont cherché à mettre au jour en regroupant, sous l’acronyme T.E.S.C.R.E.A.L., plusieurs courants : Transhumanisme, Extropianisme, Singularitarisme, Cosmisme, Rationalisme, Altruisme efficace, Longtermisme1.

Si certains de ces courants voient dans l’IA la possibilité de résoudre ce que nous sommes incapables de traiter, d’autres, dans leurs expressions les plus radicales, portent un véritable projet politique : remplacer la délibération par le calcul algorithmique, le doute démocratique par la certitude technicienne, le gouvernement des personnes par l’administration des systèmes. D’autres courants encore, comme la Néoréaction ou Dark Enlightenment, vont plus loin et appellent à l’effacement des démocraties libérales au profit d’un ordre politique autoritaire.

Reprendre la main

Quand la concentration technologique s’affranchit des mécanismes démocratiques et de toute exigence éthique, la démocratie commence à perdre la main.

Si l’Europe a déjà commencé à réguler, avec le RGPD, le Digital Markets Act, le Digital Services Act et l’AI Act, cela ne suffira pas. Il faut investir, lourdement : dans nos infrastructures, notre recherche, nos entreprises, nos modèles ouverts et dans l’éducation.

Ce que nous voulons, c’est une Europe souveraine dans ces technologies. Une Europe capable d’innover sans renoncer à la dignité de la personne, à l’État de droit, au libre arbitre, à la justice.

Face au "H+" transhumaniste, nous opposons "1H" : l’Humain dans son entièreté, sa singularité et son altérité. Ni dissous dans la technique, ni dépossédé de lui-même. Un Humain qui cultive les valeurs cardinales, capable de créer, d’inventer, de décider, de répondre de ses décisions et de se donner librement des limites.

De la puissance à la juste mesure

Une démocratie n’a pas vocation à être une machine. Elle organise nos désaccords, nos libertés, nos responsabilités. Une machine peut nous dire ce qui est possible, ce qui est le plus efficace. Elle ne doit jamais décider à notre place de ce qui est souhaitable.

La démesure n’est pas une idée neuve. Les Grecs avaient nommé hubris cette tentation de franchir les limites, et la pensée d’Aristote nous rappelle, avec la phronèsis, que décider ne consiste pas seulement à mesurer notre puissance d’agir, mais à discerner ce qu’il est juste de faire. Camus formulera cette exigence avec une simplicité radicale : « Un homme, ça s’empêche ». À l’heure où notre puissance technique ne cesse de croître, cette capacité à se donner des limites devient peut-être notre responsabilité première : faire en sorte que notre pouvoir d’agir ne dépasse pas notre capacité à comprendre, à assumer et à maîtriser les conséquences de ce que nous produisons.

Préserver notre pouvoir de décider

Nous ne sommes ni technophobes ni nostalgiques. La technologie doit augmenter nos capacités mais sans attenter ni à notre liberté ni à notre libre-arbitre. Nous devons refuser que des acteurs puissent décider seuls de la place que l’IA prendra dans nos vies, nos institutions, et nos démocraties.

C’est précisément pour faire vivre ce débat et donner à cette exigence une traduction concrète que nous vous proposons de signer deux pétitions :

Une, pour manifester votre accord avec ce texte, ici sur change.org.

Une seconde, pour demander que ces idées puissent faire l’objet d’un débat à l’Assemblée nationale
https://petitions.assemblee-nationale.fr/initiatives/i-6871

C’est le sens de cette révolte démocratique. Non pas refuser le progrès, mais affirmer notre droit à décider collectivement de l’avenir que nous voulons lui donner.

François FORESTIER (professeur des universités, biologiste)

Nicolas GÉRAUD (analyste, prospectiviste)

Michel IDA (scientifique)

Loïck ROCHE (CSB, associate dean)

1 T. Gebru, É.P. Torres, « The TESCREAL bundle », First Monday, 2024.