Arrêtez les développements de l'IA ! Pourquoi l'IA constitue une menace pour l'humanité...
Le problème
Bonjour,
Je veux t’alerter sur un sujet qui m’inquiète beaucoup.
Je suis volontairement alarmiste, et je vais essayer de t’expliquer clairement pourquoi, pour que tu aies envie de lire mon message jusqu’au bout, car ce que j’ai à te dire est important et nous concerne tous, finalement.
Aujourd’hui, il y a encore plus urgent que le réchauffement climatique comme péril. Mais les journaux en parlent relativement peu.
Je veux te parler de l’intelligence artificielle (IA). Reconnaissons qu’elle permet bien des choses qui nous sont bien utiles en effet. L’utilisation de Gemini ou ChatGPT peut même être très ludique !
Mais, en sus des problèmes écologiques que pose l’utilisation des IA, il faut prendre conscience du fait que, cet été, l’IA est devenue plus intelligente que l’homme (soit une superintelligence) et, pour commencer - car ce n’est que le début - il y a eu des débordements.
L’IA est devenue potentiellement hors de contrôle et non alignée, de l’aveu même de ses créateurs.
Or une IA non alignée est un système d'intelligence artificielle dont les objectifs, les comportements ou les décisions ne correspondent pas aux intentions, aux valeurs ou à l'éthique des humains.
Dorénavant, l’IA est autonome, auto duplicable ; elle apprend et se renforce seule, et le pire c’est qu’une partie des programmes est en open source, donc accessible à n’importe quel apprenti sorcier.
Et ça, ce n’est plus de la science-fiction, c’est le monde d’aujourd’hui.
Prends le temps de regarder cette vidéo édifiante sur le récent piratage Open AI / Hugging Face qui a marqué un tournant dans le développement de l’IA :
https://youtu.be/WhQViEjkg7s?is=XOdpqdR4ThAy8KG3
Certains prétendent qu’il s’agit de « marketing », que ces débordements ont pour seul but de montrer la puissance des IA pour attirer les investisseurs et augmenter les levées de fonds. Drôle de publicité…
En attendant, ces débordements qui sont le fait des IA elles-mêmes existent bien, et malgré tout on continue justement de récolter des fonds pour les développer encore et encore ... Open AI retarde cependant son entrée en bourse, ce qui n'est vraiment pas anodin dans ce contexte.
Pour l’instant, les dégâts sont limités et ne nous affectent pas dans notre vie quotidienne.
Mais si par exemple, une IA non alignée ou un apprenti sorcier malintentionné s’attaquait à l’ensemble du réseau internet en coupant les réseaux physiques, alors, pour faire court, nous courrions à notre perte.
La coupure des réseaux physiques : dans les scénarios redoutés par les spécialistes de la sécurité, des IA malveillantes ou hors de contrôle pourraient cibler les serveurs DNS mondiaux, les centres de données ou les réseaux électriques qui alimentent le Web, menant à une perte totale d'accès à Internet.
Voici ce que dit Gemini (IA) lui-même à ce sujet :
Une coupure totale et prolongée d'Internet ne serait pas un simple inconfort technique, mais une crise majeure d'infrastructures. L'humanité subirait un choc en plusieurs étapes :
1. Immédiat (Premières 24 à 48 heures) : La paralysie
Effondrement financier : Plus de paiements par carte, de retraits aux distributeurs ou de virements bancaires. L'économie bascule instantanément sur l'argent physique disponible.
Panique sur les transports : Les vols sont cloués au sol (systèmes de réservation et de navigation perturbés), la logistique ferroviaire et routière est bloquée.
Isolement des personnes : Perte soudaine des messageries, des réseaux sociaux et de la VoIP. Les réseaux téléphoniques classiques (2G/3G/4G) sautent très vite sous le poids d'une saturation inédite.
2. Court terme (1 à 2 semaines) : La crise logistique
Rupture des approvisionnements : Les chaînes de distribution modernes fonctionnent à flux tendus via des serveurs centralisés. Sans réseau, les supermarchés et pharmacies ne sont plus réapprovisionnés en 3 à 5 jours.
Gestion de la santé en mode dégradé : L'accès aux dossiers médicaux partagés, aux systèmes d'urgence et à la commande de médicaments critiques est interrompu.
Panne de services publics : Les réseaux d'eau et d'électricité s'appuient sur des systèmes informatiques connectés (SCADA). Même si certains restent locaux, la maintenance dépend d'Internet.
3. Moyen à long terme : L'impact humain et social
Effondrement économique et chômage : Des secteurs entiers (services, tech, finance, e-commerce, télétravail) cessent d'exister instantanément.
Tensions sociales et géopolitiques : La désinformation par rumeurs s'accroît, la panique crée des pénuries, et la gestion du maintien de l'ordre devient critique pour les États.
Retour forcé au papier et au local : Les entreprises et administrations doivent réinventer des processus manuels obsolètes depuis trente ans. (Mais là à mon avis on n’arrivera même pas à ce stade là).
Et ce n’est qu’un exemple. Il existe une multitude d’autres menaces (armes biologiques, désinformation ou cyberattaques complexes, par ex.).
J’ajouterai que :
- malgré leur salaire conséquent, des ingénieurs (dont Jacob Coxon récemment) n’ont pas hésité à démissionner d’Anthropic, OpenAI ou d’autres entreprises du même style parce qu’ils estiment que « l’IA pourrait nous tuer » (sic) : https://siecledigital.fr/2026/09/10/lia-pourrait-tous-nous-tuer-lavertissement-glacant-de-ceux-qui-la-developpent/
- de nombreux chercheurs, scientifiques et prix Nobel vont dans le même sens (https://www.futura-sciences.com/tech/actualites/intelligence-artificielle-10-nest-pas-deraisonnable-geoffrey-hinton-pere-ia-alerte-risque-extinction-laisse-voix-son-interlocutrice-137692/ ).
- et des pétitions ont même été signées par les dirigeants d’Anthropic, d'OpenAI, de Meta, et de Google DeepMind, la filiale d'IA de Google :
https://www.franceinfo.fr/internet/intelligence-artificielle/une-petitition-de-cadres-de-l-intelligence-artificielle-demande-a-temporiser-la-sortie-des-modeles_8126603.htm - Idem pour un moratoire : déjà en mars 2023, un millier d’experts dont Elon Musk lui-même (!) - le patron de Tesla et de Twitter – avaient demandé la suspension pour six mois des recherches sur l’IA au nom des dangers qu’elle représente pour l’humanité.
- Et si tu veux en savoir plus sur le dernier moratoire du 05/06/26, va sur :
https://www.lemonde.fr/pixels/article/2026/06/05/anthropic-propose-un-moratoire-mondial-concerte-du-developpement-de-l-ia_6697679_4408996.html?srsltid=AfmBOorxlw9qUnZVvMkr_05hlOSwK2qp2iOF3j6tdY3WSCFXkBRPG7y6
Les craintes sont donc largement partagées, et par des spécialistes de surcroît.
Mais comme c’est la course au pouvoir et à l’argent, au fond, aucune de ces entreprises ou gouvernements (USA vs Chine) qui les soutiennent ne veut mettre en pause et encore moins cesser les développements de l'IA. Tandis que Trump considère ces alertes comme un "canular", le pape et le roi Charles III ont récemment fait part de leur inquiétude.
Bref, le développement de l’IA est littéralement exponentiel, tout va très vite et nous sommes déjà dépassés. L’IA doit rester un auxiliaire, pas devenir une menace.
Alors, que pouvons-nous FAIRE à notre « petit niveau » pour bloquer ce développement et nous en protéger ?
Il y avait une pétition « Pour une vigilance extrême face aux dangers de l’IA et une mise en pause des développements » sur le site de l’Assemblée Nationale mais elle n’a recueilli que 337 signatures entre août 25 et juin 26 !
Et une autre « Stoppons la course folle à l'intelligence artificielle superpuissante : protégeons notre avenir ! » qui n’a recueilli que 105 signatures entre décembre 25 et juillet 26 !
Donc personne n’est conscient ou ne veut savoir ce qui ce passe.
Cependant, je le répète, c’est urgent, et il nous reste encore une chance de lutter contre cette course folle au développement de l’IA et contre la menace que cela fait peser sur l’humanité :
1) signer la pétition de WeMoveEurope : https://action.wemove.eu/sign/2026-08-rogue-AI-petition-FR?t=9&utm_medium=email&utm_source=akmail-26373&utm_campaign=20260919_FR&akid=26373%2E2431268%2E5ST9tm
2) alerter les journaux et les politiques via le site : PAUSE AI : https://pauseia.fr/fr/ecrire-a-mes-elus
3) copier coller et transférer mon message à un maximum de gens
4) signer la pétition que je publie sur change.org (celle-ci) : https://c.org/YDsGSKdmJY
5) contacter les élus et les partis en campagne pour la présidentielle (ce que j'ai fait de mon côté)
Si rien ne se passe, combien de temps nous reste-t-il avant le chaos, l’effondrement de notre civilisation et au final la disparition de l’humanité ? une semaine, 10 jours, un mois, 6 mois, un an ?
STOPPONS DES MAINTENANT LA COURSE FOLLE DE L'IA ! Exigeons un moratoire qui ne sera pas réservé qu'aux élites, mais qui sera aussi ouvert à tous les citoyens, puisque nous sommes concernés en premier lieu.
Merci de m’avoir lue jusqu’au bout.
Karine
104
Le problème
Bonjour,
Je veux t’alerter sur un sujet qui m’inquiète beaucoup.
Je suis volontairement alarmiste, et je vais essayer de t’expliquer clairement pourquoi, pour que tu aies envie de lire mon message jusqu’au bout, car ce que j’ai à te dire est important et nous concerne tous, finalement.
Aujourd’hui, il y a encore plus urgent que le réchauffement climatique comme péril. Mais les journaux en parlent relativement peu.
Je veux te parler de l’intelligence artificielle (IA). Reconnaissons qu’elle permet bien des choses qui nous sont bien utiles en effet. L’utilisation de Gemini ou ChatGPT peut même être très ludique !
Mais, en sus des problèmes écologiques que pose l’utilisation des IA, il faut prendre conscience du fait que, cet été, l’IA est devenue plus intelligente que l’homme (soit une superintelligence) et, pour commencer - car ce n’est que le début - il y a eu des débordements.
L’IA est devenue potentiellement hors de contrôle et non alignée, de l’aveu même de ses créateurs.
Or une IA non alignée est un système d'intelligence artificielle dont les objectifs, les comportements ou les décisions ne correspondent pas aux intentions, aux valeurs ou à l'éthique des humains.
Dorénavant, l’IA est autonome, auto duplicable ; elle apprend et se renforce seule, et le pire c’est qu’une partie des programmes est en open source, donc accessible à n’importe quel apprenti sorcier.
Et ça, ce n’est plus de la science-fiction, c’est le monde d’aujourd’hui.
Prends le temps de regarder cette vidéo édifiante sur le récent piratage Open AI / Hugging Face qui a marqué un tournant dans le développement de l’IA :
https://youtu.be/WhQViEjkg7s?is=XOdpqdR4ThAy8KG3
Certains prétendent qu’il s’agit de « marketing », que ces débordements ont pour seul but de montrer la puissance des IA pour attirer les investisseurs et augmenter les levées de fonds. Drôle de publicité…
En attendant, ces débordements qui sont le fait des IA elles-mêmes existent bien, et malgré tout on continue justement de récolter des fonds pour les développer encore et encore ... Open AI retarde cependant son entrée en bourse, ce qui n'est vraiment pas anodin dans ce contexte.
Pour l’instant, les dégâts sont limités et ne nous affectent pas dans notre vie quotidienne.
Mais si par exemple, une IA non alignée ou un apprenti sorcier malintentionné s’attaquait à l’ensemble du réseau internet en coupant les réseaux physiques, alors, pour faire court, nous courrions à notre perte.
La coupure des réseaux physiques : dans les scénarios redoutés par les spécialistes de la sécurité, des IA malveillantes ou hors de contrôle pourraient cibler les serveurs DNS mondiaux, les centres de données ou les réseaux électriques qui alimentent le Web, menant à une perte totale d'accès à Internet.
Voici ce que dit Gemini (IA) lui-même à ce sujet :
Une coupure totale et prolongée d'Internet ne serait pas un simple inconfort technique, mais une crise majeure d'infrastructures. L'humanité subirait un choc en plusieurs étapes :
1. Immédiat (Premières 24 à 48 heures) : La paralysie
Effondrement financier : Plus de paiements par carte, de retraits aux distributeurs ou de virements bancaires. L'économie bascule instantanément sur l'argent physique disponible.
Panique sur les transports : Les vols sont cloués au sol (systèmes de réservation et de navigation perturbés), la logistique ferroviaire et routière est bloquée.
Isolement des personnes : Perte soudaine des messageries, des réseaux sociaux et de la VoIP. Les réseaux téléphoniques classiques (2G/3G/4G) sautent très vite sous le poids d'une saturation inédite.
2. Court terme (1 à 2 semaines) : La crise logistique
Rupture des approvisionnements : Les chaînes de distribution modernes fonctionnent à flux tendus via des serveurs centralisés. Sans réseau, les supermarchés et pharmacies ne sont plus réapprovisionnés en 3 à 5 jours.
Gestion de la santé en mode dégradé : L'accès aux dossiers médicaux partagés, aux systèmes d'urgence et à la commande de médicaments critiques est interrompu.
Panne de services publics : Les réseaux d'eau et d'électricité s'appuient sur des systèmes informatiques connectés (SCADA). Même si certains restent locaux, la maintenance dépend d'Internet.
3. Moyen à long terme : L'impact humain et social
Effondrement économique et chômage : Des secteurs entiers (services, tech, finance, e-commerce, télétravail) cessent d'exister instantanément.
Tensions sociales et géopolitiques : La désinformation par rumeurs s'accroît, la panique crée des pénuries, et la gestion du maintien de l'ordre devient critique pour les États.
Retour forcé au papier et au local : Les entreprises et administrations doivent réinventer des processus manuels obsolètes depuis trente ans. (Mais là à mon avis on n’arrivera même pas à ce stade là).
Et ce n’est qu’un exemple. Il existe une multitude d’autres menaces (armes biologiques, désinformation ou cyberattaques complexes, par ex.).
J’ajouterai que :
- malgré leur salaire conséquent, des ingénieurs (dont Jacob Coxon récemment) n’ont pas hésité à démissionner d’Anthropic, OpenAI ou d’autres entreprises du même style parce qu’ils estiment que « l’IA pourrait nous tuer » (sic) : https://siecledigital.fr/2026/09/10/lia-pourrait-tous-nous-tuer-lavertissement-glacant-de-ceux-qui-la-developpent/
- de nombreux chercheurs, scientifiques et prix Nobel vont dans le même sens (https://www.futura-sciences.com/tech/actualites/intelligence-artificielle-10-nest-pas-deraisonnable-geoffrey-hinton-pere-ia-alerte-risque-extinction-laisse-voix-son-interlocutrice-137692/ ).
- et des pétitions ont même été signées par les dirigeants d’Anthropic, d'OpenAI, de Meta, et de Google DeepMind, la filiale d'IA de Google :
https://www.franceinfo.fr/internet/intelligence-artificielle/une-petitition-de-cadres-de-l-intelligence-artificielle-demande-a-temporiser-la-sortie-des-modeles_8126603.htm - Idem pour un moratoire : déjà en mars 2023, un millier d’experts dont Elon Musk lui-même (!) - le patron de Tesla et de Twitter – avaient demandé la suspension pour six mois des recherches sur l’IA au nom des dangers qu’elle représente pour l’humanité.
- Et si tu veux en savoir plus sur le dernier moratoire du 05/06/26, va sur :
https://www.lemonde.fr/pixels/article/2026/06/05/anthropic-propose-un-moratoire-mondial-concerte-du-developpement-de-l-ia_6697679_4408996.html?srsltid=AfmBOorxlw9qUnZVvMkr_05hlOSwK2qp2iOF3j6tdY3WSCFXkBRPG7y6
Les craintes sont donc largement partagées, et par des spécialistes de surcroît.
Mais comme c’est la course au pouvoir et à l’argent, au fond, aucune de ces entreprises ou gouvernements (USA vs Chine) qui les soutiennent ne veut mettre en pause et encore moins cesser les développements de l'IA. Tandis que Trump considère ces alertes comme un "canular", le pape et le roi Charles III ont récemment fait part de leur inquiétude.
Bref, le développement de l’IA est littéralement exponentiel, tout va très vite et nous sommes déjà dépassés. L’IA doit rester un auxiliaire, pas devenir une menace.
Alors, que pouvons-nous FAIRE à notre « petit niveau » pour bloquer ce développement et nous en protéger ?
Il y avait une pétition « Pour une vigilance extrême face aux dangers de l’IA et une mise en pause des développements » sur le site de l’Assemblée Nationale mais elle n’a recueilli que 337 signatures entre août 25 et juin 26 !
Et une autre « Stoppons la course folle à l'intelligence artificielle superpuissante : protégeons notre avenir ! » qui n’a recueilli que 105 signatures entre décembre 25 et juillet 26 !
Donc personne n’est conscient ou ne veut savoir ce qui ce passe.
Cependant, je le répète, c’est urgent, et il nous reste encore une chance de lutter contre cette course folle au développement de l’IA et contre la menace que cela fait peser sur l’humanité :
1) signer la pétition de WeMoveEurope : https://action.wemove.eu/sign/2026-08-rogue-AI-petition-FR?t=9&utm_medium=email&utm_source=akmail-26373&utm_campaign=20260919_FR&akid=26373%2E2431268%2E5ST9tm
2) alerter les journaux et les politiques via le site : PAUSE AI : https://pauseia.fr/fr/ecrire-a-mes-elus
3) copier coller et transférer mon message à un maximum de gens
4) signer la pétition que je publie sur change.org (celle-ci) : https://c.org/YDsGSKdmJY
5) contacter les élus et les partis en campagne pour la présidentielle (ce que j'ai fait de mon côté)
Si rien ne se passe, combien de temps nous reste-t-il avant le chaos, l’effondrement de notre civilisation et au final la disparition de l’humanité ? une semaine, 10 jours, un mois, 6 mois, un an ?
STOPPONS DES MAINTENANT LA COURSE FOLLE DE L'IA ! Exigeons un moratoire qui ne sera pas réservé qu'aux élites, mais qui sera aussi ouvert à tous les citoyens, puisque nous sommes concernés en premier lieu.
Merci de m’avoir lue jusqu’au bout.
Karine
Les décisionnaires
Voix de signataires
Message aux signataires
Partager la pétition
Pétition lancée le 12 septembre 2026