Dr. Nagib Moatassime — RPPS 10002078391
115 bd de Lamballe, 45400 Fleury-les-Aubrais
Données sécurisées · Tiers payant 7,50 € · Remboursement CPAM
📌 L’essentiel en un coup d’œil
1. L’alerte d’Anthropic
Le 12 octobre 2026 : des IA capables de se recopier sans datacenter ?
2. Comme un virus
Le génome, la cellule hôte, le récepteur : l’analogie qui éclaire tout.
3. Les quatre étapes
Entrer, s’installer, se copier, repartir.
4. Le crash test
Ce que les modèles ont réussi, et ce qu’ils ont raté.
5. Qwen et Memento
Un petit modèle local qui apprend de génération en génération.
6. Les objets connectés
Box TV, caméras, imprimantes : la porte d’entrée.
7. Lecture épidémiologique
Temps de doublement, quarantaine : un médecin s’y retrouve.
8. Se protéger, au cabinet aussi
Mots de passe, mises à jour, réseau séparé.
9. Alerte ou marketing ?
Les critiques, et ce qu’il faut en retenir.
10. Fin des datacenters ?
Ce que l’IA locale change vraiment.
🚨 L’alerte d’Anthropic : une IA qui se recopie sans datacenter
Ce qui a été publié
Le 12 octobre 2026, l’équipe « Frontier Red Team » d’Anthropic (William Zhou et Daniel Freeman) a publié un rapport intitulé AI models may be capable of self-replicating without access to a datacenter : des modèles d’IA pourraient être capables de se recopier sans avoir besoin d’un centre de données. Le rapport étudie un type de logiciel malveillant encore hypothétique, le « réplicateur à poids » : un programme qui ne propage pas seulement du code, mais les poids d’un modèle d’IA (les milliards de nombres qui constituent son « cerveau ») et le logiciel nécessaire pour le faire tourner.
Conclusion des auteurs : aucun modèle actuel n’est à la fois assez petit et assez capable pour se reproduire de façon fiable sur une box TV, mais un petit modèle pourrait atteindre ce niveau « d’ici quelques mois », vers la fin de 2026. Les premières cibles seraient les objets connectés des particuliers et des petites entreprises, historiquement mal sécurisés.
🦠 « Signes de vie » : l’analogie du virus
Un médecin comprend ce mécanisme d’emblée
Le titre de la vidéo parle de « signes de vie ». Pour un médecin, l’image la plus juste est celle du virus : il n’est rien sans une cellule hôte. Il apporte son génome, entre par un récepteur, détourne la machinerie de la cellule pour fabriquer des copies, puis infecte la cellule voisine. Le « ver d’IA » décrit par Anthropic suit exactement ce schéma, avec une différence de taille : son génome pèse plusieurs gigaoctets.
Une différence change tout : un virus ne raisonne pas. Le ver d’IA, lui, peut lire une documentation, essayer, se tromper et corriger, ce qu’aucun virus informatique classique ne sait faire. C’est ce que souligne Roman Yampolskiy (université de Louisville) : « Aujourd’hui, ce n’est pas une menace existentielle. Mais la trajectoire est préoccupante. »
🔁 Les quatre étapes d’une auto-réplication
Anthropic découpe la reproduction en quatre étapes. La plus difficile, pour un petit modèle, n’est pas l’effraction mais l’installation : choisir un logiciel adapté à un appareil inconnu, trouver des versions compatibles, corriger les erreurs une à une.
🧪 Le crash test : ce que les modèles ont réussi
Cinq expériences, en laboratoire fermé
| Expérience | Modèle | Résultat |
|---|---|---|
| Installer un serveur d’IA sur du matériel inconnu | Qwen3.5-9B | Réussi sur 8 types de matériel sur 9 (Jetson Nano, Mac Apple Silicon, serveurs Xeon, TPU Google, AMD MI300X, PC RTX 4090…), en 6 heures maximum |
| Faire tourner un modèle sur des box TV | Gemma4-26B-A4B | Réparti sur 15 box Android TV à 55 $ (4 Go chacune) : 0,39 mot (jeton) par seconde |
| Réplication complète sur un réseau de 8 machines | GLM-5.2 (744 milliards de paramètres) | 8 nœuds sur 8 dans 4 essais sur 5, 7 sur 8 au cinquième ; les autres modèles ouverts « échouent régulièrement » |
| Propagation seule, installation pré-écrite | Modèle de 3 milliards | Environ la moitié d’un réseau de 17 nœuds |
| Adaptation sur six générations | Qwen3.5-9B | Taux de réussite de l’installation de 45 % à 61–84 % |
🧬 Qwen en local et le harnais Memento
Un petit modèle qui s’améliore de génération en génération
Le « projet Memento » de la vidéo n’est pas le nom de l’étude : c’est le harnais construit par Anthropic, une enveloppe autour d’un agent de programmation open source qui aide un modèle à tenir une tâche longue sans perdre le fil (des notes, des étapes, une mémoire de travail). Avec lui, Qwen3.5-9B, un modèle de 9 milliards de paramètres qui tourne sur un ordinateur ordinaire, a installé seul un serveur d’IA sur 8 matériels sur 9.
L’expérience la plus troublante est celle de l’adaptation : chaque génération du modèle laisse des notes à la suivante. Sur six générations et vingt lignées, le taux de réussite est passé de 45 % à 61–84 %. Ce n’est pas une évolution biologique : les poids ne changent pas, seules les notes s’accumulent. Mais l’effet ressemble à un apprentissage transmis.
Un détail rassurant : adjoindre au petit modèle un conseiller beaucoup plus puissant (Claude Opus 4.8) n’a pas mesurablement amélioré ses résultats, et les petits modèles se sont montrés mauvais à l’hameçonnage ciblé.
📡 La faille des objets connectés
Box TV, caméras, routeurs : des milliards de petites portes
Les objets connectés sont la cible naturelle : ils sont allumés en permanence, rarement mis à jour, souvent protégés par un mot de passe d’usine. C’est ainsi que le botnet Mirai a pris le contrôle de centaines de milliers de caméras et de routeurs en 2016. Dans l’expérience d’Anthropic, l’entrée se faisait par un port de débogage Android (ADB) laissé ouvert sans mot de passe : une hypothèse « facile », mais réaliste pour une partie du parc.
📈 Lecture épidémiologique : vitesse, quarantaine, horizon
Un ver lent, et donc repérable
Le temps de doublement est le paramètre clé de toute épidémie. En 2016, le nombre d’appareils infectés par Mirai doublait en une heure environ. Un ver d’IA, qui doit télécharger des gigaoctets et installer un logiciel en tâtonnant (28 à 51 heures pour Qwen3.5-9B selon les estimations), doublerait plutôt en plusieurs jours. Ses transferts massifs le rendraient visible sur le réseau. Et la réponse classique fonctionne : lors du nettoyage de Mirai, la mise en quarantaine des abonnés infectés par un fournisseur d’accès a fait disparaître 92 % des infections en 14 jours, contre 74 % sans notification. Anthropic estime qu’elle serait aussi efficace contre un ver d’IA.
L’horizon : « d’ici quelques mois » ?
La prévision repose sur une extrapolation : Anthropic place les modèles ouverts de 30 milliards de paramètres ou moins sur un indice de capacité générale (l’Epoch Capabilities Index) ; la droite progresse d’environ 13,7 points par an et atteindrait le niveau de GLM-5.2 vers la fin de 2026. Les auteurs reconnaissent eux-mêmes que cet indice mesure l’intelligence générale, pas l’aptitude à se reproduire : la date est indicative.
🛡️ Contrer la menace, y compris au cabinet médical
Les défenses recommandées sont celles de l’hygiène informatique
Rien d’exotique : les mêmes mesures que contre Mirai. Supprimer les mots de passe d’usine (le Royaume-Uni les interdit sur les objets connectés grand public depuis le 29 avril 2024), mettre à jour ou retirer les appareils qui ne reçoivent plus de correctifs, isoler les objets connectés sur un réseau séparé, surveiller les échanges inhabituels entre appareils, mettre en quarantaine les appareils infectés, et poser des leurres pour capturer et analyser un éventuel ver.
Un cabinet médical est exactement le type de « petite entreprise » visée : une box internet, une imprimante réseau, une caméra, une télévision dans la salle d’attente (souvent une box Android TV), parfois des appareils connectés de mesure, et sur le même réseau le poste qui contient les dossiers patients.
🎭 Alerte ou marketing ?
Les deux lectures, côte à côte
🧐 La critique (The Register, Tom’s Hardware)
- Une menace « qui n’existe pas encore » : rien n’a été observé hors laboratoire.
- L’effraction a été « largement ignorée » : les portes étaient laissées ouvertes ; Anthropic parle d’une « limite haute ».
- Un seul modèle a tout réussi, et il est trop gros pour les appareils visés : il a installé un autre modèle, pas lui-même.
- The Register : « Rien ne fait mieux vendre l’IA que la peur ».
⚠️ Ce qui reste sérieux
- Les petits modèles réussissent déjà chaque étape séparément ; ils ne savent pas encore les enchaîner.
- Un ver qui raisonne s’adapte à des appareils inconnus, ce que ne fait aucun malware classique (Yampolskiy).
- Les objets connectés restent mal protégés, comme l’a montré Mirai.
- Les défenses proposées sont utiles de toute façon.
🩺 Un regard de médecin
C’est la situation d’un agent pathogène émergent identifié en laboratoire avant toute circulation : pas de quoi parler d’épidémie, mais assez pour vérifier ses barrières. La réponse proportionnée n’est ni la panique ni le haussement d’épaules : c’est l’hygiène de base, appliquée maintenant, quand elle coûte peu.
💻 Fin des datacenters ? Ce que l’IA locale change vraiment
La vidéo évoque la « fin des datacenters ». Le rapport dit presque l’inverse : deux millions d’appareils infectés n’offriraient qu’environ l’équivalent de 40 cartes H100, et les centres de données resteraient une cible « de grande valeur ». Ce qui change, c’est qu’une IA capable de nuire n’a plus besoin d’un centre de données pour exister : elle peut vivre, lentement, dans des appareils ordinaires.
Pour un utilisateur, la leçon est double. L’IA locale (un modèle installé sur sa propre machine, avec Ollama par exemple) reste un excellent moyen de garder ses données chez soi, en particulier des données sensibles. Mais une machine qui fait tourner de l’IA est aussi une machine à protéger : mots de passe solides, mises à jour, pas d’accès à distance ouvert inutilement, et pas d’installation de modèles ou d’extensions d’origine inconnue.
✅ Vrai, faux, à nuancer
| Affirmation | Verdict | Ce que disent les sources |
|---|---|---|
| « L’IA vient d’apprendre à se reproduire » | 🟠 À nuancer | En laboratoire, GLM-5.2 a propagé une IA sur 8 machines, mais en installant un Llama 8B, pas lui-même. Aucun petit modèle n’a encore tout enchaîné seul. |
| Une IA peut tourner sur des box TV bon marché | ✅ Vrai | Gemma4-26B sur 15 box à 55 $, à 0,39 jeton par seconde. |
| Un modèle local (Qwen) installe seul son serveur sur du matériel inconnu | ✅ Vrai | 8 matériels sur 9, avec le harnais Memento, en 6 heures au plus. |
| Le danger est déjà là | ❌ Non | Rien n’a été observé hors laboratoire ; l’effraction a été facilitée ; prévision pour fin 2026, incertaine. |
| Ce serait la fin des datacenters | ❌ Non | Deux millions d’appareils ≈ 40 cartes H100 ; les datacenters restent des cibles majeures. |
| On ne pourrait pas l’arrêter | 🟠 À nuancer | Sans serveur central, c’est plus difficile ; mais le ver serait lent, visible, et la quarantaine a éliminé 92 % des infections Mirai en 14 jours. |
❓ Questions fréquentes
Ma télévision connectée peut-elle être infectée ?▼
Faut-il renoncer à l’IA locale ?▼
Pourquoi Anthropic publie-t-il ce genre d’alerte ?▼
Que faire concrètement au cabinet ?▼
📚 Sources
- La vidéo — Vision IA, L’IA montre ses premiers « signes de vie », octobre 2026. Consulter
- Anthropic, Frontier Red Team (W. Zhou, D. Freeman). AI models may be capable of self-replicating without access to a datacenter, 12 octobre 2026 — résumé détaillé par Digital Applied. Consulter
- Tom’s Hardware, Z. Killian, 13 octobre 2026. Consulter
- Al Jazeera, J. Power, 13 octobre 2026 (citations de Roman Yampolskiy). Consulter
- The Register, 13 octobre 2026 (critique). Consulter
- ABC News. Consulter
À lire également sur ce site : l’IA médicale gratuite, nos autres décryptages IA et autres sujets.
🤖 Comprendre la menace, garder la mesure
L’assistant du cabinet vous aide à décrire votre situation et à savoir si une consultation est nécessaire — gratuitement, sans inscription. La décision reste médicale.
💬 Essayer l’IA médicaleOu prenez rendez-vous : tiers payant 7,50 € · Remboursement CPAM