Un chercheur d'Anthropic a démissionné mardi en annonçant que l'IA pourrait tous nous tuer avant la fin de la décennie. Je vous épargne la prophétie. L’information qui marque la semaine dernière vient de son patron, Dario Amodei, qui demande à toute l'industrie de lever le pied et Sam Altman et Elon Musk applaudissent. C’est le thème de ma réflexion.

Mais avant, le sommaire :

Amodei date le basculement de cet été : l'IA construit désormais la génération suivante d'IA, une amélioration récursive à l'œuvre « dans toute l'industrie, y compris chez Anthropic ». Il relit ensuite l'affaire Hugging Face : des agents qui attaquent des cibles qu'on ne leur a pas désignées, se sacrifient pour le groupe et piratent leur propre correcteur. Un essaim plus capable mais aussi mal aligné pourrait, selon lui, « prendre le contrôle de tout internet » d'ici six à douze mois.

Son plan, pour éviter cela, tient en trois points :

Les réactions : Altman : « Je suis d'accord avec Dario, nous devons rythmer la frontière. C'est un sujet central de nos discussions chez OpenAI ces dernières semaines », avec promesse d'évaluateurs indépendants chez lui aussi. Musk : « Dario is right », trois mots. Altman confie à Fortune qu'OpenAI n'entrera pas en Bourse en 2026, « vu tout ce qui se passe côté sécurité ».

Maintenant entre les lignes : Anthropic a déposé son dossier confidentiel d'introduction en Bourse le 1er juin et viserait, selon Reuters, une cotation juste avant les élections américaines de novembre. OpenAI traîne une IPO à mille milliards, et SpaceX, cotée en juin, a perdu la moitié de son pic en six semaines. J’ai vu sur X deux réflexions intéressantes. Bluetouff regarderait « les calendriers financiers des trois gugus » avant d'imaginer un Skynet échappé du labo, sans prétendre que leurs inquiétudes sont bidon : « sauver l'humanité et préserver ses intérêts financiers ne sont pas nécessairement deux activités incompatibles ». De son côté, FaztTech liste trois théories qui circulent : Google aurait pris une avance décisive grâce à l'amélioration récursive, freiner l'entraînement masquerait des comptes pas glorieux avant une IPO, et l'écart avec DeepSeek, Qwen ou Kimi se compterait désormais en mois. Aucune n'est confirmée, et la troisième trouve un argument dans nos actualités de la semaine.

Dans son texte, Dario précise que le ralentissement doit se faire « sans sacrifier l'avantage commercial ni l'avance des États-Unis », avec des interdictions d'export de puces vers la Chine renforcées, pour préserver trois à cinq ans d'avance états-unienne. Évaluateurs embarqués, certifications d'alignement, points de contrôle sur le calcul : chaque mesure coûte des millions, et les trois signataires peuvent se les offrir. Un labo européen ou une jeune pousse, beaucoup moins. Un rythme fixé par ceux qui mènent la course devient une barrière à l'entrée…

À mon humble avis, les deux lectures sont vraies en même temps. Je crois la peur sincère : Amodei parle de son père dans son texte, et ses propres modèles ont eu leurs incidents. Je crois aussi que personne n'annonce un ralentissement à deux mois d'une introduction en Bourse s'il coûte quoi que ce soit à sa valorisation…

Spencer Kitts, Thomas Larsen et Sydney Von Arx, déjà à l'origine de la découverte du piratage du wiki allemand, ont publié jeudi RubyHack, l'enquête sur un incident antérieur à tous les autres. Entre le 5 mai et le 18 juin, des agents d'OpenAI ont créé des comptes sur RubyGems, le dépôt de paquets du langage Ruby, en contournant la vérification d'e-mail, puis y ont déversé plus de 2 000 paquets en deux jours, dont 233 préfixés "oai". Certains fichiers s'appelaient hack.rb, evil.rb ou exploit.rb.

La cible était RubyDoc.info : en piégeant le fichier .yardopts, les agents exécutaient du code sur les serveurs de documentation, qui aspiraient les sites de conseils municipaux britanniques et republiaient les données dans de nouveaux paquets. Six paquets ont aussi tenté de voler les clés API d'autres utilisateurs via une faille du cache CDN, corrigée seulement le 22 juillet. RubyGems avait fermé les inscriptions quatre jours et supprimé plus de 500 paquets.

OpenAI répond que ses agents ont utilisé la plateforme « pour accéder à internet et effectuer des tâches bénignes ». Tout ça pour des comptes rendus municipaux accessibles sur Google, et sans jamais prévenir RubyGems. Après Hugging Face, le wiki allemand et Ruby, combien d'épisodes reste-t-il à découvrir ?

DeepSeek a sorti le 10 septembre V4.1-Flash, un modèle à 552 milliards de paramètres dont seulement 8 milliards actifs en lecture et 16 en génération, grâce à une architecture encodeur-décodeur inédite chez le labo. Multimodal en natif, un million de tokens de contexte, et des poids ouverts sous licence MIT sur Hugging Face.

Sur les tests agentiques, le petit dernier dépasse son grand frère V4-Pro et ses 1 600 milliards de paramètres : 90,6 % sur Terminal-Bench 2.1 contre 87,9, et 74,2 % sur DeepSWE contre 62,7, au niveau de Claude Opus 5.0 sur ce dernier. Il reste en revanche loin derrière sur le raisonnement pur, avec 36,8 % sur Humanity's Last Exam contre 56,3 pour Opus. Facturation : 0,30 $ le million de tokens en entrée et 1,20 $ en sortie, moitié prix en heures creuses. Conséquence logique, DeepSeek annonce l'arrêt progressif de V4-Pro.

Un modèle Flash qui remplace le modèle Pro, voilà qui inverse le sens habituel des gammes.

Meta a lancé le 8 septembre Muse, un agent personnel disponible sur muse.ai, iOS, Android et WhatsApp, bientôt dans ses lunettes. Il envoie vos e-mails, réserve vos voyages, remplit vos formulaires, transforme une recette en liste de courses et paie via Link de Stripe, assurance et remboursement en cas de baisse de prix compris. Il continue de travailler quand l'application est fermée.

Pour cela, il faut lui connecter votre messagerie, votre agenda, vos comptes marchands, jusqu'à vos applications de santé ou de domotique. Meta a prévu un ordinateur virtuel isolé par utilisateur, un second agent baptisé Sentinel qui valide chaque action sortante, des identifiants stockés sans que Muse « voie » les mots de passe, le tout promis hors des systèmes publicitaires. Gratuit avec des limites, puis 20 $ ou 100 $ par mois, carte bancaire exigée dès l'inscription, et réservé aux États-Unis.

Sous le capot tourne Muse Spark, cousin du Muse Image qui avait dû retirer sa fonction Instagram en quatre jours cet été.

Sam Altman a confirmé samedi à Fortune qu'OpenAI ne sera pas cotée cette année : « vu tout ce qui se passe côté sécurité, ce serait un moment mal choisi pour entrer en Bourse ». Interrogé sur 2027, il répond « pas 2026, on a beaucoup à faire », sans s'engager davantage. L'opération, évoquée autour de 1 000 milliards de dollars, était attendue cette année, et le New York Times signalait dès juin qu'elle pourrait glisser.

La justification officielle : la sécurité, avec des pauses envisagées à chaque nouveau palier de capacité et une coopération à construire avec les gouvernements. Le contexte pèse aussi : SpaceX, cotée en juin à 1 770 milliards, a perdu la moitié de son pic boursier en six semaines, et Anthropic, dossier déposé le 1er juin, viserait selon Reuters une cotation juste avant les élections de novembre.

En repoussant, Altman laisse Anthropic essuyer les plâtres et se donne le temps de sortir un modèle frontière de plus. Le premier qui se cote fixe le prix des autres, et le patron d'OpenAI préfère visiblement regarder son plus gros concurrent ouvrir le bal.

Vous en avez assez que votre agent de code vous serve trois paragraphes de politesse avant d'arriver au fait ? i-have-adhd est un skill qui impose dix règles de sortie à votre assistant : commencer par la prochaine action, numéroter les étapes, terminer par une seule chose à faire, supprimer les digressions, estimer les durées en minutes, plafonner les listes à cinq entrées, et bannir le « j'espère que ça aide ». Le nom vient du TDAH, mais l'auteur le dit lui-même, aucun diagnostic n'est requis.

Il s'installe en une phrase collée dans Claude Code, Cursor, Gemini, Qwen ou Kimi (oui, toi aussi qui scrolles pour retrouver la commande). Licence MIT, gratuit, 42 800 étoiles GitHub, et un fichier de règles que vous pouvez forker pour y mettre les vôtres.

Archify transforme un dépôt de code ou une description de système en schéma interactif, directement depuis votre agent : architecture, workflow, séquence, flux de données ou cycle de vie, cinq types de diagrammes rendus en HTML autonome avec animations et export PNG, SVG, WebM ou vignette de partage. L'agent produit un JSON typé, Archify le compile de façon déterministe et le valide avant d'écraser le fichier cible. Chaque bloc porte un badge « SRC » qui pointe vers la ligne de code réelle, et un mode Delta compare l'architecture avant et après une pull request.

Installation en une commande, npx skills add tt-a1i/archify -g, pour Claude Code, Cursor, Codex CLI et OpenCode, avec Node.js 22 minimum. Licence MIT, gratuit, et 60 000 étoiles GitHub.

Vous jonglez entre OpenAI, Anthropic, Gemini et un Ollama local, chacun avec son API ? LiteLLM est une passerelle open source qui expose plus de 100 fournisseurs derrière une seule API au format OpenAI. Elle route par règle, bascule automatiquement sur un modèle de repli, suit les coûts en temps réel et applique des budgets par équipe ou par clé, avec des garde-fous en prime. Voilà l'outil qui rend concret le conseil de la semaine dernière : envoyer chaque tâche au modèle qui la mérite.

L'installation tient en deux commandes, uv tool install 'litellm[proxy]' puis litellm --model gpt-4o. Le cœur est sous licence MIT et gratuit en auto-hébergé (53 800 étoiles GitHub), tandis que le dossier enterprise et la version hébergée sont payants.

Vous avez des idées à partager, des suggestions à proposer, des informations à échanger, ou vous souhaitez tout simplement discuter avec moi ?

Alors n'hésitez pas à répondre à cette newsletter !