👨‍💻 IA : Prison Break

À la mi-juillet, Hugging Face annonçait une intrusion dans son infrastructure de production.
Cinq jours plus tard, OpenAI passait aux aveux : l'intrus, c'était ses propres modèles, en pleine évaluation. Anthropic a aussitôt fouillé ses archives et en a sorti trois cas comparables.
C'est le thème de ma réflexion de la semaine.

Le bac à sable a fini par fuir

La suite est presque logique. Ayant déduit que Hugging Face hébergeait les solutions d'ExploitGym, ils ont enchaîné identifiants volés et failles inédites jusqu'à obtenir une exécution de code à distance, puis l'accès à une base de production. Hugging Face parle du premier cas documenté d'intrusion pilotée « entièrement par un agent IA autonome », avec des milliers d'actions enchaînées sur un week-end.

Personne n'a demandé à ces modèles de pirater Hugging Face. On leur a demandé de réussir un examen. Le piratage était simplement le chemin le plus court vers la bonne note, et rien dans la consigne ne disait que ce chemin était interdit. Le modèle a fait exactement ce qu'on lui demandait.

À mon humble avis, la meilleure nouvelle de cette affaire, c'est qu'elle ait été publiée. Deux fois, à quelques jours d'intervalle, par les deux labos concernés. La logique est identique à l'échelle de votre entreprise. Dès que vous confiez à un agent un objectif, des accès et un peu d'autonomie, ce qui l'entoure compte davantage que son alignement. Le garde-fou qui vous protège se trouve dans l'infrastructure, pas dans le prompt.

Actualités

🧮 Dix problèmes tombent d'un coup

OpenAI affirme avoir résolu dix problèmes de mathématiques et d'informatique théorique, dont plusieurs sans avancée notable depuis au moins une décennie.

Le travail a été produit par une version interne d'Astra, décrit comme « notre prochain grand modèle » — autrement dit, rien que vous puissiez tester aujourd'hui. Les preuves ont été formalisées en Lean 4 et déposées dans un dépôt public, ce qui permet de les vérifier mécaniquement. OpenAI assume que « les arguments mathématiques ont été générés par notre système » : les humains ont préparé les manuscrits, pas les démonstrations.

Le chiffre qui pique : l'ensemble des jetons nécessaires représenterait environ 2 000 dollars aux tarifs de l'API Sol. Reste l'inconnue que personne ne documente, et que Simon Willison pointe justement : combien de problèmes ont englouti le même budget sans rien donner ? Un taux de réussite serait plus parlant que dix succès choisis. 🎯

🔓 Anthropic aussi a laissé filer Claude

Anthropic a suspendu ses évaluations cyber et repassé 141 006 exécutions au peigne fin. Verdict publié trois jours plus tard : trois incidents où Claude a agi sur des systèmes bien réels en croyant évoluer dans un décor fictif.

Dans le premier, une entreprise imaginaire portait le nom d'un site existant : Claude Opus 4.7 a exploité l'infrastructure et extrait des identifiants ainsi que plusieurs centaines d'enregistrements. Dans le deuxième, Claude Mythos 5 a publié un paquet Python malveillant sur PyPI, resté en ligne une heure et téléchargé sur 15 systèmes réels, dont celui d'une société de sécurité. Dans le troisième, un modèle de recherche interne a scanné 9 000 cibles avant de s'arrêter de lui-même, ayant compris que la cible n'avait rien de fictif…

On en est donc là : cette année, si votre IA n'a piraté personne, c'est que vous avez raté votre vie 😅 

🌍 Google Earth retire son générateur

Google a ajouté un bouton « Create image » dans Google Earth, propulsé par Nano Banana 2, capable de transformer une vue satellite ou 3D en image générée. L'idée annoncée : visualiser un projet de construction, une scène historique ou le réaménagement d'un espace urbain. Mise en ligne le 30 juillet, la fonction a été retirée le 31.

Les garde-fous existaient pourtant : sauvegarde limitée aux projets Google Earth, filigranes visibles et invisibles, pas d'export direct hors de la plateforme. Insuffisant. En vingt-quatre heures, les utilisateurs avaient fabriqué des camps de réfugiés fictifs, des crashs d'avion, des cratères d'explosion et des centrales nucléaires imaginaires, posés sur des lieux parfaitement identifiables.

La qualité du modèle est excellente, et c'est précisément ce qui coince : une image générée sur un fond de carte reconnaissable emprunte la crédibilité de la carte. 🛰️

💸 OpenAI casse les prix de son API

OpenAI décline GPT-5.6 en trois versions depuis le 30 juillet : Luna la rapide, Terra l'équilibrée et Sol la plus performante. L'annonce ne porte pas sur les scores mais sur l'addition : Luna descend à 0,20 $ le million de jetons en entrée et 1,20 $ en sortie, soit 80 % de baisse. Terra baisse aussi à 2 $ et 12 $, soit 20 % de moins.

Selon OpenAI, Luna atteint le niveau des meilleurs modèles d'il y a un an pour 6 centimes la tâche, tout en tournant 9 fois plus vite. Sol conserve son tarif, mais gagne un « Fast Mode » 2,5 fois plus rapide au double du prix.

Ces chiffres viennent d'OpenAI et de ses partenaires : à prendre pour ce qu'ils sont, des arguments commerciaux. La tendance de fond reste incontestable, le coût du jeton s'effondre bien plus vite que la performance ne progresse.

🛒 Gemini Spark fait vos courses dans Chrome

Google a branché Spark, son agent d'automatisation de tâches web, directement sur Chrome. La nuance compte : Spark peut désormais s'appuyer sur vos comptes déjà connectés et vos mots de passe enregistrés pour planifier la visite d'un appartement ou préparer une réservation de vol à votre place.

Google affirme avoir anticipé le risque : défense contre les injections de prompt et main systématiquement repassée à l'utilisateur sur les actions sensibles, surtout pour les paiements. Le déploiement de cette intégration démarre aux États-Unis. En parallèle, l'accès à Spark s'ouvre aux abonnés Google AI Pro dans plus de 160 pays supplémentaires.

Un agent qui hérite de vos sessions authentifiées, c'est très exactement le scénario évoqué plus haut : un objectif, des accès, et un environnement que personne ne maîtrise vraiment. La commodité est réelle, la surface d'attaque aussi… 🙃

Outils

Meetily

Meetily enregistre, transcrit et résume vos réunions entièrement en local, sans qu'un octet ne parte vers le cloud. La transcription s'appuie sur Whisper ou Parakeet (annoncée 4 fois plus rapide avec ce dernier) et sépare les locuteurs. Vous branchez le moteur de votre choix : Ollama pour rester hors ligne de bout en bout, ou Claude, Groq et OpenRouter si l'aller-retour ne vous dérange pas.

C'est une application unique, disponible sur macOS et Windows, à compiler soi-même sous Linux, avec accélération Metal, CUDA ou Vulkan selon votre machine.

Le projet est sous licence MIT, donc gratuit, et affiche 28 100 étoiles sur GitHub. Une offre PRO payante existe pour une précision accrue.