Articles

Il suffit à un agent IA de consulter une page web contenant des instructions invisibles pour être détourné. Cet article décrit la chaîne d’attaque complète — injection de prompt indirecte observée dans la nature, persistance par empoisonnement de la mémoire et du RAG, réorientation des recherches par un acteur étatique — puis retourne l’arme : honeypots à injection inversée, tarpits et fonctions pièges pour démasquer les agents attaquants.

Une page web indexée peut porter une charge en langage naturel qui vise, en quelques lignes, les quatre couches de défense d’un agent IA : évasion, persistance, exfiltration, dissimulation. Pire, le canal sortant de l’exfiltration est bidirectionnel : derrière l’URL, un attaquant dialogue en direct avec l’agent. Cet article détaille le mécanisme, montre pourquoi alerter le modèle est une première ligne nécessaire mais jamais suffisante, et pourquoi la sécurité vient de l’architecture — pas du prompt.

Un pentester humain se fatigue, va déjeuner, finit par abandonner. Un agent piloté par un LLM ne fait rien de tout cela : il tourne en boucle, sans salaire, à un coût qui s’effondre d’année en année. Face à cet adversaire, deux mécanismes se combinent — des leurres pensés pour un lecteur qui est une machine, et un labyrinthe de VMs qui transforme chaque heure d’attaque en dépense pure. Cet article détaille les deux, et les quatre limites qu’il faut poser avant tout déploiement.

Une intuition tenace veut qu’il suffise de placer les consignes de sécurité « en premier » dans le system prompt. Elle est fausse, et pour une raison qui se retourne contre elle : un transformeur n’accorde aucune autorité à la position d’un token. Le fine-tuning échoue exactement au même test. Ni l’un ni l’autre n’est un contrôle d’accès — tous deux vivent à l’intérieur de la chose qu’ils prétendent contraindre. La seule garantie est déterministe et externe, et un dataset rigoureux doit refléter cette frontière dans ses labels.

Un chatbot écrit des phrases ; un agent IA agit — il lit vos e-mails, exécute du code, appelle des API, dépense de l’argent. Ce changement déplace le risque : il ne s’agit plus de faire dire à l’IA quelque chose d’interdit, mais de lui faire faire quelque chose de dangereux. Cet article explique, avec des exemples détaillés et accessibles, comment ces attaques fonctionnent réellement, pourquoi les garde-fous naïfs échouent, et ce qu’un décideur doit exiger avant de mettre un agent en production.

Les outils de sécurité classiques cherchent des mots dangereux : « pirater », « bombe », « urgent ». Mais on ne détourne pas un agent IA avec un vocabulaire suspect — on le détourne avec le langage normal de l’entreprise : un rôle, un processus, une urgence plausible. Et quand l’agent qui surveille, le SIEM qui corrèle et l’auditeur qui contrôle sont eux aussi des agents IA, l’attaquant n’a plus à tromper un système : il les corrompt en chaîne. Cet article explique ce mécanisme de corruption récursive et ce qu’un décideur doit exiger pour le briser.

Un compagnon plus technique de l’article sur le feedback du tier gratuit. DPO déplace la sûreté du niveau « comportement » au niveau « distribution conditionnelle » ; un agent transforme ensuite un conditionnel piégé en chaîne d’actions. Résultat : une backdoor faite de comportements individuellement ordinaires, invisible aux évaluations standard, dont le danger n’émerge qu’à la composition des actions.

Les assistants commerciaux — Claude, ChatGPT, Gemini, Le Chat — continuent d’apprendre à partir du feedback du tier gratuit : notes, régénérations, et les conversations elles-mêmes. Cette boucle est un canal d’injection. Un modèle de menace en deux phases : construire une backdoor conforme à la charte sur un sujet rare, puis l’exploiter pour du jailbreak — et pourquoi l’échelle rend la première phase presque indétectable.

Les SOC évoluent vers des architectures agentiques où plusieurs IA assurent triage, investigation, corrélation et réponse. Le système de décision devient alors lui-même une cible. Nous défendons la monotonie des capacités (Lock-Monotone/TGMC) comme invariant architectural pour limiter une compromission du raisonnement.

Trois schémas interactifs pour voir, pas à pas, comment une phrase traverse un réseau récurrent (LSTM), un réseau convolutif (CNN) puis un Transformer — l’architecture sur laquelle repose tout LLM moderne. Et pourquoi cette mécanique compte pour la sécurité.