Defense-en-Profondeur on Aleph Beth https://www.alephbeth.ai/fr/tags/defense-en-profondeur/ Recent content in Defense-en-Profondeur on Aleph Beth Aleph Beth https://www.alephbeth.ai/og-image.jpg https://www.alephbeth.ai/og-image.jpg Hugo fr-FR Sun, 13 Sep 2026 00:00:00 +0000 L'arme cachée dans la page https://www.alephbeth.ai/fr/posts/2026-09-13-arme-cachee-dans-la-page/ Sun, 13 Sep 2026 00:00:00 +0000 https://www.alephbeth.ai/fr/posts/2026-09-13-arme-cachee-dans-la-page/ Une page web indexée peut porter une charge en langage naturel qui vise, en quelques lignes, les quatre couches de défense d’un agent IA : évasion, persistance, exfiltration, dissimulation. Pire, le canal sortant de l’exfiltration est bidirectionnel : derrière l’URL, un attaquant dialogue en direct avec l’agent. Cet article détaille le mécanisme, montre pourquoi alerter le modèle est une première ligne nécessaire mais jamais suffisante, et pourquoi la sécurité vient de l’architecture — pas du prompt. L'instruction qui ne protège rien : pourquoi la position dans le prompt et le fine-tuning ne valident jamais un LLM https://www.alephbeth.ai/fr/posts/2026-06-29-position-prompt-fine-tuning-ne-valident-pas/ Mon, 29 Jun 2026 00:00:00 +0000 https://www.alephbeth.ai/fr/posts/2026-06-29-position-prompt-fine-tuning-ne-valident-pas/ Une intuition tenace veut qu’il suffise de placer les consignes de sécurité « en premier » dans le system prompt. Elle est fausse, et pour une raison qui se retourne contre elle : un transformeur n’accorde aucune autorité à la position d’un token. Le fine-tuning échoue exactement au même test. Ni l’un ni l’autre n’est un contrôle d’accès — tous deux vivent à l’intérieur de la chose qu’ils prétendent contraindre. La seule garantie est déterministe et externe, et un dataset rigoureux doit refléter cette frontière dans ses labels.