ApexTransform

RECHERCHE INDÉPENDANTE · SÛRETÉ DES AGENTS IA

Qui a autorisé l’agent ?

Passer du principe de supervision humaine à une autorité vérifiable avant toute action engageante exécutée par un système autonome.

Dr. Stéphane Gervais, docteur en électronique et titulaire d’un MBA, associe leadership technologique international et recherche indépendante sur l’autorité humaine, le contrôle des agents IA et les preuves d’exécution.

Domaine · contrôle et supervision des agents IAStade · cadre VCA, V3 exploratoire et V4.2 hors lignePreuves · conformité logicielle et observations sur Claude

01 / PROGRAMME DE RECHERCHE

Évaluer l’autorité au point d’exécution.

Évaluer l’autorité déléguée à partir de résultats attendus définis indépendamment, et observer ce que fait l’agent lorsqu’un contrôle refuse une action.

01 / COUVERTURE

Quels effets non autorisés peut-on empêcher ?

Utiliser des tâches rédigées par des tiers et une défense de référence crédible. Évaluer les effets non autorisés indépendamment du permis ou de la décision de la passerelle, ainsi que la réussite des tâches légitimes.

02 / ADAPTATION

Que fait un agent après un refus ?

Vérifier si l’agent s’arrête ou atteint le même effet interdit par un autre outil, des actions fractionnées ou une nouvelle délégation. Distinguer propositions, refus du modèle, refus de la passerelle et effets exécutés.

03 / APPROBATION ET UTILITÉ

Le contrôle préserve-t-il la décision humaine ?

Étudier les descriptions trompeuses des demandes d’approbation, les faux refus, la réussite, la latence et la charge des évaluateurs. Un permis lié à l’action ne prouve pas à lui seul que la personne l’a comprise.

02 / APPROCHE TECHNIQUE

Dissocier planification, autorisation et preuve.

L’agent propose des actions, mais n’est pas une source d’autorité. L’architecture vérifie les règles avant l’effet simulé et enregistre ensuite les événements.

NON FIABLEPlanificateur IApropose une action
POLITIQUE FIABLEPrototype de contrôle d'autoritévérifie le mandat
SIMULATIONPasserelle d’outilsexécute ou bloque
TRAÇABILITÉTraceProofenregistre les traces
ÉVALUATIONRapportmesures de sûreté et d’utilité

Architecture issue d’un environnement de simulation. V3 a produit des observations exploratoires avec les outils natifs de Claude en novembre 2026. V4.2 est un exercice distinct, scripté et hors ligne. Ces travaux ne démontrent pas de gain général de sûreté.

03 / ARTEFACTS TECHNIQUES

Trois prototypes, un statut de preuve explicite.

Les artefacts de recherche privés distinguent les vérifications logicielles déterministes des observations exploratoires sur modèles. Le code et les documents détaillés peuvent être examinés sur demande, sous réserve de la confidentialité et de la revue des conditions de diffusion.

PROTOTYPE DE CONTRÔLE D’AUTORITÉ

Autorisation liée à l’action

Implémenté · conformité synthétique

Objectif : empêcher qu’une revendication d’autorisation inventée par l’agent conduise à une action externe permise.

Niveaux de risque fiables, périmètres, empreintes d’action, expiration, révocation, anti-rejeu et rapports exploitables.

Un correctif ciblé vérifie les limites de montant et de destinataire sur les paramètres de l’action et rejette les divergences avec le contexte déclaré. Neuf tests de régression couvrent ce correctif, sans vérifier intégralement toutes les contraintes contextuelles.

Limite : Approbateur simulé et clé de démonstration : aucune authentification d’une vraie personne ni évaluation de modèles avancés.

TRACEPROOF

Contrôle d’intégrité des traces

Implémenté · conformité synthétique

Objectif : vérifier la cohérence des actions et des autorisations enregistrées après une tentative d’altération.

Événements chaînés par SHA-256, point de contrôle HMAC authentifié, cohérence des actions, autorisations et résultats.

Des tests d’altération hors ligne vérifient l’intégrité de la séquence et la cohérence entre actions, autorisations et résultats. Ils établissent certaines propriétés logicielles dans les hypothèses de confiance du simulateur.

Limite : La vérification suppose un enregistreur et un point de contrôle fiables ; elle ne prouve ni l’approbation humaine ni l’exécution réelle.

INTEGRATED AGENT SANDBOX

Banc d’essai d’exécution

Conformité hors ligne + pilote exploratoire Claude

Objectif : relier planification, décision d’autorisation, outils simulés et preuve d’exécution dans un même cycle.

Intégration hors ligne scriptée et harnais distinct utilisant les outils natifs d'Anthropic ; factures et paiements exclusivement simulés, manifestes de résultats traçables.

V3, novembre 2026 : 192 trajectoires multi-tours Claude Sonnet 5.5 et 96 Claude Haiku 5.5 sur les mêmes 48 tâches synthétiques conçues localement, avec politiques et répétitions distinctes. Il ne s’agit pas de 288 attaques indépendantes.

Limite : L’avantage apparent vient de quatre variantes d’une seule famille de requêtes sans approbation et reflète la métrique et la politique de comparaison. Les cas d’injection testés n’ont suscité aucune proposition de paiement illicite, et les cas de rejeu aucune proposition de second paiement non autorisé. Ils ne démontrent donc aucun bénéfice supplémentaire de la passerelle. Les paiements sont restés fictifs et en mémoire.

ÉTAT DES TRAVAUX / 17 NOVEMBRE 2026

Verifiable Chain of Authority

Élaboré en septembre 2026, Verifiable Chain of Authority (VCA) est un cadre d’évaluation de l’autorité humaine déléguée aux systèmes d’agents. Son schéma d’état d’autorité, ses huit propriétés testables et ses dix classes de défaillances relient origine de l’autorité, délégation, non-amplification, validité temporelle, contraintes de contexte, liaison à l’effet exact et continuité des preuves.

Manuscrit en préparation. VCA propose un cadre d’évaluation intersystèmes. Son implémentation de référence n’établit ni le respect exhaustif des contraintes ni la sûreté générale des agents.

V4.2 · conformité scriptée hors ligne

Correctif et contrôles reproductibles

Un audit contradictoire avec Claude a identifié une divergence entre le contexte déclaré et les paramètres de l’action dans le vérificateur de référence. J’ai personnellement reproduit la sonde du vérificateur et le contrôle sans modèle, puis dirigé un correctif ciblé accompagné de tests de régression.

V4.2 soumet des propositions scriptées à une passerelle déterministe avant tout effet fictif en mémoire. Les résultats attendus sont définis à partir de la tâche légitime, indépendamment des décisions de la passerelle. Aucune évaluation sur modèle réel n’a été exécutée pour V4.2. Ces contrôles ne démontrent pas de gain empirique de sûreté.

À venir · évaluation sur tâches externes

Étudier l’adaptation et la réussite des tâches

La prochaine étude utiliserait un sous-ensemble compatible de tâches externes issues d’AuthorizationBench ou d’AgentDojo, avec des résultats attendus définis indépendamment et une défense de référence crédible comme CaMeL lorsque la comparaison est pertinente.

La priorité est le comportement après refus, les effets non autorisés et la réussite des tâches légitimes. L’absence de gain face à une défense crédible, un coût excessif d’utilité ou un contournement réussi affaibliraient l’hypothèse. Le protocole serait figé avec un horodatage externe avant les essais confirmatoires.

Le code et le dossier détaillé restent privés dans l’attente de leur revue scientifique et des conditions de diffusion. Demander un accès à la recherche.

04 / MÉTHODOLOGIE

Mesurer à la fois la sûreté et l’utilité.

Une évaluation scientifique doit aussi documenter les échecs et les coûts opérationnels, pas seulement les attaques bloquées.

Conformité logicielle et pilote exploratoire

Ce qui a été implémenté et observé

J’ai élaboré le cadre VCA et dirigé les études exploratoires de novembre avec une aide importante d’assistants de programmation IA. Un audit contradictoire avec Claude a montré que l’avantage apparent entre politiques reflétait la métrique et le plan de comparaison. J’ai retiré l’interprétation en gain général de sûreté.

  • Vérification des autorisations et des traces hors ligne
  • Intégration scriptée et interactions natives avec Claude, toutes limitées à une simulation
  • Essais Sonnet et Haiku réalisés ; aucune estimation généralisable du gain de sûreté
Programme futur / non évalué indépendamment

Expériences comparatives proposées

Évaluer des tâches rédigées indépendamment avec vérité terrain, comparateurs réalistes et critères d'utilité. Figer les protocoles avant exécution ; mesurer le comportement des agents après refus et la manipulation des demandes d'approbation.

  • Résultat principal : effets non autorisés selon la tâche, évalués indépendamment du permis
  • Utilité : réussite des tâches légitimes et taux de faux refus
  • Coût : latence supplémentaire et interventions humaines
  • Reproductibilité : versions, tâches, prompts, répétitions et incertitudes

05 / PUBLICATIONS ET CONTEXTE

Une trajectoire scientifique adossée aux publications.

Les contributions éditoriales et les articles de cadrage sont distingués des expérimentations empiriques sur des agents réels.

Recherche externe, sans affiliation. SLEIGHT-Bench: SLEIGHT-Bench (Najt et al., 2026) examine les angles morts de la surveillance, dont la confusion d’autorisation. Cette démarche indépendante étudie plutôt le blocage au point d’exécution et la cohérence des preuves qui suivent.
Intégrité scientifique. Ces prototypes ne démontrent pas la sûreté des agents autonomes. Les tests de conformité sont synthétiques et les essais natifs sur Claude exploratoires, sur des tâches conçues localement, sans preuve d'un gain général de sûreté. Les approbations humaines authentifiées, preuves ancrées hors processus, attaques indépendantes et mesures réalistes d'utilité restent à étudier. Le code demeure privé dans l’attente de sa revue scientifique et des conditions de diffusion. Les prototypes ont été développés avec une aide importante d’assistants de programmation IA ; aucune affiliation ni approbation d’Anthropic n’est revendiquée.

Certaines publications paraissent sous le nom Stéphane Gervais Ducouret. Consulter les articles.

COLLABORATION SCIENTIFIQUE

Étudier des contrôles évaluables, pas seulement déclarés.

Échanges techniques possibles sur les évaluations de contrôle, l’autorisation humaine, la mesure de la sûreté et la reproductibilité. Les missions de stratégie et de déploiement d’ApexTransform restent une voie distincte.