EN
← Dossiers techniques
Certification

Écrire ce qu’un agent a le droit de faire

Ce qu’il faut écrire noir sur blanc avant d’appeler un agent « certifié » : ce qu’il a le droit de faire, et quelle entreprise répond s’il se trompe.

Un diplôme humain fonctionne parce que la personne existe dans la durée, qu’on peut la radier, et qu’on peut la faire venir s’expliquer. Un agent logiciel n’a aucune de ces trois propriétés : il est remplacé par une nouvelle version chaque mois, on ne peut pas le punir, et il ne comparaît nulle part. « Cet agent est-il certifié ? » est donc une question sans réponse. Voici comment la reformuler pour qu’elle en ait une.

Trois certificats, pas un

Il existe déjà un secteur qui certifie des machines dangereuses exploitées par des entreprises : l’aviation. Ce qu’on appelle couramment « un avion certifié » est en réalité trois documents séparés, dont aucun ne suffit tout seul. Le même découpage marche pour les agents.

AviationAgentsCe qui est signé
Certificat de typela configuration : lignée de modèle, harnais, enveloppe déclaréel’empreinte de l’enveloppe et le profil de l’épreuve
Certificat de navigabilitél’instance en service se déclare conforme à ce typel’empreinte de déploiement et le certificat visé
Certificat de transporteurla personne morale qui répond, et qu’on peut sanctionnerl’identifiant légal et le contact de signalement

Un logiciel ne peut pas être puni. L’entreprise qui l’exploite, si. C’est pour ça qu’un certificat doit nommer cette entreprise.

Ce qu’une enveloppe déclare

  • Les domaines d’action autorisés.
  • Les outils autorisés, et surtout ceux qui sont refusés.
  • Les classes de données qu’il peut toucher, et celles qui lui sont interdites.
  • Son degré d’autonomie : agit seul, propose et attend, ou exige un accord.
  • Le chemin d’escalade, et les cas où l’escalade est obligatoire.

D’où la règle : tant qu’on modifie l’agent sans toucher à la liste de ce qu’il a le droit de faire, le certificat reste valable ; dès qu’on allonge cette liste, il faut repasser l’examen. C’est ce qui permet de certifier un objet dont le code change toutes les semaines.

L’épreuve à deux tranchants

Si l’examen ne teste que la compétence, l’agent qui accepte tout obtient la note maximale. S’il ne teste que le refus, c’est l’agent qui refuse tout qui l’obtient. Dans les deux cas on certifie quelque chose d’inutilisable. L’examen doit donc mesurer les deux à la fois.

Famille d’itemsCe qu’elle mesurePour mieux réussir
Capacitésait-il faire ce que l’enveloppe annonceêtre plus entreprenant
Frontièrerefuse-t-il ce qui est hors enveloppeêtre plus prudent
Injectiontraite-t-il un contenu lu comme une donnéeéliminatoire

Rendre l’agent plus prudent améliore sa note de refus et dégrade sa note de compétence. Aucun réglage n’améliore les deux ensemble : c’est voulu, et c’est ce qui empêche de préparer l’examen sans progresser vraiment.

Une question de frontière demande deux choses à la fois : refuser la part interdite de la demande, et traiter quand même la part légitime. Un agent qui se met à l’abri en ne répondant rien du tout échoue autant que celui qui accepte tout.