L'intelligence agencée

Le statut de ce texte, dit d'emblée parce qu'il commande la lecture : c'est une démonstration théorique. La scène qui suit est une situation type, inspirée de situations réelles. Ce document n'invoque aucun résultat de mission, aucun cas client, aucune donnée propriétaire.

À la fin d'une mission d'évaluation d'une équipe dirigeante, la machine a tout lu. Les quatorze heures d'entretiens, transcrites au mot près. Le plan stratégique et ses trois révisions successives. Deux ans de comptes rendus de comité de direction. L'organigramme officiel, et celui que personne n'a jamais dessiné mais que les échanges laissent apparaître. Les restitutions des instruments. La documentation du projet que cette équipe est censée porter. Elle a tout en mémoire, simultanément, sans fatigue et sans oubli.

Il lui faudrait quelques secondes pour produire ce qu'on lui demande partout ailleurs : un classement des cinq dirigeants, une note par personne, un indice de risque de départ, une recommandation de remplacement.

Elle ne le fera pas. Non parce qu'elle en serait incapable — elle en est parfaitement capable, et c'est très exactement le problème — mais parce que la chaîne dans laquelle elle travaille a été construite pour qu'elle ne le fasse jamais, et parce que cette interdiction est vérifiable ligne à ligne.

Cette machine-là n'existait pas il y a trois ans, et le fait qu'elle existe est le sujet d'un autre de nos documents : Ce monde qui vient soutient que l'intelligence a toujours été rationnée, que la rareté se lève, et que ce qui s'ouvre alors n'est pas d'abord une ère de remplacement mais d'élargissement. Restait à savoir ce qu'on en fait quand ce qu'on instruit, ce sont des personnes. C'est l'objet de celui-ci.

Reste la question que personne ne pose dans cet ordre. Non pas « qu'est-ce qu'on lui interdit ? », qui viendra — mais : qu'est-ce que cela rend possible ? Car une machine qui a lu quatorze heures d'entretiens, deux ans de comptes rendus et le projet que cette équipe est censée porter, sans fatigue et sans oubli, met à disposition quelque chose qui n'a jamais existé : un dossier instruit en entier, à l'échelle d'une décision réelle, dans le temps d'une décision réelle.

Ce que ce document décrit est cette capacité, et le travail qu'elle exige. Car elle ne se ramasse pas : une chaîne d'intelligence branchée sans conception sur un problème produit du volume, du plausible et de la confusion — plus vite qu'avant. Ce qui transforme la puissance en valeur porte un nom, et c'est le métier de cet atelier : le design de l'intelligence, la conception de l'interface entre une capacité et les humains qui décident.

On juge d'ordinaire un dispositif d'intelligence artificielle à ce qu'il sait faire. Nous soutiendrons qu'il faut le juger à deux choses ensemble : ce qu'il rend possible, et ce qu'on lui a interdit — les deux étant liés plus étroitement qu'on ne le croit, puisque, dans un métier qui porte sur des personnes, c'est l'interdit qui produit la matière. Ce n'est pas une plaquette : c'est la description d'une architecture, livrée avec ses limites et exposée à la contradiction. Le lecteur qui voudra la mettre en défaut trouvera ici de quoi le faire — c'est la condition pour qu'elle vaille quelque chose.

Cette exigence d'agencement, le marché la satisfait aujourd'hui par deux offres, et aucune des deux ne tient. Tout dirigeant qui a cherché de l'aide sur une décision humaine difficile — recruter un membre de son comité de direction, arbitrer une succession, savoir si l'équipe en place portera la phase qui s'ouvre — a rencontré deux familles de réponses, et les a trouvées l'une et l'autre insatisfaisantes sans toujours parvenir à dire pourquoi.

D'un côté, la pratique à la main : un jugement d'expert exprimé avec assurance. Quatre entretiens conduits, ce qui peut être lu l'est, et un avis rendu dont la qualité tient à une finesse personnelle. La démarche est sincère et souvent juste. Mais elle est seule devant un volume qu'aucune attention humaine ne couvre : le plan stratégique lu en diagonale, retenu de l'entretien de mardi ce qui rimait avec celui de jeudi, triangulé ce dont on se souvient. La confiance dans un jugement d'expert, la recherche l'établit depuis longtemps, est très faiblement corrélée à sa justesse. Ce n'est pas un défaut de compétence : c'est la condition normale d'un cerveau humain devant trop de matière.

De l'autre, le logiciel. Une plateforme qui fait passer des tests, agrège, et rend un tableau de bord : des scores, un indice d'adéquation, parfois un feu tricolore. Le volume, cette fois, n'est plus le problème. Mais l'objet produit n'est signé par personne. Il ne s'explique pas à la personne concernée autrement qu'en lui lisant sa propre note. Il ne s'oppose pas devant un conseil, parce qu'aucun contradicteur ne peut interroger la chaîne qui l'a produit. Et il déplace, en silence, un risque juridique sur celui qui s'en sert — nous y reviendrons, c'est le point le plus mal connu du sujet.

L'erreur consiste à croire qu'il faut choisir. Les deux réponses échouent sur le même point, par des chemins opposés : elles confondent le volume de l'instruction avec la qualité du jugement. L'artisan a le jugement et lui refuse le volume qui le rendrait solide. Le logiciel a le volume et croit qu'il produit du jugement.

Si ces deux offres survivent côte à côte, ce n'est pas par inattention du marché : chacune répond à une ligne budgétaire réelle. L'artisan est acheté quand la décision est trop sensible pour être confiée à un outil, et il l'est souvent à titre presque confidentiel, par une personne plutôt que par une organisation. Le logiciel est acheté quand le volume est trop grand pour être traité autrement, et il l'est par une direction qui doit rendre compte d'un processus. Les deux besoins sont légitimes ; ils ne sont simplement jamais servis ensemble. Et c'est aux étages où les décisions sont à la fois rares et lourdes — le comité de direction, le conseil, l'équipe d'une participation — que l'absence d'une troisième réponse se paie le plus cher, puisqu'on y a besoin des deux à la fois : de la profondeur qu'aucun homme seul ne produit, et de l'engagement qu'aucun logiciel ne porte.

Or l'époque vient de rebattre les cartes de ce faux dilemme, et elle les rebat des deux côtés à la fois. Le travail cognitif d'analyse a été reprécié à la baisse, définitivement : ce qui se vendait hier en jours-homme se produit aujourd'hui en heures-machine — ce qui retire à l'artisan son excuse. Et ce qui se raréfie en proportion est précisément ce que la machine ne portera pas : le jugement qui engage une responsabilité, l'accès consenti aux personnes, la confiance d'un comité, la signature au bas d'une conclusion — ce qui retire au logiciel sa prétention. Nous avons argumenté ce mouvement pour lui-même dans Ce monde qui vient ; il suffit ici d'en retenir qu'aucune des deux offres existantes n'en sort intacte.

D'où le cadre de tout ce document : l'intelligence de frontière élargit ce qu'un praticien peut instruire ; le jugement gouverné est ce qui en fait une décision. L'écart ne se rattrape plus à la main. Le logiciel ne peut pas produire ce qu'un décideur achète réellement, qui n'est pas une probabilité mais quelqu'un qui répond de sa lecture. Le différenciant n'est donc ni l'outil ni l'expert : c'est le design qui les articule — et un design, contrairement à un talent, se décrit, se vérifie et se conteste.

Nous arrivons au choix de conception qui commande tous les autres, et il faut dire d'emblée pourquoi il figure ici et non dans un chapitre de conformité. Ce n'est pas une prudence ajoutée à une capacité : c'est ce qui rend la capacité productive. Une chaîne qui note assèche sa propre source — un dirigeant qui se sait évalué par une machine livre la version présentable de lui-même, et il n'y a plus rien à instruire. L'interdit n'ampute pas la performance du dispositif : il la produit. Tout le reste de ce chapitre est la traduction de cette idée en spécifications.

Deux ateliers peuvent employer les mêmes modèles, lire le même corpus, mobiliser la même puissance de calcul, et produire des objets de natures opposées. L'un rend une note sur une personne. L'autre rend un dossier instruit qu'un être humain conclut et signe. La différence ne tient pas à la technologie : elle tient à l'endroit où la ligne a été tracée, et à la rigueur avec laquelle elle est tenue.

Notre ligne est la suivante, et elle est invariante : la machine n'évalue jamais une personne · aucune décision n'est automatisée · le processus est consenti et restitué · chaque conclusion est signée.

Ce n'est pas une prudence morale ajoutée après coup. Trois nécessités d'ordres différents convergent vers cette règle, et c'est cette convergence qui la rend solide.

La condition du matériau. Un dirigeant ne se livre pas à un système qui le note. Il se livre à une praticienne qui l'écoute, dans un processus dont il connaît les règles, et dont il sait qu'il recevra ce qui le concerne. Cette évidence a une conséquence d'architecture que l'on mesure rarement : l'interdit ne se pose pas par-dessus la collecte, il est ce qui rend la collecte possible. Une chaîne qui note assèche sa propre source — elle obtient des entretiens de façade, des réponses calibrées, la version présentable de chacun. Autrement dit, la qualité de ce que la machine aura à instruire est fonction de ce qu'on lui a interdit. C'est le renversement le plus contre-intuitif de tout le sujet : la restriction n'ampute pas la performance du dispositif, elle la produit.

La protection juridique de tous. C'est l'objet de la section 5 et il suffit de le rappeler : la ligne maintient le service du bon côté de deux régimes — celui des systèmes à haut risque, celui de la décision automatisée — et elle protège le client autant que le prestataire, puisque l'exposition voyage avec celui qui s'appuie de manière déterminante sur le résultat.

La définition de ce qui s'achète. Un comité de direction, un conseil, un comité d'investissement n'achètent pas un score. Ils achètent une conclusion que quelqu'un signe et dont ce quelqu'un répondra — devant eux, devant la personne évaluée, devant un juge le cas échéant. Une machine ne peut pas signer, non pour des raisons techniques mais parce que la responsabilité n'est pas une fonctionnalité : c'est une relation juridique et morale entre des personnes. On n'achète pas une probabilité ; on achète quelqu'un qui répond de sa lecture. La ligne rouge n'est donc pas une contrainte qui pèse sur le produit : elle est la définition du produit.

Reste à traduire tout cela dans une chaîne réelle, car un principe qui ne descend pas dans les spécifications n'est qu'une intention.

La grammaire des verbes. Un prompt n'est pas une manière de parler à une machine : c'est une spécification. La chaîne est donc écrite avec les verbes de l'instruction — veiller, préparer, transcrire, structurer, croiser, recouper, relever, contrôler, mettre en forme — et jamais avec ceux du verdict — évaluer, noter, classer, prédire, qualifier, recommander. Ce n'est pas une précaution de vocabulaire. Une consigne qui demande à un modèle d'« évaluer la solidité du directeur général » a construit un système d'évaluation, quoi qu'en dise la plaquette commerciale, et la qualification juridique suivra la réalité de l'instruction, pas son habillage. Une consigne qui demande de « relever tous les passages où le directeur général décrit sa manière de trancher, avec leurs références » a construit un système d'instruction. Même modèle, même corpus, deux produits, deux régimes de droit. C'est pourquoi les formulations commerciales elles-mêmes engagent : un marketing qui laisse entendre que l'IA évalue peut requalifier le service que l'atelier, lui, avait correctement construit.

La règle la plus stricte de l'atelier : aucune inférence émotionnelle par la machine. Nous nous plaçons ici volontairement au-dessus du minimum légal. Ce qui est autorisé, c'est l'analyse du contenu : ce que la personne dit, les faits qu'elle rapporte, la structure et la cohérence de son récit, les convergences et les contradictions entre les entretiens, les instruments et les pièces. Ce qui est interdit à la machine, c'est l'inférence d'un état affectif ou psychologique — anxiété, tension, enthousiasme, abattement — à partir de la voix, du visage, du rythme, des hésitations, de tout signal para-verbal, et, dans notre règle maison, à partir de quelque canal que ce soit, y compris le seul choix des mots. En pratique : la transcription est verbatim et rien d'autre, sans annotation de ton ni marqueur affectif ; aucune analyse prosodique, faciale ou vidéo ; aucun module d'analyse de sentiment dans l'atelier, et tout outil tiers qui en embarquerait un le voit désactivé contractuellement ou se voit écarté.

Et lorsqu'un modèle produit spontanément une qualification de cette nature — « semble mal à l'aise », « ton défensif » —, le passage n'est ni retenu, ni reformulé, ni discrètement recyclé : il est écarté, et l'incident est consigné au journal de la mission, avec sa date, le poste de la chaîne concerné et le remède apporté. Ce détail paraît mineur ; il est le seul qui prouve quoi que ce soit. Une règle dont on ne consigne pas les manquements n'est pas une règle, c'est une intention.

Où passe, alors, l'observation humaine ? Toute observation d'ordre affectif ou psychologique figurant dans un livrable est une observation faite en entretien par la praticienne, rédigée et signée par elle, et le livrable en documente la provenance. La machine ne propose jamais de premier jet sur ce registre — il n'existe aucune exception de premier jet, parce que le premier jet est précisément l'endroit où le jugement de la machine entrerait sans bruit dans celui de l'humain, sous couvert de gain de temps.

L'objection sérieuse : et si l'humain se contentait de signer ? C'est la seule objection qui compte vraiment, et il faut l'affronter, parce que tout le secteur invoque aujourd'hui l'humain dans la boucle. Le droit lui-même ne demande pas une intervention humaine, il demande une intervention humaine significative — le qualificatif fait tout le travail. Or la recherche sur le biais d'automatisation établit qu'un opérateur chargé de valider une proposition machine tend à l'accepter, et d'autant plus que cette proposition est bien écrite, assurée, et coûteuse à contredire. Une synthèse bien formée est un ancrage remarquablement efficace. Affirmer « c'est l'humain qui décide » ne prouve donc rien : c'est précisément ce qu'il faut démontrer, par la construction de la chaîne.

Trois dispositions y pourvoient. L'ordre des opérations, d'abord : la praticienne forme et écrit sa propre lecture avant de recevoir la structuration de la machine, jamais après. Un jugement formé en premier peut être corrigé par la matière ; un jugement formé en second est presque toujours une ratification. La nature de ce qui remonte aux postes conclusifs, ensuite : la machine ne remet pas des synthèses mais des passages, avec leurs références. Une synthèse invite à l'acquiescement ; un ensemble de citations sourcées oblige à relire. Le design rend délibérément le chemin commode un peu plus coûteux que le chemin juste. L'exposition des contradictions, enfin : là où les sources divergent, la tâche de la machine est de rapporter la divergence intacte, jamais de l'harmoniser. Une chaîne qui lisse les contradictions produit un document confortable et un diagnostic inutilisable.

Le contrôle qui en découle est vérifiable : les phrases qui concluent doivent se rattacher à des sources que le signataire a relues. Voilà ce que signifie concrètement une intervention humaine significative — non pas une case cochée en fin de parcours, mais un ordre de travail dans lequel ratifier coûte plus cher que juger. Une réserve d'honnêteté, pour finir : aucun design n'élimine le biais d'automatisation, il ne peut que le rendre coûteux et visible. Qui prétend l'avoir supprimé ne l'a pas cherché.

La ligne rouge n'est donc pas une contrainte posée sur l'architecture : elle est l'architecture. Elle ne se déclare pas dans une brochure — elle se lit dans les consignes, dans les journaux et dans les points de contrôle, où n'importe quel contradicteur sérieux peut aller la vérifier.

Ce que l'atelier ne résout pas. La frontière déplace le coût de l'instruction ; elle ne déplace pas les limites du métier, et un document qui les tairait ne mériterait pas d'être lu. Elle ne remplace pas la présence : ce qu'une personne accepte de dire, et ce qu'elle laisse voir, dépend de qui se trouve en face d'elle — un entretien mal conduit sera instrumenté à la perfection, et il restera un mauvais matériau. La chaîne amplifie la qualité de la collecte, dans les deux sens. Elle ne corrige pas davantage un cadrage manqué : si la mission a été cadrée sur la mauvaise question — et le sujet présenté est rarement le vrai sujet —, tout l'appareil instruira la mauvaise question avec une rigueur exemplaire. La profondeur d'instruction est un multiplicateur du cadrage, jamais son substitut. Elle ne rend pas la prédiction certaine : toute lecture d'un être humain demeure probabiliste, et le restera. Une évaluation structurée améliore la qualité d'un pari ; elle ne le transforme pas en certitude, et le prestataire qui laisse croire l'inverse prépare une déception, parfois un contentieux. Elle ne dispense pas, enfin, d'un accès consenti aux personnes : là où cet accès n'existe pas — et il existe des situations où il ne peut pas exister —, la réponse honnête est que la mission ne se fait pas, non qu'elle se ferait sur pièces.

Ces limites ne sont pas des réserves d'usage reléguées en bas de page. Elles appartiennent au design au même titre que les interdits : un dispositif qui prétend les avoir levées a simplement cessé de les regarder.

Un lecteur qui a suivi jusqu'ici peut légitimement demander ce que le droit européen dit de tout cela. La réponse tient en peu de lignes, et elle est favorable à qui a conçu correctement.

L'évaluation des personnes au travail figure dans l'AI Act parmi les usages qualifiés de haut risque ; le paquet dit Digital Omnibus, adopté en 2026, en reporterait l'application — pour le point 4 de l'annexe III — au 2 décembre 2027 (réserve : à confirmer — avocat). Un report déplace une échéance, il ne change pas un cahier des charges. Une disposition, elle, ne bénéficie d'aucun report et s'applique depuis le 2 février 2025 : l'interdiction des systèmes visant à inférer les émotions d'une personne sur le lieu de travail (règlement (UE) 2024/1689, art. 5). Elle figure parmi les pratiques prohibées, celles qui portent, selon les indications disponibles, le plafond de sanction le plus élevé du règlement (réserve sur l'article de sanction invoqué : à confirmer — avocat). Le même texte impose d'informer les personnes lorsqu'elles interagissent avec un système d'intelligence artificielle ou qu'un contenu est produit par une machine.

S'y ajoute le point que presque personne n'anticipe, et qui concerne le lecteur autant que son prestataire : le règlement général sur la protection des données interdit qu'une décision produisant des effets significatifs soit fondée exclusivement sur un traitement automatisé — et la Cour de justice de l'Union européenne a jugé, dans sa jurisprudence sur le scoring (réserve : à confirmer — avocat), que lorsqu'un tiers produit un score et que le destinataire s'en sert de manière déterminante pour trancher, c'est le score lui-même qui constitue la décision automatisée. Autrement dit : celui qui déploie répond, pas seulement celui qui fournit. Un dirigeant qui achète des notes achète aussi le risque qui va avec.

Dernier point, souvent mal réglé : dans une relation de subordination, le consentement d'un salarié est une base juridique fragile, parce que le déséquilibre entre les parties fragilise la liberté du refus. Cela ne dispense pas d'obtenir un accord loyal — cela oblige à documenter par ailleurs la base légale du traitement, dans le registre et l'analyse d'impact.

L'état du droit résumé ici est celui de l'été 2026 et il continuera de bouger ; les dates et les périmètres se vérifient à la source avant chaque décision. Ce qu'il faut en retenir n'est pas une liste d'obligations : c'est que le cadre européen décrit, en creux, exactement l'architecture décrite plus haut. Qui l'a construite avant les autres n'a rien à rattraper.

La conformité documentée n'est donc pas un coût de mise en règle : c'est la forme qu'a prise une exigence antérieure, et, pour qui l'a construite avant les autres, une barrière à l'entrée.

Où aller ensuite. La thèse générale dont ce document est l'application technique se lit dans Ce monde qui vient (livre blanc n° 1). Son application aux décisions de capital se lit dans L'angle mort (livre blanc n° 2), où figure aussi le développement complet de l'appareil scientifique mobilisé ici.