Method

La frontière de l'IA : pourquoi un chiffre ne devrait jamais provenir d'un modèle de langage

Dans le conseil assisté par l'IA, la décision de conception la plus déterminante est celle qui fixe l'endroit où le modèle doit s'arrêter. Tracez correctement cette frontière et la technologie devient défendable. Tracez-la mal et vous aurez automatisé votre propre responsabilité.

Mettre l'intelligence artificielle au service de la gestion de fortune suscite autant d'enthousiasme que d'inquiétude. Les deux sentiments sont justifiés et tous deux renvoient à la même question : non pas s'il faut recourir à l'IA, mais où en délimiter le périmètre.

Les grands modèles de langage excellent véritablement sur un point : transformer le langage humain non structuré en structure. Ils savent lire une conversation décousue sur les espoirs et les craintes d'une famille pour en rédiger une politique cohérente. Ils savent adapter une question, résumer une position et restituer un rapport dans une prose fluide. Employés à cette fin, ce sont de remarquables outils de productivité.

Ils sont aussi, par construction, probabilistes. Un modèle de langage ne calcule pas : il prédit le prochain jeton plausible. Demandez-lui un chiffre et il vous en donnera un qui paraît juste, produit par la mécanique même qui invente parfois une affaire judiciaire ou une référence bibliographique. Pour une recommandation de portefeuille avec laquelle une famille vivra des années durant, et qu'un régulateur pourra examiner longtemps après les faits, le plausible ne constitue pas un fondement.

Où se situe la frontière

Une fois énoncée, la juste répartition des tâches est limpide. Le modèle prend en charge le langage : il extrait une politique d'un texte, propose tout au plus quelques questions de clarification, puis restitue un rapport autour de chiffres qu'il n'a pas le droit de modifier. Un moteur déterministe distinct prend en charge chaque chiffre : rendement attendu, volatilité, stress, l'allocation elle-même. Le modèle écrit les mots autour des calculs ; il n'effectue jamais les calculs.

Il ne s'agit pas d'une distinction cosmétique. Un moteur déterministe produit les mêmes chiffres pour les mêmes données, à chaque fois. Cette seule propriété est ce qui rend une recommandation auditable. Vous pouvez la reproduire, la rattacher à la politique dont elle découle et la défendre devant un client ou un régulateur avec des preuves plutôt qu'avec des affirmations. Un chiffre que vous ne pouvez pas reproduire est un chiffre que vous ne pouvez pas défendre.

Le modèle écrit les mots autour des calculs. Il n'effectue jamais les calculs. C'est cette frontière qui rend l'ensemble défendable.

La dimension réglementaire

La frontière ne relève pas seulement d'une bonne ingénierie : elle relève de plus en plus d'une bonne conformité. Le règlement européen sur l'IA, entré en vigueur en 2024 et applicable par étapes, adopte une approche fondée sur le risque et impose les obligations les plus lourdes aux systèmes à haut risque ainsi qu'à la prise de décision opaque et entièrement automatisée. Un moteur de calcul transparent et reproductible, assorti d'un humain qui vérifie et approuve avant que quoi que ce soit ne parvienne à un client, est bien plus facile à expliquer et à défendre qu'une boîte noire produisant une réponse que personne ne peut reconstituer.

Cette approche s'aligne également sur MiFID II. L'adéquation repose sur la capacité à démontrer que le conseil correspond au client. Des chiffres reproductibles et un dossier complet font de l'adéquation non plus quelque chose qu'une société affirme, mais quelque chose qu'elle peut prouver. L'IA, cantonnée au langage, devient une aide à la décision ; elle n'est jamais le décideur automatisé, ce qui correspond précisément à la posture avec laquelle les régulateurs sont le plus à l'aise.

L'humain dans la boucle, par conception

La dernière pièce consiste à inscrire le contrôle humain dans la structure plutôt que dans les intentions. Il ne suffit pas d'affirmer qu'un conseiller examine le résultat. Le flux de travail lui-même devrait refuser de se poursuivre tant qu'une personne n'a pas approuvé la politique extraite. Lorsque le point de contrôle est imposé par le système, et non simplement encouragé par l'interface, le jugement du conseiller s'intercale à coup sûr entre le modèle et le client, à chaque fois, sans dépendre du fait que quelqu'un songe à vérifier.

À quoi ressemble la frontière dans la pratique

Dans un système bien conçu, la séparation est visible à chaque étape. Lorsque les réponses d'une famille sont transformées en projet de politique, la contribution du modèle réside dans la structure et la formulation ; les contraintes qu'il propose sont des garde-fous, non des allocations, et elles sont soumises à la confirmation d'un humain. Lorsque des scénarios sont produits, les chiffres proviennent du moteur et le modèle n'a aucune possibilité de les modifier. Lorsqu'un rapport est rédigé, la prose se construit autour de chiffres que le modèle ne peut altérer, et une vérification confronte de nouveau ces chiffres au moteur avant la finalisation du document.

Chacun de ces gestes est un petit acte de discipline et, réunis, ils composent un système dont les résultats sont dignes de confiance précisément parce que la machine n'a jamais été autorisée à improviser là où cela importait. L'inventivité du modèle est cantonnée au langage, où elle est la bienvenue, et exclue de l'arithmétique, où elle ne l'est pas.

Le coût d'une frontière mal tracée n'a rien d'hypothétique. Une société qui laisse un modèle de langage estimer un rendement, ou ajuster discrètement un chiffre pour le faire coller à un récit, n'a pas gagné en efficacité : elle a fabriqué une responsabilité qu'elle ne peut pas voir. L'erreur sera fluide, assurée et fausse, et elle pourrait ne se révéler que lorsqu'un client ou un régulateur posera la seule question à laquelle la société ne peut répondre : d'où vient ce chiffre ? Une frontière nette est la seule réponse honnête à cette question.

Tracée de cette manière, l'IA cesse de menacer l'autorité du conseiller pour en devenir l'amplificateur. Le modèle se charge de la lecture et de la rédaction qui dévoraient autrefois des heures. Le moteur se charge des calculs, de façon reproductible. Et le conseiller se charge de la seule chose dont ni l'un ni l'autre n'est capable : exercer son jugement et l'assumer. C'est la frontière qui permet à ces trois acteurs de jouer chacun ses atouts.

Pour une famille qui s'interroge sur l'opportunité de faire confiance à un processus assisté par l'IA, la question à se poser n'est donc pas de savoir à quel point le modèle est intelligent, mais où il est autorisé à agir. Une société capable de tracer clairement la ligne, le langage ici, les chiffres là, le jugement au-dessus des deux, est une société qui a compris la technologie plutôt que de s'être contentée de l'adopter. Cette clarté vaut plus que n'importe quelle fonctionnalité, car c'est elle qui demeurera rassurante le jour où quelque chose tournera mal quelque part dans le secteur et où chaque client se mettra à poser des questions plus difficiles.

Sources : règlement européen sur l'IA (2024) ; exigences d'adéquation de MiFID II. Cet article constitue une information générale et non un conseil juridique.

À lire également