Un classifieur est une entrée pour une décision de routage

Écrit le 25 septembre 2026. Jev et les fonctionnalités de routage qui l’entourent sont nouveaux et encore en évolution, donc ces informations sont exactes à cette date. Consultez la documentation des fournisseurs avant de vous baser dessus, et contactez-moi si vous avez une question.

TypeSafe AI a annoncé Jev le 15 septembre 2026, un modèle qui répond à des questions typées et renvoie des probabilités plutôt que du texte libre. Une grande partie de la discussion depuis a porté sur son utilisation pour router le travail. Le routage est un vrai travail, et c’est l’une des six étapes d’un système capable d’agir sur ce que le modèle dit.

Voici une requête tracée à travers une banque fictive. Un conseiller demande : pourquoi ce client a-t-il été facturé des frais de remboursement anticipé de prêt hypothécaire, et pouvons-nous les annuler ? L’explication est un travail pour un LLM. L’annulation est une action, et une réponse générée ne devrait jamais la prendre seule. La conception est illustrative et rien n’a été benchmarké.

Camunda exécute le processus. Il maintient l’état du dossier, appelle chaque système, évalue les tables de décision, et réessaie, escalade ou attend l’approbation comme modélisé. Les six étapes sont des responsabilités, et une implémentation réelle peut en fusionner certaines ; la sélection du modèle et de l’endpoint est souvent une seule décision. Les garder séparées permet au modèle ou à la passerelle de changer sans que personne ne touche aux règles d’annulation.

La décision de routage a quatre entrées

Jev fournit la première : l’intention, les capacités dont la tâche a besoin, et le degré d’incertitude du jugement. La banque fournit les trois autres. Quels modèles ont passé ses propres évaluations pour cette tâche. Quels endpoints sa politique de déploiement autorise. Ce que chaque option coûte selon ses contrats, à la capacité actuelle. Une table de décision et un job worker les combinent : écarter ce que la politique interdit, garder ce qui passe la barre de qualité, choisir en fonction du coût.

Deux détails sont souvent manqués. L’appel au classifieur nécessite également une autorisation : si la politique interdit d’envoyer le texte du conseiller à une API externe, un LLM privé en aval ne résout pas ce problème (plus sur la résidence des données). Et le coût est une estimation jusqu’à la fin de l’appel. La longueur de la sortie est inconnue à l’avance, et la mise en cache, le raisonnement facturable, les appels d’outils et les réessais modifient tous le total du dossier.

Une réponse typée avec une probabilité est plus facile à exploiter pour le code qu’un paragraphe. Elle peut toujours être erronée. C’est pourquoi l’annulation passe par des règles, et par une personne lorsque les règles l’exigent.

Vous pouvez acheter la politique à la place

L’Auto Router d’OpenRouter classifie le prompt et choisit le modèle pour vous. En septembre 2026, sa documentation décrit chaque niveau de coût comme “une fourchette, pas un plafond” : il réduit la fourchette de prix et ne plafonne pas les dépenses. Pour de nombreuses charges de travail, c’est suffisant. Une banque qui a besoin de ses propres résultats d’évaluation, contrats et règles de données dans la décision rédigera généralement elle-même la politique, et peut toujours utiliser Jev comme l’une des entrées.