Connexion
Deux mois après Jev, le paysage fragmenté des modèles de décision
L’essentiel
Deux mois après le lancement de Jev par TypeSafe AI, plusieurs acteurs proposent leurs propres modèles de décision. Cloudflare, Microsoft, OpenAI, AWS, Google et PostHog explorent ce segment, qui vise à produire des réponses structurées et calibrées plutôt que du texte.
Les architectures, les modalités prises en charge et les tarifs restent toutefois très différents.
- Un autre usage des modèles : ces systèmes répondent à des questions prédéfinies — choisir une option, attribuer un score, déterminer si une proposition est vraie ou fausse, ou localiser un objet dans une image. Ils peuvent traiter plusieurs questions en parallèle sans génération classique de tokens.
- Cloudflare mise sur l’open weight : ses trois modèles Clef, Clef-flash et Clef-omni dérivent de Qwen et sont publiés sous licence Apache 2.0. Ils prennent en charge jusqu’à 64 questions par requête, avec du texte, des images et, pour Clef-omni, de l’audio. Le tarif de Clef-flash a été abaissé à 0,038 dollar par million de tokens.
- Microsoft réutilise Qwen : Microsoft Decision-1 repose sur Qwen3.5-9B. Ce modèle fermé, accessible via Azure et Foundry, traite uniquement du texte et dispose de 32 000 tokens de contexte. Microsoft cite des usages internes pour analyser les retours Xbox, évaluer Copilot ou récupérer du contexte lors d’une réponse à incident.
- OpenAI adapte un modèle existant : l’API Decisions s’appuie sur GPT-6 Luna, avec prise en charge du texte, des images et du JSON. Elle accepte jusqu’à 400 questions par appel. Le prix annoncé est de 0,10 dollar par million de tokens, ramené à 0,01 dollar pour les entrées mises en cache.
- AWS privilégie les modèles ouverts : Strands Decider combine une première version fondée sur Qwen3.5-2B et quatre modèles basés sur Gemma 4. Ces derniers acceptent également les images, mais leurs fenêtres de contexte restent plus limitées que celles de certains concurrents.
- Google entre à son tour sur le marché : Gemini Decision 1, lancé le 11 novembre, traite texte, image, audio, vidéo et PDF. Sa fenêtre de contexte atteint 256 000 tokens et il peut traiter jusqu’à 1 000 questions par requête. Son tarif est de 0,10 dollar par million de tokens.
- PostHog conserve une capacité de raisonnement : son modèle Jeeves peut déclencher une étape de raisonnement lorsque son niveau de confiance est insuffisant. Il est notamment utilisé pour détecter des données personnelles dans des résumés de sessions, choisir des graphiques ou sélectionner un modèle adapté à une requête.
- Le marché reste difficile à comparer : prix, taille du contexte, modalités, licences et capacités de raisonnement varient fortement. Le choix dépendra donc des tâches visées, des contraintes d’intégration et du coût réel à l’usage, au-delà du seul prix par million de tokens.
C’était il y a deux mois : la start-up TypeSafe AI, fondée par un ancien chercheur d’OpenAI, lançait Jev.
Ce modèle à cheval entre LLM et classifieurs ne produit pas de tokens, mais des « décisions calibrées ». Plus précisément, des réponses à quatre types de questions cadrées :
- Sélectionner une option dans une liste prédéfinie
- Attribuer un score sur une échelle ordonnée
- Évaluer si un élément est vrai ou faux
- Dessiner des boîtes englobantes
Chaque question a sa primitive (respectivement Choice, Score, Noul et Box). On peut les combiner dans un même appel. Jev les traite en parallèle, sans entraînement spécifique par tâche, avec une fenêtre de contexte de 64k. Coût : 0,042 $ par million de tokens en entrée.
TypeSafe AI parle de modèle « Système 1 », en référence à la terminologie employée par Daniel Kahneman dans son livre Thinking, Fast and Slow. Elle dénote le jugement rapide et intuitif, par opposition au « Système 2 », qui implique un raisonnement lent et délibéré.
« Jev » renvoie à l’économiste britannique William Stanley Jevons (1835-1882). Lequel a théorisé l’idée qu’en abaissant radicalement le coût d’une ressource, on en démultiplie l’usage – référence mobilisée par exemple pour illustrer l’« effet rebond » de la 5G.
Trois modèles open-weight chez Cloudflare
À l’origine, Jev ne gérait que les primitives Choice, Score et Noul. L’essentiel des concurrents qui ont émergé reprennent ce trio.
Cloudflare avait fait partie des premiers à se manifester. Début octobre, il avait lancé deux modèles : Clef et Clef-flash. Quelques jours plus tard, il y avait ajouté Clef-omni. Tous dérivent de modèles Qwen (denses pour Clef et Clef-flash, MoE pour Clef-omni). Leurs poids sont ouverts sous licence Apache 2.0.
Clef et Clef-flash gèrent texte, JSON structuré, images et vidéo. Clef-omni y ajoute l’audio. Tous acceptent jusqu’à 64 questions par requête. Sur Workers AI, Clef et Clef-omni ont chacun 64k de contexte (on peut élargir à 256k en scénario d’autohébergement). C’était aussi le cas Clef-flash initialement. Mais Cloudflare a abaissé la fenêtre à 24k, ayant constaté que 99,76 % des requêtes ne dépassaient pas ce seuil. Cela lui a permis de proposer une tarification plus avantageuse : 0,038 $ le million de tokens, contre 0,09 $ auparavant.
Microsoft s’appuie aussi sur un LLM Qwen
Lancé le même jour que Clef-omni, Microsoft-Decision-1 dérive du même LLM que Clef-flash (à savoir Qwen3.5-9B). Il s’agit d’un modèle fermé, à 32k de contexte, disponible sur Azure / Foundry (inférence localisable dans l’UE) et qui gère uniquement le texte. Même prix que Jev : 0,042 $ le million de tokens.
Microsoft donne quelques cas d’usage en interne. Parmi eux, l’équipe Xbox pour thématiser les retours utilisateurs et l’équipe Copilot pour mesurer la qualité des réponses. Autre exemple : la fonction de replanification intégrée à la plate-forme de « R&D agentique » Microsoft Discovery. Le modèle accompagne aussi la récupération de contexte pour la réponse à incident (logs, tickets, appels, etc.).
OpenAI reconvertit GPT-6 Luna en modèle de décision
Pour concurrencer Jev, OpenAI n’a pas développé de modèle spécifique. Il utilise GPT-6 Luna, accessible sur l’API Decisions. Passée en disponibilité générale le 22 octobre, elle accepte texte, images et JSON. On peut combiner jusqu’à 400 questions par appel. Tarif : 0,10 $ par million de tokens… ou 0,01 $ pour les entrées mises en cache.
Au-delà du caching, l’API Decisions permet la localisation de l’inférence dans l’UE et s’intègre avec le mode de conversation vocale « temps réel » GPT-Live. OpenAI communique quelques cas d’usage internes, dont le tri des transactions dans l’équipe Finances personnelles et l’analyse des thèmes et du ton de la couverture médiatique pour l’équipe Communication.
AWS opte largement pour une base Gemma
Comme Cloudflare, AWS a choisi l’open-weight pour ses modèles Strands Decider. Le premier sorti se base sur Qwen3.5-2B. « Suffisamment petit pour expérimenter, suffisamment grand pour réaliser des tâches significatives », affirme la branche cloud d’Amazon. Elle encourage aussi le fine-tuning en donnant une durée indicative de 11 heures sur une RTX 3090.
À ce modèle s’en sont ajoutés quatre, tous fondés sur du Gemma 4 dont un MoE (26B-A4B). Ils ont la particularité – comme Jev, d’ailleurs – d’accepter des images aussi bien comme contexte qu’au sein des instructions. AWS a tendance à passer sous silence la fenêtre de contexte native, limitée à 4k. Les modèles basés sur Gemma 4 ont toutefois été testés jusqu’à 32k.
Google lance finalement aussi son Jev
Google a attendu le 11 novembre pour dégainer sa réponse : Gemini Decision 1, qui a sa propre API. Il combine les modalités texte, image, audio et vidéo (documents PDF compris) avec une fenêtre de contexte de 256k, jusqu’à 1000 questions par requête et la possibilité de régler la résolution. Pour le moment, pas de mise en cache, ni de traitement par lots ou d’inférence Flex.
On peut actuellement y accéder sur Google AI Studio et via les SDK google-genai, à 0,10 $ le million de tokens. Des intégrations sont en cours avec LangChain, OpenCode et Vercel, entre autres. Google évoque quelques usages au sein de ses produits. Par exemple, Gemini Notebook pour attribuer à chaque requête le bon modèle et le bon niveau de raisonnement, CC (produit Google Labs) pour la sélection d’émojis et Google Search pour la sécurité des outils MCP.
PostHog garde une dose de raisonnement
Base Qwen également pour Jeeves de PostHog. Ce modèle a la particularité de raisonner lorsque son niveau de confiance n’est pas suffisant (par défaut, score < 0,9). Le code est sous licence MIT ; les poids sous licence Apache 2.0. Il faut compter une vingtaine de Go en BF16 et une dizaine en FP8.
PostHog liste lui aussi quelques usages internes. En particulier dans son outil de rejeu de sessions. D’une part, pour identifier la présence de données personnelles dans les résumés de ces sessions. De l’autre, pour déterminer si un résumé correspond à ce que l’utilisateur recherche. PostHog exploite aussi Jeeves avec son bot Slack pour optimiser la sélection du modèle qui répond aux requêtes. Il s’en sert également pour examiner les requêtes SQL et les premières lignes de résultats, et ainsi sélectionner le graphique idéal.
Illustration générée par IA
The post Deux mois après Jev, le paysage fragmenté des modèles de décision appeared first on Silicon.fr.
