Baseten a annoncé le 20 novembre 2026 le lancement de deux nouveaux modèles de décision, Bison‑1 et Groundhog‑1. Ces modèles, issus d’une post‑formation à partir des bases Gemma 4 de Google, sont conçus pour fournir des probabilités calibrées sur des décisions pré‑définies, tout en acceptant du texte et des images. L’un des points forts mis en avant est la capacité à gérer jusqu’à 131 072 TokenUnité de contenu traitée par un modèle de langage, pouvant représenter un mot, une partie de mot ou un caractère., soit huit fois le contexte des API précédentes de Baseten (mammoth‑1, elephant‑1, joey‑1).

Des modèles à contexte long et décision calibrée

Bison‑1 est un modèle dense de 31 milliards de paramètres, tandis que Groundhog‑1 repose sur une architecture mixture‑of‑experts de 26 milliards de paramètres, avec environ 4 milliards de paramètres actifs par jeton. Les deux modèles intègrent une option « I don’t know » entraînée, ce qui améliore la calibration des réponses. La mesure de calibration principale, le Brier score, a été utilisée par Artificial Analysis pour établir un indice de décision. Bison‑1 a obtenu le meilleur score du tableau : un Brier de 0,14, ce qui le place en tête parmi 19 modèles évalués, avec un indice de 76 sur 100. Groundhog‑1, quant à lui, n’a pas encore reçu de score officiel, laissant son potentiel de mixture‑of‑experts à vérifier.

Performances et tarification

Les tests internes de Baseten sur des jeux de données à très long contexte (LongMemEval) montrent que Bison‑1 atteint 84,8 % sur la version « M » et 87,1 % sur la version « S ». Groundhog‑1 obtient respectivement 77,4 % et 79,3 %. Ces résultats confirment une supériorité de Bison‑1 sur les tâches de mémorisation longue, même si les deux modèles restent compétitifs.

Côté tarif, Baseten propose Bison‑1 à 0,10 $ par million de jetons et Groundhog‑1 à 0,035 $, les prix restant alignés sur les modèles précédents. Les deux modèles sont accessibles via les API Baseten et les poids sont disponibles sur Hugging Face, sous une double licence : Apache 2.0 pour le code de base Gemma 4 et MIT pour les modifications apportées par Baseten.

Qu’est‑ce que cela change pour les développeurs ?

Pour les équipes qui construisent des systèmes de décision automatisés, la possibilité de récupérer des probabilités bien calibrées facilite la mise en place de seuils de confiance. Un seuil trop bas peut déclencher une prise de décision automatique, tandis qu’un seuil élevé peut orienter la requête vers un humain ou une autre procédure. Le fait que les modèles acceptent à la fois texte et images ouvre la porte à des applications multimodales : analyse de documents scannés, extraction d’informations à partir de factures, ou même prise de décision sur des contenus visuels.

Le rejet des requêtes dépassant les limites d’TrainingProcessus durant lequel un modèle ajuste ses paramètres à partir de données afin d'améliorer ses performances., au lieu d’une troncature, garantit que les sorties restent calibrées. Cela évite les biais introduits par des réponses partielles et assure une cohérence dans les systèmes où la fiabilité est cruciale, comme les outils de conformité ou les assistants de support client.

Perspectives

Bison‑1 montre que l’on peut atteindre une calibration fine tout en gérant un contexte très long, ce qui était auparavant limité à quelques milliers de jetons. Groundhog‑1, avec son architecture mixture‑of‑experts, promet potentiellement des gains d’efficacité, mais son score d’indice de décision reste à confirmer. La disponibilité immédiate de ces poids open‑weight pourrait également stimuler la recherche académique, en donnant accès à des modèles performants sans passer par des licences propriétaires.

En résumé, Baseten enrichit le paysage des modèles de décision avec deux offres qui allient longue portée contextuelle, calibration robuste et accessibilité tarifaire, offrant ainsi aux développeurs de nouvelles possibilités pour construire des systèmes plus fiables et plus intelligents.

Une lecture à partager ?
Partager
Partager cet article
WhatsApp ↗LinkedIn ↗Facebook ↗X ↗E-mail ↗

POUR CONTINUER

Garder le fil.

Toutes les actus ↗