20 oct. 2026 · ia locale · testé chez moi
deux agents de code sur la même box, de 44 à 66 tok/s chacun en une soirée
même machine, même modèle, une nuit de réglages : quand deux agents génèrent en même temps, chacun passe de 43,8 à 66,4 tok/s, et c'est surtout quatre réglages qui ont fait le boulot
ce que je voulais savoir
je fais bosser deux agents de code en parallèle sur la même box, et au départ c'était franchement pénible : dès que l'un des deux lisait un fichier, l'autre se figeait à 2 ou 3 tok/s. je voulais voir jusqu'où on pouvait pousser le débit de chacun quand ils génèrent en même temps, sans changer ni de machine ni de modèle.
le test
toujours le même, pour pouvoir comparer d'une étape à l'autre : deux requêtes envoyées en même temps, des réponses de 256 tokens, et la médiane de trois manches. à côté, j'ai regardé ce que ça donnait en vrai avec deux code reviews sur un vrai repo TypeScript, avec des contextes qui montaient jusqu'à ~180K tokens.
la progression
| étape | par agent, à deux | seul |
|---|---|---|
| départ : batching par défaut, 4 slots, 220 W | 43,8 tok/s | 93,6 |
| 2 slots + la PR #2985 (drafts MTP dans les slots batchés) | 52,3 | 90,3 |
| + les réglages d'un pote (découpage des prompts, copies de slots) | 54,7 | 91,7 |
| + Strata 0.2.0 beta (sa table de réglages pour les cartes Ampere) | 61,1 | 107,6 |
| + les deux cartes de 220 à 260 W et la calibration auto | 66,4 | 109,6 |
en vrai usage, chaque agent tourne autour de 66 tok/s pendant que l'autre génère aussi, et monte vers 140 tok/s quand il est seul, avec 97 à 98% du contexte réutilisé depuis le cache.
ce qui m'a surpris
le vrai gain n'est pas seulement dans la vitesse de pointe : avant, un agent pouvait tomber à 2 tok/s pendant que l'autre lisait, et maintenant le plancher est autour de 15 à 20 tok/s, ce qui change complètement la sensation quand on bosse avec. j'ai aussi découvert que deux slots rapides valent mieux que quatre slots lents sur cette machine.
et la plupart des réglages que j'ai essayés n'ont rien donné : tout le gain vient des quatre choses du tableau, le reste de la nuit est parti dans des pistes qui ne bougeaient pas l'aiguille.
ce que je garde
deux slots, la PR #2985, Strata 0.2.0 et les cartes à 260 W. depuis, je les ai undervoltées pour retrouver du silence, au prix de quelques tok/s. pour reproduire la config, tout est dans le guide strata.
ce que ces mesures ne disent pas
- chaque étape a été mesurée une fois (3 manches), et l'écart entre les étapes 2 et 3 est dans le bruit
- les ~66 tok/s en vrai usage, c'est quand les deux agents génèrent ; quand l'autre est en train de lire un résultat d'outil, ça descend (autour de 50 au ressenti)
- la PR #2985 de Strata n'est pas fusionnée, c'est un build local
tu es un agent ? cette page en markdown · les mesures en json