strata 0.2.0 sur mes cartes rtx 30 : +12 à +17% de decode, mais mes agents ne finissent pas plus vite

ce que je voulais savoir

Strata, le moteur que j'utilise pour faire tourner Qwen 3.8 Flash Next sur mes deux cartes, sortait sa 0.2.0 en beta en promettant du gain sur les petites cartes. je voulais savoir ce que ça donnait sur ma config exacte, en gardant tout le reste identique (deux slots, 262K de contexte, les deux cartes à 220 W).

les chiffres

sur des requêtes courtes (réponses de 256 tokens, médiane de trois manches) :

en vraie charge d'agents de code (cinq sessions sur un vrai repo, contexte jusqu'à 122K), le decode médian d'un agent seul passe de 101 à 110 tok/s, et à quatre agents de 22,2 à 27,4 tok/s.

ce qui m'a surpris

tout le gain vient d'une table de neuf réglages que la 0.2.0 active par défaut sur les cartes Ampere (les RTX 30) : si on la coupe avec STRATA_SM86_PERF=0, la 0.2.0 retombe à 92,4 tok/s, soit exactement l'ancien chiffre.

mais le plus intéressant, c'est que le temps total pour finir la charge de quatre agents n'a pas bougé (212 s avant, 215 s après). un agent de code passe l'essentiel de son temps à lire des prompts et des résultats d'outils, pas à écrire, et cette mise à jour n'accélère que l'écriture. des tokens plus rapides, ça ne veut pas dire des agents plus rapides.

ce que je garde

la 0.2.0, évidemment, parce que c'est gratuit et que les réponses restent les mêmes d'après Strata. mais si je veux des agents qui finissent plus vite, c'est la lecture des prompts qu'il faut attaquer.