# homelaber

> Site personnel en français d'un passionné qui fait tourner de l'IA en local sur du matériel d'occasion (RTX 3090 + RTX 3080 Ti, 80 Go de RAM) et héberge ses services chez lui. Chaque expérience donne des mesures faites par l'auteur, avec leurs conditions et leurs limites. Les données brutes sont en JSON.

Chaque page existe aussi en Markdown : ajouter `.md` à l'URL (ex. `/labo/undervolt-3090-3080ti.md`).
Toutes les mesures : https://homelaber.dev/data/runs.json (format décrit sur https://homelaber.dev/donnees/).

## Expériences

- [deux agents de code sur la même box, de 44 à 66 tok/s chacun en une soirée](https://homelaber.dev/labo/deux-agents-44-66-tok-s.md): même machine, même modèle, une nuit de réglages : quand deux agents génèrent en même temps, chacun passe de 43,8 à 66,4 tok/s, et c'est surtout quatre réglages qui ont fait le boulot (2026-10-20)
- [glm 5.3 flash (321B) sur une 3090 + une 3080 ti : de 26 à 31,7 tok/s, et pourquoi je reste quand même sur qwen](https://homelaber.dev/labo/glm-53-maya-3090-3080ti.md): deux options de maya font gagner 22% de decode à un modèle de 321B qui déborde largement en ram, mais en vraie tâche d'agent il reste nettement plus lent que qwen 3.8 flash next sur la même box (2026-10-20)
- [un modèle de 4B tient 256K de contexte sur une seule 3080 ti 12go, et retrouve 40 codes sur 40](https://homelaber.dev/labo/spark-4b-256k-3080ti.md): spark-x2.6-4b en q8 avec llama.cpp : 136 tok/s à vide, encore 35 tok/s avec 254K tokens de contexte, et une carte de 12go qui bat la 3090 parce que je l'avais moins bridée (2026-10-20)
- [j'ai undervolté ma 3090 et ma 3080 ti sous linux, -94 W pour presque rien](https://homelaber.dev/labo/undervolt-3090-3080ti.md): deux agents de code qui bossent en même temps, 452 W → 358 W sur les deux cartes, les ventilos passent de 91% à 48%, et le débit perd 7% (2026-10-20)
- [j'ai calé 400K de contexte par agent sur 80go de ram, et il retrouve un code caché à 92% du prompt](https://homelaber.dev/labo/400k-contexte-80go.md): deux slots de 409 600 tokens tiennent sur 80go de ram, et un prompt de 373 723 tokens avec trois codes planqués dedans ressort 3 réponses justes sur 3, lu en 195 secondes (2026-10-19)
- [j'ai demandé 512K de contexte × 4 slots sur 80go de ram, et toute la machine a figé](https://homelaber.dev/labo/512k-machine-figee.md): j'ai d'abord cru à une clé wifi morte, mais c'était la ram : le cache des sessions à 512K demandait ~23go de plus qu'un modèle de 40go qui prenait déjà la place, et un simple plafond mémoire aurait tout évité (2026-10-19)
- [strata 0.2.0 sur mes cartes rtx 30 : +12 à +17% de decode, mais mes agents ne finissent pas plus vite](https://homelaber.dev/labo/strata-020-ampere.md): une simple mise à jour du moteur fait passer le decode seul de 91,7 à 107,6 tok/s sur une 3090 + 3080 Ti, et pourtant le temps total de mes agents ne bouge pas, parce qu'ils passent leur vie à lire des prompts (2026-10-19)

## Guides

- [ton premier llm local avec llama.cpp, sur une carte de 12go](https://homelaber.dev/guides/llama-cpp-premier-llm-local.md): compiler llama.cpp pour ta carte nvidia et faire tourner un modèle récent avec 256K de contexte sur 12go, en comprenant ce que fait chaque option
- [faire tourner glm 5.3 flash (321B) sur deux cartes grand public avec maya](https://homelaber.dev/guides/maya-glm-53.md): comment installer project maya, choisir la bonne version du modèle quand tes cartes font 24go ou moins, et les deux options qui m'ont fait gagner 22% de vitesse, avec ce qu'elles coûtent
- [qwen 3.8 flash next sur strata : un 125B à plus de 110 tok/s sur une 3090 + une 3080 ti](https://homelaber.dev/guides/strata-deux-gpu.md): comment j'installe strata et je fais tourner qwen 3.8 flash next sur deux cartes grand public à plus de 110 tok/s en solo, puis comment je le partage entre deux agents en même temps
- [undervolter une 3090 ou une 3080 ti sous linux, sans perdre de perf](https://homelaber.dev/guides/undervolt-3090-3080ti-linux.md): le pas à pas que j'utilise sur ma box : bloquer la fréquence, décaler la courbe tension/fréquence avec NVML, vérifier sous vraie charge, puis rendre ça automatique au démarrage

## Optional
- [À propos](https://homelaber.dev/a-propos/): qui écrit, comment les mesures sont faites
- [Format des données](https://homelaber.dev/donnees/): les champs de runs.json