Разбираю LLM, агентские инструменты и инфру, которую сам запускаю

Спекулятивное декодирование в vLLM и SGLang: MTP, EAGLE-3 и n-gram в 2026

Разбираем speculative decoding в vLLM и SGLang: native MTP, Gemma 4 assistant-драфтеры, EAGLE-3, n-gram и DFLASH — где ускоряет, где ломается и как выбирать метод.

Как бенчмаркать локальную LLM в 2026: TTFT, TPOT, KV cache, context length и VRAM

vLLM vs SGLang: radix tree против block-level prefix caching

Сравниваем подходы к prefix caching в vLLM и SGLang: hash-based блоки vs radix tree, бенчмарки на H100, когда какой движок выбрать для serving.