вторник, 14 июля 2026 г.
Локальный максимум

Журнал о LLM-инференсе, агентах и железе, которое живёт дома

Главный материал · HBM

Гайд хейтера по кризису памяти

Почему дефицит HBM и гонка за AI-серверами делают память и электронику дороже. Разбор рынка DRAM, олигополии производителей и рисков AI-пузыря.

Здесь собраны наблюдения из реальных запусков: что действительно ускоряет систему, где кончается VRAM и почему чужой красивый график ещё ничего не доказывает.

13 июля 2026 г. · 68 мин чтения · читать целиком →
Рис. 1 — генеративная обложкаseed 950208658

Свежие разборы

Весь архив →
01Как профилировать llama.cpp: три инструмента, которые находят реальный боттлнек02Движки инференса LLM и локальное AI-железо (2026)03Tensor parallel vs pipeline parallel vs data parallel: как LLM делится между несколькими GPU04Сколько VRAM нужно для LLM: как посчитать веса, KV cache и overhead05Квантизация LLM в 2026: FP16, FP8, INT8, INT4, AWQ, GPTQ и GGUF — что выбрать под своё железо06Спекулятивное декодирование в vLLM и SGLang: MTP, EAGLE-3 и n-gram в 2026