четверг, 16 июля 2026 г.
Локальный максимум

Журнал о LLM-инференсе, агентах и железе, которое живёт дома

Главный материал · NVIDIA

Пропускная способность памяти для локального AI-железа (2026)

Разбор локального AI-железа 2026 года: от RTX 5090 и Mac Studio M3 Ultra до DGX Spark, Strix Halo и Tenstorrent, с простой формулой, как перестать путаться в ци

Здесь собраны наблюдения из реальных запусков: что действительно ускоряет систему, где кончается VRAM и почему чужой красивый график ещё ничего не доказывает.

15 июля 2026 г. · 7 мин чтения · читать целиком →
Рис. 1 — генеративная обложкаseed 1380921304

Свежие разборы

Весь архив →
01Гайд хейтера по кризису памяти02Как профилировать llama.cpp: три инструмента, которые находят реальный боттлнек03Движки инференса LLM и локальное AI-железо (2026)04Tensor parallel vs pipeline parallel vs data parallel: как LLM делится между несколькими GPU05Сколько VRAM нужно для LLM: как посчитать веса, KV cache и overhead06Квантизация LLM в 2026: FP16, FP8, INT8, INT4, AWQ, GPTQ и GGUF — что выбрать под своё железо