8(800) 222 32 56
Панель управления

LLM

Power cap для GPU в LLM inference: production-runbook без гадания по ваттам
AI

Power cap для GPU в LLM inference: production-runbook без гадания по ваттам

Практический runbook для безопасного ограничения мощности GPU: baseline, canary, DCGM и vLLM-метрики, energy-per-token, rollout и rollback.

Андрей Минин, автор блога Андрей Минин, автор блога
fs-verity для весов LLM: контроль целостности модели на GPU-сервере
AI

fs-verity для весов LLM: контроль целостности модели на GPU-сервере

Production-runbook по fs-verity для весов LLM: pinned revision, дерево Меркла, trusted manifest, systemd gate, отрицательные тесты и безопасный rollback на GPU-сервере.

Андрей Минин, автор блога Андрей Минин, автор блога
I/O-изоляция LLM-узла: cgroup v2 и systemd против штормов NVMe
AI

I/O-изоляция LLM-узла: cgroup v2 и systemd против штормов NVMe

Практический runbook по I/O-изоляции LLM-узла: cgroup v2 io.max, systemd slices, PSI, два gate, canary rollout и rollback.

Андрей Минин, автор блога Андрей Минин, автор блога
FS-Cache для LLM: как снять шторм загрузки весов с NFS на GPU-узлах
AI

FS-Cache для LLM: как снять шторм загрузки весов с NFS на GPU-узлах

Практический runbook по NFSv4.2 и FS-Cache для весов LLM: локальный NVMe-кэш, прогрев, два уровня gates, rollout, наблюдаемость и rollback.

Андрей Минин, автор блога Андрей Минин, автор блога
Memory pressure в LLM-инференсе: cgroup v2, PSI и systemd-oomd
AI

Memory pressure в LLM-инференсе: cgroup v2, PSI и systemd-oomd

Практический runbook для защиты LLM-инференса от дефицита host RAM: PSI, cgroup v2, systemd-oomd, лимиты vLLM, алерты и аварийное восстановление.

Андрей Минин, автор блога Андрей Минин, автор блога