8(800) 222 32 56
Панель управления

Power cap для GPU в LLM inference: production-runbook без гадания по ваттам
AI

Power cap для GPU в LLM inference: production-runbook без гадания по ваттам

Практический runbook для безопасного ограничения мощности GPU: baseline, canary, DCGM и vLLM-метрики, energy-per-token, rollout и rollback.

Андрей Минин, автор блога Андрей Минин, автор блога
nvidia-persistenced для LLM: production-runbook без скрытых GPU init
GPU

nvidia-persistenced для LLM: production-runbook без скрытых GPU init

Production-runbook по nvidia-persistenced для LLM: baseline, точечное включение по GPU UUID, infrastructure и application gates, canary rollout и rollback.

Андрей Минин, автор блога Андрей Минин, автор блога
PCIe ACS и P2P DMA для multi-GPU LLM: production-runbook
GPU

PCIe ACS и P2P DMA для multi-GPU LLM: production-runbook

Практический runbook по PCIe ACS и P2P DMA: topology, IOMMU, NCCL, LLM application gate, точечное изменение bridge и безопасный rollback.

Андрей Минин, автор блога Андрей Минин, автор блога
Resizable BAR и Above 4G для multi-GPU LLM: production-runbook
GPU

Resizable BAR и Above 4G для multi-GPU LLM: production-runbook

Как проверить Above 4G Decoding, Resizable BAR и NVIDIA BAR1 на multi-GPU сервере: evidence bundle, PCIe/CUDA gates, LLM readiness и безопасный rollback.

Андрей Минин, автор блога Андрей Минин, автор блога
VFIO и IOMMU для LLM: безопасный GPU passthrough в KVM
Решения для бизнеса

VFIO и IOMMU для LLM: безопасный GPU passthrough в KVM

Практический runbook по передаче NVIDIA GPU в KVM через VFIO и IOMMU: topology gate, libvirt, CUDA/LLM readiness, диагностика и rollback.

Андрей Минин, автор блога Андрей Минин, автор блога
NVIDIA Fabric Manager и NVSwitch: production-runbook для multi-GPU LLM
AI

NVIDIA Fabric Manager и NVSwitch: production-runbook для multi-GPU LLM

Практический runbook для NVSwitch-сервера: версии driver/Fabric Manager, topology и DCGM gates, Xid/SXid, LLM smoke test, мониторинг и recovery.

Андрей Минин, автор блога Андрей Минин, автор блога
GPU throttling в LLM inference: мониторинг через DCGM и Prometheus
AI

GPU throttling в LLM inference: мониторинг через DCGM и Prometheus

Практический мониторинг GPU throttling в LLM inference: DCGM Exporter, Prometheus, метрики power/thermal violation, PromQL, алерты и production-runbook.

King Servers
fs-verity для весов LLM: контроль целостности модели на GPU-сервере
AI

fs-verity для весов LLM: контроль целостности модели на GPU-сервере

Production-runbook по fs-verity для весов LLM: pinned revision, дерево Меркла, trusted manifest, systemd gate, отрицательные тесты и безопасный rollback на GPU-сервере.

Андрей Минин, автор блога Андрей Минин, автор блога
Pinned memory и memlock для LLM inference: production-runbook
GPU

Pinned memory и memlock для LLM inference: production-runbook

Практический runbook по pinned host memory и RLIMIT_MEMLOCK для LLM inference: диагностика, Docker/systemd, vLLM offload, метрики, canary и rollback.

Андрей Минин, автор блога Андрей Минин, автор блога