FS-Cache для LLM: как снять шторм загрузки весов с NFS на GPU-узлах
Практический runbook по NFSv4.2 и FS-Cache для весов LLM: локальный NVMe-кэш, прогрев, два уровня gates, rollout, наблюдаемость и rollback.
Андрей Минин, автор блога
AI
Memory pressure в LLM-инференсе: cgroup v2, PSI и systemd-oomd
Практический runbook для защиты LLM-инференса от дефицита host RAM: PSI, cgroup v2, systemd-oomd, лимиты vLLM, алерты и аварийное восстановление.
Андрей Минин, автор блога
NVIDIA CDI для rootless GPU-контейнеров: безопасный запуск LLM inference
Практический runbook: NVIDIA Container Toolkit CDI, rootless Podman и Docker, выбор GPU/MIG, запуск vLLM, hardening, обновления и rollback.
Андрей Минин, автор блога
Kubernetes DRA для GPU: ResourceClaim, DeviceClass и безопасный rollout
Практический гид по Kubernetes DRA для GPU: ResourceClaim, DeviceClass, NVIDIA DRA Driver, canary-rollout, RBAC, наблюдаемость и безопасный откат.
Андрей Минин, автор блога
CXL Memory Expansion для AI inference: больше RAM без иллюзии «дополнительной VRAM»
Как использовать CXL Type-3 memory expansion в AI inference: Linux, NUMA, vLLM offload, memory pooling, ограничения и практический чек-лист.
Андрей Минин, автор блога
ИИ и персональные данные: как использовать облачные технологии и соблюдать 152-ФЗ
ИИ открывает бизнесу огромные возможности, но вместе с ними — и риски при работе с персональными данными. В этом гайде разбираем, как использовать облачные AI-технологии, не нарушая 152-ФЗ: где хранить данные, как их защищать и что поможет упростить комплаенс.
Андрей Минин, автор блога
Российские нейросети и ИИ-платформы: обзор Yandex GPT, GigaChat и других проектов
Обзор ключевых российских ИИ-платформ: Yandex GPT, GigaChat 2.0, RuGPT-3, FRED T5 и другие. Что умеют отечественные нейросети, насколько они готовы к практике и каковы их сильные и слабые стороны в сравнении с западными аналогами — от ChatGPT до Claude.
Андрей Минин, автор блога
Как создать собственного чат-бота с ИИ: развёртывание ChatGPT-аналога на своём сервере
Развёртывание собственного чат-бота с ИИ — это уже не фантастика. В статье вы узнаете, как создать аналог ChatGPT на своём сервере с помощью open-source моделей, настроить окружение, интегрировать с сайтом или мессенджером и сохранить полный контроль над данными.
Андрей Минин, автор блога
