8(800) 222 32 56
Панель управления

Инфраструктура

HTTP/2 flow control для LLM streaming: как найти паузы за API gateway
Сетевые протоколы

HTTP/2 flow control для LLM streaming: как найти паузы за API gateway

Production-runbook по HTTP/2 flow control для LLM streaming: как найти исчерпание stream и connection window, проверить Envoy, провести canary и не скрыть медленного consumer.

Андрей Минин, автор блога Андрей Минин, автор блога
GRO, GSO и TSO для LLM API gateway: диагностика Linux network offload
Инфраструктура

GRO, GSO и TSO для LLM API gateway: диагностика Linux network offload

Production-runbook по GRO, GSO, TSO и checksum offload для LLM API gateway: owner map, ethtool, capture traps, virtual NIC, canary и rollback.

Андрей Минин, автор блога Андрей Минин, автор блога
RSS, RPS и IRQ affinity для LLM API gateway: как убрать сетевой CPU bottleneck
Инфраструктура

RSS, RPS и IRQ affinity для LLM API gateway: как убрать сетевой CPU bottleneck

Production-runbook по RSS, RPS и IRQ affinity для LLM API gateway: диагностика softirq, RX-очередей и NUMA, безопасный canary, метрики и rollback.

Андрей Минин, автор блога Андрей Минин, автор блога
SO_REUSEPORT для LLM API gateway: accept-очереди, eBPF и безопасный rollout
Инфраструктура

SO_REUSEPORT для LLM API gateway: accept-очереди, eBPF и безопасный rollout

Production-runbook по SO_REUSEPORT для LLM API gateway: как доказать accept bottleneck, включить reuseport в NGINX, проверить workers, оценить eBPF и выполнить rollback.

Андрей Минин, автор блога Андрей Минин, автор блога
Блокировки VPN и корпоративный AI API: как сохранить доступ без обхода ограничений
Инфраструктура

Блокировки VPN и корпоративный AI API: как сохранить доступ без обхода ограничений

Безопасный разбор влияния ограничений VPN на корпоративный AI API: диагностика, observability, законная непрерывность, runbook без способов обхода.

Андрей Минин, автор блога Андрей Минин, автор блога
pgvector HNSW после UPDATE и DELETE: VACUUM, REINDEX и recall в RAG
Инфраструктура

pgvector HNSW после UPDATE и DELETE: VACUUM, REINDEX и recall в RAG

Production runbook для pgvector HNSW после UPDATE/DELETE: version gate, dead tuples, REINDEX CONCURRENTLY, VACUUM, iterative scans и exact-vs-approx recall.

Андрей Минин, автор блога Андрей Минин, автор блога
NVMe/TCP TLS и DH-HMAC-CHAP: защищаем хранилище весов LLM
AI

NVMe/TCP TLS и DH-HMAC-CHAP: защищаем хранилище весов LLM

Production-runbook по защите удалённых весов LLM: NVMe/TCP TLS, DH-HMAC-CHAP, kernel keyring, canary, negative controls, vLLM gate и rollback.

Андрей Минин, автор блога Андрей Минин, автор блога
Resizable BAR и Above 4G для multi-GPU LLM: production-runbook
GPU

Resizable BAR и Above 4G для multi-GPU LLM: production-runbook

Как проверить Above 4G Decoding, Resizable BAR и NVIDIA BAR1 на multi-GPU сервере: evidence bundle, PCIe/CUDA gates, LLM readiness и безопасный rollback.

Андрей Минин, автор блога Андрей Минин, автор блога
I/O-изоляция LLM-узла: cgroup v2 и systemd против штормов NVMe
AI

I/O-изоляция LLM-узла: cgroup v2 и systemd против штормов NVMe

Практический runbook по I/O-изоляции LLM-узла: cgroup v2 io.max, systemd slices, PSI, два gate, canary rollout и rollback.

Андрей Минин, автор блога Андрей Минин, автор блога