TLS handshake storm на LLM API gateway: session resumption, keepalive и runbook
Практический runbook: как найти всплеск TLS handshakes на LLM API gateway, проверить session resumption и keepalive, провести canary и доказать влияние на TTFT.
Практический runbook: как найти всплеск TLS handshakes на LLM API gateway, проверить session resumption и keepalive, провести canary и доказать влияние на TTFT.
Практический runbook DNS failover для LLM API: TTL, negative и stale cache, systemd-resolved, connection pools, dual-stack, canary и rollback.
Production-runbook для WireGuard: как доказать MTU/PMTUD black hole, измерить underlay и wg0, проверить ICMP, настроить MTU/MSS clamp и подтвердить фикс на LLM streaming canary.
Практический runbook по BBR и fq для LLM-стриминга: как отделить TTFT от сетевой очереди, снять baseline, провести canary, проверить ss/qdisc и доказать эффект rollback-контрфактом.
Практический runbook по передаче NVIDIA GPU в KVM через VFIO и IOMMU: topology gate, libvirt, CUDA/LLM readiness, диагностика и rollback.
Практическое руководство по Linux PSI: как измерять CPU, memory и I/O pressure на VPS, читать some/full, анализировать cgroup v2 и строить мониторинг.
Практическое руководство по disaggregated prefill/decode для LLM: разделение GPU-worker pools, перенос KV cache через NIXL, sizing, сеть, метрики и безопасный production rollout.
Практическое руководство по systemd sandboxing: как ограничить права Linux-сервиса, доступ к файлам, ядру, устройствам, сети и системным вызовам, не устроив простой.
Практическое руководство по nftables sets: именованные и временные наборы, диапазоны, составные ключи, атомарные обновления, автоматизация и безопасный rollback.