Cilium FQDN egress для LLM API: DNS cache, IP churn и диагностика
Production-runbook для Cilium toFQDNs: как проверить DNS proxy, FQDN cache, TTL, effective policy и Hubble flows при сбоях доступа к LLM API.
Андрей Минин, автор блога
Блог King Servers
PROXY protocol v2 для LLM API: как сохранить реальный IP клиента
Практический runbook: как сохранить реальный IP клиента за load balancer, настроить PROXY protocol v2, X-Forwarded-For, NGINX, Envoy и Kubernetes без spoofing.
Андрей Минин, автор блога
Блокировки VPN и корпоративный AI API: как сохранить доступ без обхода ограничений
Безопасный разбор влияния ограничений VPN на корпоративный AI API: диагностика, observability, законная непрерывность, runbook без способов обхода.
Андрей Минин, автор блога
Envoy под перегрузкой LLM API: circuit breakers, backpressure и overload manager
Production-runbook для Envoy перед LLM API: как локализовать перегрузку, настроить circuit breakers, overload manager, backpressure, canary и rollback.
Андрей Минин, автор блога
Gateway API Inference Extension v1.6.2: model-aware routing для LLM в Kubernetes
Практический runbook по Gateway API Inference Extension v1.6.2: InferencePool, Endpoint Picker, canary, evidence gates, fallback и rollback для LLM.
Андрей Минин, автор блога
HTTP/2 GOAWAY и gRPC keepalive для LLM API: как найти обрывы и настроить graceful drain
Практический runbook для LLM API: отличаем штатный HTTP/2 GOAWAY от аварии, находим владельца соединения, согласуем gRPC keepalive и проверяем retry, drain и SLO.
Андрей Минин, автор блога
TLS handshake storm на LLM API gateway: session resumption, keepalive и runbook
Практический runbook: как найти всплеск TLS handshakes на LLM API gateway, проверить session resumption и keepalive, провести canary и доказать влияние на TTFT.
Андрей Минин, автор блога
DNS failover для LLM API: почему клиенты держат старый IP и как это исправить
Практический runbook DNS failover для LLM API: TTL, negative и stale cache, systemd-resolved, connection pools, dual-stack, canary и rollback.
Андрей Минин, автор блога
WireGuard MTU и PMTUD: как найти black hole, из-за которого зависает LLM API
Production-runbook для WireGuard: как доказать MTU/PMTUD black hole, измерить underlay и wg0, проверить ICMP, настроить MTU/MSS clamp и подтвердить фикс на LLM streaming canary.
Андрей Минин, автор блога
