8(800) 222 32 56
Панель управления

Блог King Servers

PROXY protocol v2 для LLM API: как сохранить реальный IP клиента
Сетевые протоколы

PROXY protocol v2 для LLM API: как сохранить реальный IP клиента

Практический runbook: как сохранить реальный IP клиента за load balancer, настроить PROXY protocol v2, X-Forwarded-For, NGINX, Envoy и Kubernetes без spoofing.

Андрей Минин, автор блога Андрей Минин, автор блога
Блокировки VPN и корпоративный AI API: как сохранить доступ без обхода ограничений
Инфраструктура

Блокировки VPN и корпоративный AI API: как сохранить доступ без обхода ограничений

Безопасный разбор влияния ограничений VPN на корпоративный AI API: диагностика, observability, законная непрерывность, runbook без способов обхода.

Андрей Минин, автор блога Андрей Минин, автор блога
Envoy под перегрузкой LLM API: circuit breakers, backpressure и overload manager
DevOps

Envoy под перегрузкой LLM API: circuit breakers, backpressure и overload manager

Production-runbook для Envoy перед LLM API: как локализовать перегрузку, настроить circuit breakers, overload manager, backpressure, canary и rollback.

Андрей Минин, автор блога Андрей Минин, автор блога
Gateway API Inference Extension v1.6.2: model-aware routing для LLM в Kubernetes
Решения для бизнеса

Gateway API Inference Extension v1.6.2: model-aware routing для LLM в Kubernetes

Практический runbook по Gateway API Inference Extension v1.6.2: InferencePool, Endpoint Picker, canary, evidence gates, fallback и rollback для LLM.

Андрей Минин, автор блога Андрей Минин, автор блога
HTTP/2 GOAWAY и gRPC keepalive для LLM API: как найти обрывы и настроить graceful drain
Сетевые протоколы

HTTP/2 GOAWAY и gRPC keepalive для LLM API: как найти обрывы и настроить graceful drain

Практический runbook для LLM API: отличаем штатный HTTP/2 GOAWAY от аварии, находим владельца соединения, согласуем gRPC keepalive и проверяем retry, drain и SLO.

Андрей Минин, автор блога Андрей Минин, автор блога
TLS handshake storm на LLM API gateway: session resumption, keepalive и runbook
Решения для бизнеса

TLS handshake storm на LLM API gateway: session resumption, keepalive и runbook

Практический runbook: как найти всплеск TLS handshakes на LLM API gateway, проверить session resumption и keepalive, провести canary и доказать влияние на TTFT.

Андрей Минин, автор блога Андрей Минин, автор блога
DNS failover для LLM API: почему клиенты держат старый IP и как это исправить
Решения для бизнеса

DNS failover для LLM API: почему клиенты держат старый IP и как это исправить

Практический runbook DNS failover для LLM API: TTL, negative и stale cache, systemd-resolved, connection pools, dual-stack, canary и rollback.

Андрей Минин, автор блога Андрей Минин, автор блога
WireGuard MTU и PMTUD: как найти black hole, из-за которого зависает LLM API
Решения для бизнеса

WireGuard MTU и PMTUD: как найти black hole, из-за которого зависает LLM API

Production-runbook для WireGuard: как доказать MTU/PMTUD black hole, измерить underlay и wg0, проверить ICMP, настроить MTU/MSS clamp и подтвердить фикс на LLM streaming canary.

Андрей Минин, автор блога Андрей Минин, автор блога
NVIDIA DRA Driver в Kubernetes 1.36+: безопасный переход GPU inference
GPU

NVIDIA DRA Driver в Kubernetes 1.36+: безопасный переход GPU inference

Практический runbook перехода с NVIDIA Device Plugin на Kubernetes DRA: версии, GPUCluster, ResourceClaim, canary, evidence gate, диагностика и rollback.

Андрей Минин, автор блога Андрей Минин, автор блога