8(800) 222 32 56
Панель управления

Блог King Servers

SO_REUSEPORT для LLM API gateway: accept-очереди, eBPF и безопасный rollout
Инфраструктура

SO_REUSEPORT для LLM API gateway: accept-очереди, eBPF и безопасный rollout

Production-runbook по SO_REUSEPORT для LLM API gateway: как доказать accept bottleneck, включить reuseport в NGINX, проверить workers, оценить eBPF и выполнить rollback.

Андрей Минин, автор блога Андрей Минин, автор блога
Kubernetes NetworkPolicy для LLM inference: default-deny без поломки DNS и GPU-сервисов
DevOps

Kubernetes NetworkPolicy для LLM inference: default-deny без поломки DNS и GPU-сервисов

Практический runbook NetworkPolicy для LLM inference: dependency map, default-deny, CoreDNS, metadata endpoint, canary, наблюдаемость и rollback.

Андрей Минин, автор блога Андрей Минин, автор блога
MetalLB в BGP-режиме для LLM API: ECMP, failover и диагностика
Сетевые протоколы

MetalLB в BGP-режиме для LLM API: ECMP, failover и диагностика

Практический runbook MetalLB BGP для LLM API: ECMP, externalTrafficPolicy, FRR-K8s, BFD, graceful restart, диагностика маршрута, canary и rollback.

Андрей Минин, автор блога Андрей Минин, автор блога
IPv6 и Happy Eyeballs для LLM API: диагностика dual-stack задержек
Сетевые протоколы

IPv6 и Happy Eyeballs для LLM API: диагностика dual-stack задержек

Практический runbook для LLM API: как разделить IPv4 и IPv6, увидеть фактический peer, проверить Happy Eyeballs и провести безопасный dual-stack rollout.

Андрей Минин, автор блога Андрей Минин, автор блога
Cilium FQDN egress для LLM API: DNS cache, IP churn и диагностика
DevOps

Cilium FQDN egress для LLM API: DNS cache, IP churn и диагностика

Production-runbook для Cilium toFQDNs: как проверить DNS proxy, FQDN cache, TTL, effective policy и Hubble flows при сбоях доступа к LLM API.

Андрей Минин, автор блога Андрей Минин, автор блога
PROXY protocol v2 для LLM API: как сохранить реальный IP клиента
Сетевые протоколы

PROXY protocol v2 для LLM API: как сохранить реальный IP клиента

Практический runbook: как сохранить реальный IP клиента за load balancer, настроить PROXY protocol v2, X-Forwarded-For, NGINX, Envoy и Kubernetes без spoofing.

Андрей Минин, автор блога Андрей Минин, автор блога
Блокировки VPN и корпоративный AI API: как сохранить доступ без обхода ограничений
Инфраструктура

Блокировки VPN и корпоративный AI API: как сохранить доступ без обхода ограничений

Безопасный разбор влияния ограничений VPN на корпоративный AI API: диагностика, observability, законная непрерывность, runbook без способов обхода.

Андрей Минин, автор блога Андрей Минин, автор блога
Envoy под перегрузкой LLM API: circuit breakers, backpressure и overload manager
DevOps

Envoy под перегрузкой LLM API: circuit breakers, backpressure и overload manager

Production-runbook для Envoy перед LLM API: как локализовать перегрузку, настроить circuit breakers, overload manager, backpressure, canary и rollback.

Андрей Минин, автор блога Андрей Минин, автор блога
Gateway API Inference Extension v1.6.2: model-aware routing для LLM в Kubernetes
Решения для бизнеса

Gateway API Inference Extension v1.6.2: model-aware routing для LLM в Kubernetes

Практический runbook по Gateway API Inference Extension v1.6.2: InferencePool, Endpoint Picker, canary, evidence gates, fallback и rollback для LLM.

Андрей Минин, автор блога Андрей Минин, автор блога