Cilium FQDN egress для LLM API: DNS cache, IP churn и диагностика
Production-runbook для Cilium toFQDNs: как проверить DNS proxy, FQDN cache, TTL, effective policy и Hubble flows при сбоях доступа к LLM API.
Production-runbook для Cilium toFQDNs: как проверить DNS proxy, FQDN cache, TTL, effective policy и Hubble flows при сбоях доступа к LLM API.
Production-runbook для Envoy перед LLM API: как локализовать перегрузку, настроить circuit breakers, overload manager, backpressure, canary и rollback.
Практический мониторинг GPU throttling в LLM inference: DCGM Exporter, Prometheus, метрики power/thermal violation, PromQL, алерты и production-runbook.
Devops инженер является тем самым звеном, которое эффективно связывает между собой различные отделы IT-компаний для обеспечения высокой производительности при реализации проектов.