fq_codel для LLM API gateway: как найти и убрать bufferbloat
Production-runbook по fq_codel на Linux LLM API gateway: как доказать bufferbloat, читать backlog, drops и ECN, провести A/B/A canary и выбрать fq или CAKE.
Production-runbook по fq_codel на Linux LLM API gateway: как доказать bufferbloat, читать backlog, drops и ECN, провести A/B/A canary и выбрать fq или CAKE.
Практический runbook по RX ring buffers: как связать ethtool counters, IRQ/softirq и ошибки LLM API, провести canary и не лечить любой timeout глубиной очереди.
Практический runbook по nftables flowtable: проверяем routed path, OFFLOAD, NAT и исключения, проводим A/B/A canary и отделяем сетевой эффект от очереди LLM.
Практический runbook по TCP buffers для LLM streaming: как читать ss -tinm, отличить rmem/wmem от backpressure, настроить canary и выполнить rollback.
Практический runbook для multihomed Linux gateway: как найти асимметричный путь, проверить ip rule и rp_filter, сохранить fwmark и безопасно провести canary.
Production-runbook по fs-verity для весов LLM: pinned revision, дерево Меркла, trusted manifest, systemd gate, отрицательные тесты и безопасный rollback на GPU-сервере.
Практический runbook для защиты LLM-инференса от дефицита host RAM: PSI, cgroup v2, systemd-oomd, лимиты vLLM, алерты и аварийное восстановление.
Практическое руководство по nftables sets: именованные и временные наборы, диапазоны, составные ключи, атомарные обновления, автоматизация и безопасный rollback.
В этой статье мы собрали самые популярные и наиболее необходимые команды Линукс для работы с операционной системой, которые будут полезны каждому пользователю.