8(800) 222 32 56
Панель управления

Сетевые протоколы

fq_codel для LLM API gateway: как найти и убрать bufferbloat
Сетевые протоколы

fq_codel для LLM API gateway: как найти и убрать bufferbloat

Production-runbook по fq_codel на Linux LLM API gateway: как доказать bufferbloat, читать backlog, drops и ECN, провести A/B/A canary и выбрать fq или CAKE.

Андрей Минин, автор блога Андрей Минин, автор блога
NIC ring buffers и RX drops на LLM API gateway: ethtool-runbook
Сетевые протоколы

NIC ring buffers и RX drops на LLM API gateway: ethtool-runbook

Практический runbook по RX ring buffers: как связать ethtool counters, IRQ/softirq и ошибки LLM API, провести canary и не лечить любой timeout глубиной очереди.

Андрей Минин, автор блога Андрей Минин, автор блога
TCP RACK и TLP для LLM API: как диагностировать retransmission и tail latency
Сетевые протоколы

TCP RACK и TLP для LLM API: как диагностировать retransmission и tail latency

Production-runbook по TCP RACK и Tail Loss Probe: как связать retransmission, SACK, reordering и RTO с паузами LLM API, провести canary и rollback.

Андрей Минин, автор блога Андрей Минин, автор блога
nftables flowtable для LLM API gateway: fast path без ложного ускорения
Linux

nftables flowtable для LLM API gateway: fast path без ложного ускорения

Практический runbook по nftables flowtable: проверяем routed path, OFFLOAD, NAT и исключения, проводим A/B/A canary и отделяем сетевой эффект от очереди LLM.

Андрей Минин, автор блога Андрей Минин, автор блога
HTTP/2 flow control для LLM streaming: как найти паузы за API gateway
Сетевые протоколы

HTTP/2 flow control для LLM streaming: как найти паузы за API gateway

Production-runbook по HTTP/2 flow control для LLM streaming: как найти исчерпание stream и connection window, проверить Envoy, провести canary и не скрыть медленного consumer.

Андрей Минин, автор блога Андрей Минин, автор блога
TCP buffers для LLM streaming: rmem, wmem и диагностика backpressure
Сетевые протоколы

TCP buffers для LLM streaming: rmem, wmem и диагностика backpressure

Практический runbook по TCP buffers для LLM streaming: как читать ss -tinm, отличить rmem/wmem от backpressure, настроить canary и выполнить rollback.

Андрей Минин, автор блога Андрей Минин, автор блога
Асимметричная маршрутизация Linux для LLM API: ip rule, rp_filter и fwmark
Сетевые протоколы

Асимметричная маршрутизация Linux для LLM API: ip rule, rp_filter и fwmark

Практический runbook для multihomed Linux gateway: как найти асимметричный путь, проверить ip rule и rp_filter, сохранить fwmark и безопасно провести canary.

Андрей Минин, автор блога Андрей Минин, автор блога
SYN cookies и SYNPROXY для LLM API gateway: диагностика SYN flood без ложной уверенности
Сетевые протоколы

SYN cookies и SYNPROXY для LLM API gateway: диагностика SYN flood без ложной уверенности

Практический runbook по SYN cookies и nftables SYNPROXY: как отличить SYN flood от легальной перегрузки, собрать evidence, провести canary и не сломать LLM API.

Андрей Минин, автор блога Андрей Минин, автор блога
TCP_USER_TIMEOUT для LLM streaming: как обнаружить half-open соединения
Сетевые протоколы

TCP_USER_TIMEOUT для LLM streaming: как обнаружить half-open соединения

Production-runbook по TCP_USER_TIMEOUT для LLM streaming: evidence по unacked и retransmissions, Linux socket option, canary, negative control и rollback.

Андрей Минин, автор блога Андрей Минин, автор блога