Когда ИИ мониторит ИИ: Полный стек наблюдаемости для LLM

Локальная LLM может тормозить и галлюцинировать при полностью «зелёном» мониторинге. Рассказываем, что мониторить помимо инфраструктуры, как устроена трассировка через OpenTelemetry. Плюс два кейса: фрагментация видеопамяти GPU и молчаливый отказ RAG.