Начните с наблюдаемой проблемы: непонятный расход, регрессия качества или сбой выпуска
Статьи
Здесь собраны разборы для разработчика поиска по документам
Как распределить расходы LLM по клиентам. Повторы, фоновые задачи, общий индекс, внутренний eval и сверка начислений.
Как откатывать LLM-релиз вместе с зависимостями. Совместимость модели, индекса, инструментов и данных новой версии.
Что включить в манифест релиза LLM: промпт, модель, корпус, индекс, инструменты и оценку. Проверка согласованного комплекта.
Как калибровать рубрику LLM-судьи на пограничных ответах. Критерии, разногласия разметчиков и версии оценщика.
Как учитывать тайм-ауты и сбои оценщика в LLM-eval. Разные знаменатели для полученных, оценённых и запланированных ответов.
Как отличить ошибку OCR от плохого поиска RAG. Проверка чисел, отрицаний и кодов на пути от скана до готового ответа.
Когда RAG должен отказаться от ответа или уточнить вопрос. Проверка близких запросов без основания и лишних отказов.
Как искать точные артикулы и коды ошибок в RAG. Сравнение лексического и векторного поиска на похожих идентификаторах.
Как обнаружить зависший поток LLM после первого токена. Отдельные сроки начала, прогресса и завершения, heartbeat и обрыв соединения.
Почему локальный счётчик токенов расходится с usage. Проверка шаблона чата, полного запроса, токенизатора и единиц учёта.
Почему замена всех имён на один маркер ломает поиск RAG. Проверка связей сущностей, закрытого справочника и поискового контекста.
Как RAG различает проект и компанию с одинаковым названием. Контекст сущности, метаданные и уточнение неоднозначного запроса.
Маршрут для автоматизаций, которые должны корректно работать после демонстрации
Разборы рассчитаны на знакомство с основами Go
Эта подборка полезна при переносе приложения из локального окружения в контейнер
Разборы помогают перейти от вычисления показателя к проверяемому выводу для бизнеса
Маршрут для тех, кто уже знает SELECT, JOIN и группировки
Как передать PDF из n8n файлом, а не строкой. Сопоставляем binary field, имя multipart-параметра и проверку полученных байтов.
