Главная›Сервисы›Нейросети и ИИ ›Мониторинг и оценка LLM-приложений

Мониторинг LLM-приложений: где смотреть трейсы и считать токены

Приложение на языковой модели ломается тихо: ответ приходит, только собран он из чужого куска контекста или стоит втрое дороже вчерашнего. Трассировка показывает каждый шаг — запрос, поиск контекста, вызов инструмента, ответ модели, потраченные токены.

Данные и тарифы проверены . Условия могут меняться.

Оценка прогоняет те же вопросы через новую версию промпта и считает, стало лучше или хуже.

Счёт идёт по объёму: спаны, записанные логи, гигабайты принятых данных. Бесплатные тарифы дают 10–25 тысяч событий в месяц, платные начинаются с $19 у Opik, $49 у Portkey и $50 у Arize AX. Перерасход тарифицируют отдельно: $5 за 100 тысяч спанов в Opik, $9 за 100 тысяч запросов в Portkey, $0,0008 за спан в Arize.

Сервисы раздела

6 карточек. Метки под названием — то, что подтверждено на сайте сервиса.

Чем отличаются друг от друга

Прочерк означает, что на сайте сервиса про это ничего не сказано. Проверено 27.08.2026.

СервисЕдиница учётаБесплатноПлатный отХранениеНа своём сервере
LangSmithтрейсDeveloper: одно место и 5 000 базовых трейсов в месяцPlus 39 $ за место в месяцбазовый трейс 14 дней, продление до 400 дней за 0,0025 LSUв Enterprise: свой сервер или гибрид
Langfuseunit — трейс, observation и scoreHobby: 50 000 units в месяц и два пользователяCore 29 $ в месяц30 дней на Hobby, 90 на Core, три года на Proда: открытый код под лицензией MIT
W&B Weaveгигабайты приёма и хранилища плюс местаFree: 5 ГБ хранилища, 1 ГБ приёма в месяц, до пяти местPro от 60 $ в месяц—в Enterprise: выделенный тенант с выбором региона
Arize Phoenixспаны и гигабайты приёмаоткрытый код на своём железе; в облаке AX Free — 25 тыс. спанов и 1 ГБ в месяцAX Pro 50 $ в месяц15 дней на Free, 30 дней на Proда: лицензия ELv2, запуск локально, в Docker или Kubernetes
Portkeyзаписанный логDeveloper: 10 тыс. записанных логов в месяцProduction 49 $ в месяцлоги 3 дня и метрики 30 на Developer, 30 и 90 на Productionда: открытая версия разворачивается локально
OpikспанFree Cloud: 25 тыс. спанов в месяц и до десяти человекPro Cloud 19 $ в месяц60 дней, продление 29 $ за 100 тыс. спановда: открытый код, тот же что в облаке

Как выбирать в этом разделе

Начните с объёма. Бесплатные тарифы Opik и Arize AX вмещают 25 тысяч спанов в месяц — около 830 в день, и агент с десятью шагами на запрос израсходует их за 83 обращения. Portkey меряет иначе: 10 тысяч записанных логов в месяц, где лог соответствует запросу. Weave считает гигабайтами принятых данных: 1 ГБ в месяц на бесплатном тарифе и 1,5 ГБ на Pro.

Дальше смотрите срок хранения. Бесплатный Portkey держит логи 3 дня, Arize AX Free — 15 дней, AX Pro — 30, Opik в обоих облачных тарифах — 60. Если разбор инцидента у вас начинается через неделю после жалобы пользователя, трёхдневное окно закроется раньше, чем вы дойдёте до трассировки. Продление хранения у Opik стоит $29 за каждые 100 тысяч спанов, у Arize гигабайт данных сверх лимита обойдётся в $3.

Юрлица и соответствие по разделу

Срез по 6 сервисам: у скольких вообще опубликовано то, о чём принято спрашивать до договора. Проверено 27.08.2026.

Частые вопросы

Сколько стоит начать?
Начать можно за ноль. Opik и Arize AX дают по 25 тысяч спанов в месяц на бесплатных тарифах, Portkey — 10 тысяч записанных логов, W&B Weave — 1 ГБ принятых данных. Платные тарифы начинаются с $19 в месяц у Opik Pro Cloud, дальше идут Portkey Production за $49, Arize AX Pro за $50 и W&B Pro от $60. Все четыре цены помесячные.
Что такое спан и как понять, сколько их выйдет?
Спан — один зафиксированный шаг внутри обращения: вызов модели, поиск в базе, запуск инструмента. У простого чат-запроса спан обычно один, у агента с поиском и тремя инструментами их пять и больше. Поэтому 25 тысяч спанов бесплатного тарифа Opik — это около 830 шагов в день, то есть примерно 83 обращения к агенту из десяти шагов. Portkey считает по-другому и пишет 10 тысяч логов запросов в месяц.
Можно ли держать трассировки у себя?
Да, три сервиса из четырёх открыты. Phoenix от Arize идёт по лицензии ELv2 и поднимается локально командой uvx arize-phoenix serve, в Docker или Kubernetes. Открытая версия Opik собрана из того же кода, что облако, и не ограничена по числу спанов и сроку хранения. Шлюз Portkey тоже разворачивается локально. У W&B Weave размещение на своём железе идёт только на тарифе Enterprise.
Что происходит при превышении лимита?
У каждого сервиса своя механика. Portkey продолжает пропускать запросы и перестаёт писать лишние логи, а на Production каждые следующие 100 тысяч запросов стоят $9 — вплоть до 3 млн. Opik берёт $5 за каждые 100 тысяч спанов сверх включённых 100 тысяч. Arize AX Pro тарифицирует по $0,0008 за спан и $3 за гигабайт данных. W&B Weave считает мегабайтами: $0,10 за мегабайт сверх 1,5 ГБ и $0,03 за гигабайт хранилища.

Другие разделы категории «Нейросети и ИИ»

22 раздела в категории, всего 186 сервисов. Все разделы категории — на её странице.

Остальные категории каталога