Главная›Сервисы ›Мониторинг и оценка LLM-приложений

Мониторинг LLM-приложений: где смотреть трейсы и считать токены

Приложение на языковой модели ломается тихо: ответ приходит, только собран он из чужого куска контекста или стоит втрое дороже вчерашнего. Трассировка показывает каждый шаг — запрос, поиск контекста, вызов инструмента, ответ модели, потраченные токены.

Сравнить 6 сервисов Как выбирать

6сервисов разобрано по одним и тем же полям

0 из 6с опубликованными реквизитами компании

6 из 6с бесплатным тарифом или пробным периодом

Оценка прогоняет те же вопросы через новую версию промпта и считает, стало лучше или хуже.

Счёт идёт по объёму: спаны, записанные логи, гигабайты принятых данных. Бесплатные тарифы дают 10–25 тысяч событий в месяц, платные начинаются с $19 у Opik, $49 у Portkey и $50 у Arize AX. Перерасход тарифицируют отдельно: $5 за 100 тысяч спанов в Opik, $9 за 100 тысяч запросов в Portkey, $0,0008 за спан в Arize.

Сервисы раздела

6 карточек. Метки под названием — то, что подтверждено на сайте сервиса, кружок справа — порог входа.

LangSmithsmith.langchain.com

7,5

Трассировка агентов, от $39 за место

есть бесплатный тарифAPI

Langfuselangfuse.com

7,5

Открытый код, 50 000 событий даром

есть бесплатный тарифAPI

W&B Weavewandb.ai

7,5

Pro от $60/мес, 1,5 ГБ трассировок

есть бесплатный тарифAPI

Arize Phoenixarize.com

7,5

Открытый код, AX Pro $50/мес

есть бесплатный тарифAPI

Portkeyportkey.ai

7,5

1 600+ моделей, Production $49/мес

есть бесплатный тарифAPI

Opikcomet.com

7,5

Pro Cloud $19/мес, 100 тыс. спанов

есть бесплатный тарифAPI

Чем отличаются друг от друга

Прочерк означает, что на сайте сервиса про это ничего не сказано. Проверено 22.08.2026.

Сервис	Бесплатный доступ	Где работает	API	Страна	Реестр ПО	Порог входа
LangSmith	есть тариф	браузер, API, SDK Python, SDK TypeScript	есть	США	—	7,5
Langfuse	есть тариф	браузер, API, Docker, Kubernetes	есть	Германия	—	7,5
W&B Weave	есть тариф	браузер, API, Docker	есть	США	—	7,5
Arize Phoenix	есть тариф	браузер, API, Docker	есть	США	—	7,5
Portkey	есть тариф	браузер, API, Docker	есть	США	—	7,5
Opik	есть тариф	браузер, API, Docker	есть	США	—	7,5

«Порог входа» считается по фактам с сайта: бесплатный доступ, открытые тарифы, русский интерфейс, работа без установки, наличие API и видимая поддержка. Он говорит о том, насколько легко начать, и ничего не говорит о качестве работы инструмента. Разборы пар, между которыми выбирают чаще всего, собраны на странице сравнения сервисов.

Как выбирать в этом разделе

Начните с объёма. Бесплатные тарифы Opik и Arize AX вмещают 25 тысяч спанов в месяц — около 830 в день, и агент с десятью шагами на запрос израсходует их за 83 обращения. Portkey меряет иначе: 10 тысяч записанных логов в месяц, где лог соответствует запросу. Weave считает гигабайтами принятых данных: 1 ГБ в месяц на бесплатном тарифе и 1,5 ГБ на Pro.

Дальше смотрите срок хранения. Бесплатный Portkey держит логи 3 дня, Arize AX Free — 15 дней, AX Pro — 30, Opik в обоих облачных тарифах — 60. Если разбор инцидента у вас начинается через неделю после жалобы пользователя, трёхдневное окно закроется раньше, чем вы дойдёте до трассировки. Продление хранения у Opik стоит $29 за каждые 100 тысяч спанов, у Arize гигабайт данных сверх лимита обойдётся в $3.

Юрлица и соответствие по разделу

Срез по 6 сервисам: у скольких вообще опубликовано то, о чём принято спрашивать до договора. Проверено 22.08.2026.

0из 6Юридическое лицо названона сайте или в документах

0из 6ИНН опубликованможно проверить в реестрах

0из 6Российское юрлицооплата и договор без валютных вопросов

0из 6В реестре отечественного ПОнужно госзаказчикам и компаниям с госучастием

0из 6Сказано про 152-ФЗработа с персональными данными

0из 6Где хранятся данныестрана серверов указана прямо

0из 6Есть SLAдоступность зафиксирована документом

6из 6Открытые ценыпрайс лежит на сайте, без запроса

Частые вопросы

Сколько стоит начать?

Начать можно за ноль. Opik и Arize AX дают по 25 тысяч спанов в месяц на бесплатных тарифах, Portkey — 10 тысяч записанных логов, W&B Weave — 1 ГБ принятых данных. Платные тарифы начинаются с $19 в месяц у Opik Pro Cloud, дальше идут Portkey Production за $49, Arize AX Pro за $50 и W&B Pro от $60. Все четыре цены помесячные.

Что такое спан и как понять, сколько их выйдет?

Спан — один зафиксированный шаг внутри обращения: вызов модели, поиск в базе, запуск инструмента. У простого чат-запроса спан обычно один, у агента с поиском и тремя инструментами их пять и больше. Поэтому 25 тысяч спанов бесплатного тарифа Opik — это около 830 шагов в день, то есть примерно 83 обращения к агенту из десяти шагов. Portkey считает по-другому и пишет 10 тысяч логов запросов в месяц.

Можно ли держать трассировки у себя?

Да, три сервиса из четырёх открыты. Phoenix от Arize идёт по лицензии ELv2 и поднимается локально командой uvx arize-phoenix serve, в Docker или Kubernetes. Открытая версия Opik собрана из того же кода, что облако, и не ограничена по числу спанов и сроку хранения. Шлюз Portkey тоже разворачивается локально. У W&B Weave размещение на своём железе идёт только на тарифе Enterprise.

Что происходит при превышении лимита?

У каждого сервиса своя механика. Portkey продолжает пропускать запросы и перестаёт писать лишние логи, а на Production каждые следующие 100 тысяч запросов стоят $9 — вплоть до 3 млн. Opik берёт $5 за каждые 100 тысяч спанов сверх включённых 100 тысяч. Arize AX Pro тарифицирует по $0,0008 за спан и $3 за гигабайт данных. W&B Weave считает мегабайтами: $0,10 за мегабайт сверх 1,5 ГБ и $0,03 за гигабайт хранилища.