Токен

единица, в которой модель считает текст и деньги

Минимальный кусок текста, которым оперирует модель: иногда целое слово, иногда его часть, иногда один символ.

Нейросеть не читает буквы и не читает слова — она читает токены. Английское слово чаще всего укладывается в один токен, русское разбивается на два-три. Из-за этого один и тот же текст на русском стоит дороже, чем на английском: токенов в нём просто больше.

Токены считают отдельно на вход и на выход. Входные — это ваш запрос вместе со всей историей диалога и приложенными файлами. Выходные — то, что модель написала в ответ. Выходные дороже входных обычно в пять-шесть раз, и именно они дают основную часть счёта.

Вход
Ваш запрос

Инструкция, история переписки и приложенные документы. Дешевле выхода.

Выход
Ответ модели

То, что модель сгенерировала. Дороже входа в пять-шесть раз.

Цена у моделей объявляется за миллион токенов, отдельно за вход и отдельно за выход.
Пример

Фраза «Сколько стоит миллион токенов» на русском разбирается примерно на девять токенов, её английский перевод — на пять. Посчитать свой месячный счёт можно в калькуляторе стоимости токенов.