Token
Краткое определение
Токен — единица текста (часть слова), обрабатываемая LLM.
Полное определение
Токен — фрагмент текста (часто часть слова), в который LLM разбивает вход и выход. Число токенов определяет стоимость и лимиты модели. В среднем 1 токен ≈ 4 символа или 0.75 слова для английского, для русского — больше.
Примеры
Запрос в 1000 слов ≈ 1300 токенов.