Бот OpenRouter раньше возвращал категорию заявки и одно пояснение, а после новой инструкции пишет подробный разбор. Число посетителей не изменилось, но ресурс заканчивается быстрее. Проверять нужно объём и весь путь ответа, а не только название выбранной модели.
Просьба «объясняй подробнее» способна менять результат. Но финансовый эффект нельзя угадывать по длине текста на экране: используйте реальные сведения об использовании для вашего маршрута.
Что изменилось в приложении
Сравните версию инструкции до правки и после неё. Найдите требования к структуре, подробности и дополнительным действиям. Посмотрите, не стал ли бот автоматически запрашивать документы или разворачивать историю разговора.
Сверьте модель и фактического провайдера. Если одновременно изменились маршрут и инструкция, рост нельзя целиком объяснять только длинным ответом. Для чистой проверки по возможности меняйте один параметр за раз на одинаковом наборе задач.
Сохраните входные и выходные токены, настройки ограничения и статус результата. Пустой, обрезанный или неподходящий ответ не следует считать принятой задачей только потому, что он стоил мало.
Пример классификатора заявок
Представим приложение, которое направляет обращение в отдел. Следующему шагу нужны категория, признак срочности и короткое основание. Страница рассуждений не помогает маршрутизации, если программа всё равно использует три поля.
Составьте точное задание на эти поля. Укажите, что делать при недостатке данных: например, вернуть предусмотренный статус для уточнения. Не требуйте подробного свободного рассказа, который потом приходится снова разбирать другой моделью.
Для аналитической записки критерий будет иным. Там короткая категория не заменяет аргументы и проверенные основания. Сокращать ответы всех инструментов до одинаковой длины тоже неправильно: экономия должна сохранять назначение продукта.
Как сравнить две инструкции
Возьмите несколько обычных и сложных обезличенных обращений. Проверьте, что обе версии получают одинаковые исходные сведения. Затем оцените результат по заранее согласованному списку.
- Все обязательные поля присутствуют.
- Значения соответствуют исходной заявке.
- Недостающие данные не заменяются выдумкой.
- Формат читается вашим приложением.
- Число ручных исправлений и повторов учтено.
Считайте расход серии до принятых результатов. Короткая первая попытка может вызвать дополнительные уточнения, и общий расход останется прежним. Длинный ответ иногда полезен, если он действительно убирает последующие этапы работы.
Что делать с ограничением длины
Проверяйте, как выбранная модель и маршрут учитывают параметры ответа. Не ставьте произвольно маленький предел, после которого обязательный документ обрывается посередине. Сначала найдите минимальную достаточную структуру на своей задаче.
В приложении должен быть виден незавершённый результат. Если программа приняла обрыв как готовое решение и отправила его клиенту, низкое использование не означает качественную оптимизацию. Отдельно испытайте случаи длинного входа и сложной формулировки.
Сохраните пример, на котором короткая версия не справилась. Он пригодится для будущей проверки после изменения модели. Без такого набора команда снова может оптимизировать только простые обращения и пропустить редкий, но важный сценарий. В рабочем отчёте рядом со стоимостью укажите число принятых ответов и причину отклонения остальных.
Пополнение после настройки
После выбора рабочей версии измерьте несколько обычных дней. Используйте этот расход для покупки OpenRouter через NukaPay. Уточните нужный продукт, объём и доступный способ оплаты; сумму в рублях согласуйте до оформления.
Для расчёта не нужны переписки клиентов, секретный ключ или пароль. Передавайте только сведения о продукте и необходимом ресурсе. Если меняется корпоративный формат, обозначьте требования заранее.
Результат проверки — ответ достаточно подробен для своей задачи и не создаёт лишних этапов. Тогда новое пополнение покрывает полезную работу, а не неосознанное расширение текста после одной фразы в инструкции.
Смотрите также причину завершения ответа. Остановка по установленной длине и законченная полезная реплика — разные результаты, даже если обе операции вернули текст.
Источники
OpenRouter
Поможем оплатить OpenRouter из России: пополнение баланса, pay-as-you-go доступ и единый API к OpenAI, Anthropic, Mistral, Google и другим моделям.