Неограниченный ИИ: Избегайте этих 8 распространенных ошибок

Ошибка 1: Игнорирование окна контекста в 100k токенов

Ответ: Вы должны управлять контекстным окном в 100,000 токенов, чтобы предотвратить ошибки и оптимизировать задержки.

Многие разработчики считают, что контекстное окно бесконечно или зависит только от длины ввода. Это не так. Лимит применяется к сумме токенов вашего промпта плюс токенов завершения. Если вы отправите огромный журнал истории, у вас может остаться всего 20 000 токенов для ответа модели. При превышении этого лимита API сразу возвращает ошибку. Не отправляйте лишние метаданные. Удаляйте пробелы. Сжимайте историю. Это делает ваши запросы лёгкими и гарантирует, что вы останетесь в пределах 100 000 токенов, не столкнувшись с неожиданными жёсткими лимитами.

Ошибка 2: Предположение, что 'Uncensored' означает отсутствие ограничений

Ответ: Нецензурированный контент не означает бесконечность; жесткий фильтр для сексуального контента с участием несовершеннолетних остается активным.

Термин "uncensored" в нашем контексте означает, что модель не будет отказывать в законных взрослых темах, спорных вопросах или творческой фантазии на основе типичных фильтров вежливости. Однако есть одно жесткое ограничение по контенту, которое всегда применяется: запросы, связанные с сексуальным контентом с участием несовершеннолетних, будут отклонены. Это неоспоримо. Если вы отправите запрос, описывающий этот конкретный сценарий, вы получите отказ. Не думайте, что все границы исчезли. Поймите, что модель настроена на свободу, а не на удаление каждого отдельного механизма безопасности в мире.

Ошибка 3: Забывание установить max_tokens

Ответ: Всегда устанавливайте max_tokens для контроля длины ответа и предотвращения потери кредита.

Если не установлен max_tokens параметр, по умолчанию установлено 2,048 токенов. Этого может быть слишком мало для сложного рассуждения или слишком много для простых ответов, если вы на самом деле хотите получить более длинный ответ. Что еще важнее, отсутствие этого параметра может привести к непредсказуемым расходам, если модель решит болтать. Вы платите за то, что используете. Установка разумного верхнего предела защищает ваш предоплаченный баланс от бесконечных циклов генерации. Явно определите длину вывода. Это обеспечивает согласованное поведение при разных запросах и делает ваши затраты предсказуемыми.

Ошибка 4: Неверное использование идентификатора модели

Ответ: Используйте точную строку "uncensored" в качестве идентификатора модели во всех запросах.

Не угадывайте идентификатор модели. Не используйте "gpt-4", "claude-3" или "dolphin-mixtral". Наш API обслуживает единственную модель с открытым весом, настроенную на неограниченный вывод. Вы должны отправить "uncensored" в model field вашего JSON-полезной нагрузки. Если вы используете неверный ID, вы получите ошибку 404 или общий ответ «модель не найдена». Это не сервис маршрутизации. Нет выбора модели. Есть только одна модель. Используйте правильный ID, чтобы убедиться, что вы получаете поведение без цензуры, за которое заплатили.

Ошибка 5: Неправильная обработка потоковых фрагментов

Ответ: Внимательно разбирайте последний чанк, чтобы извлечь точные данные об использовании токенов.

При включении потоковой передачи API отправляет несколько фрагментов. Большинство фрагментов содержат только контент. Последний фрагмент содержит данные об использовании. Если вы прекратите прослушивание слишком рано или не проверите последний фрагмент, вы не узнаете, сколько токенов вы фактически потребите. Это приводит к расхождениям в биллинге. Всегда читайте поток до конца. Парсите usage объект в последнем дельта-объекте. Это гарантирует, что ваши внутренние журналы точно соответствуют нашим данным для выставления счетов. Не пытайтесь угадать использование на основе количества символов. Токены — это не символы. Используйте числа, сообщаемые API.

Ошибка 6: Предположение, что все клиенты поддерживают инструменты

Ответ: Убедитесь, что ваша клиентская библиотека поддерживает вызов функций и режим JSON перед их включением.

Наш API поддерживает инструменты, tool_choice и JSON-режим. Однако не каждый универсальный OpenAI-совместимый клиент корректно обрабатывает эти параметры. Если вы используете легковесную HTTP-обертку, вы можете отправить tools массив, но не обрабатывать ответы вызова функции. Это нарушает рабочий процесс. Всегда тестируйте ваш конкретный клиент с помощью простого вызова функции. Убедитесь, что он может обрабатывать параметр tool_choice. Если ваш клиент слишком старый, он может игнорировать эти поля молча. Проверьте версию клиента. Обновите при необходимости.

Ошибка 7: Пренебрежение циклом крипто-платежей

Ошибка 8: Путаница нашей модели с GPT или Claude

Ответ: Наша модель — это модель с открытым весом, а не GPT, Claude или модель другого вендора.

Мы не прокси. Мы не маршрутизируем ваши запросы в OpenAI или Anthropic. Мы запускаем нашу собственную большую языковую модель без ограничений на наших собственных серверах. Это означает, что характеристики производительности, особенности и стиль уникальны для нашей модели. Не ожидайте идентичного вывода, как у GPT-4. Не предполагайте, что та же настройка температуры работает точно так же. Настройте свои параметры для нашей конкретной модели. Прочтите нашу документацию для рекомендуемых настроек. Наша модель настроена на неограниченный вывод, который может отличаться от вежливых умолчаний коммерческих моделей. Уважайте уникальность нашей архитектуры.

Ошибка 9: Игнорирование фильтра контента для несовершеннолетних

Ответ: Фильтр контента для несовершеннолетних работает строго и всегда активен, независимо от статуса uncensored.

Хотя наша модель uncensored, она будет отклонять запросы, связанные с сексуальным контентом с участием несовершеннолетних. Это жесткое ограничение. Это не мягкое предпочтение. Если ваш промпт описывает этот сценарий, вы получите отказ. Это применяется ко всем пользователям. Исключений нет. Не предполагайте, что "uncensored" означает "все разрешено". Фильтр по несовершеннолетним — это базовое ограничение. Имейте это в виду при проектировании структуры промпта. Если вы генерируете разнообразный контент, убедитесь, что ваши фильтры достаточно специфичны, чтобы избежать этого жесткого блока, но при этом позволять взрослый контент.