Необмежений ШІ: Уникайте цих 8 поширених помилок

Помилка 1: Ігнорування 100k токенного вікна контексту

Відповідь: Ви повинні керувати контекстним вікном на 100,000 токенів, щоб запобігти помилкам та оптимізувати затримки.

Багато розробників припускають, що вікно контексту є нескінченним або стосується лише довжини вхідних даних. Це не так. Ліміт стосується суми токенів вашого запиту та токенів виводу. Якщо ви надсилаєте величезний журнал історії, у вас може залишитися лише 20,000 токенів для мовлення моделі. Коли ви перевищуєте цей ліміт, API негайно повертає помилку. Не надсилайте непотрібні метадані. Видаліть пробіли. Стисніть історію. Це зробить ваші запити лаконічними та гарантує, що ви залишатиметеся в межах 100,000 токенів, не стикаючись із несподіваними жорсткими лімітами.

Помилка 2: Припущення, що 'Uncensored' означає без обмежень

Відповідь: Нецензурний контент не означає нескінченний; активний фільтр для сексуального контенту з неповнолітніми залишається.

Термін "uncensored" (без фільтрів) в нашому контексті означає, що модель не відмовлятиме в законних дорослих темах, суперечливих питаннях або творчій художній літературі на основі типових фільтрів ввічливості. Однак існує одне жорстке обмеження контенту, яке завжди застосовується: запити, що стосуються сексуального контенту з неповнолітніми, відхиляються. Це незмінне правило. Якщо ви надішлете запит, що описує цей конкретний сценарій, ви отримаєте відмову. Не припускайте, що всі межі зникли. Розумійте, що модель налаштована на свободу, а не на видалення кожного окремого елемента безпеки, що існує.

Помилка 3: Забування встановити max_tokens

Відповідь: Завжди встановлюйте max_tokens для контролю довжини відповіді та запобігання марнуванню кредиту.

Якщо не встановити max_tokens параметр, за замовчуванням встановлено 2,048 токенів. Це може бути замало для складного міркування або занадто багато для простих відповідей, якщо ви насправді хочете довшу відповідь. Що ще важливіше, пропуск цього параметра може призвести до непередбачуваних витрат, якщо модель вирішить розтягувати текст. Ви платите за те, що використовуєте. Встановлення розумної верхньої межі захищає ваш баланс від нескінченних циклів генерації. Чітко визначте довжину виходу. Це забезпечує послідовну поведінку в різних запитах і робить витрати передбачуваними.

Помилка 4: Неправильне використання ідентифікатора моделі

Відповідь: Використовуйте точний рядок "uncensored" як ідентифікатор моделі в усіх запитах.

Не вгадуйте ідентифікатор моделі. Не використовуйте "gpt-4", "claude-3" або "dolphin-mixtral". Наш API надає одну модель з відкритими вагами, налаштовану для необмеженого виводу. Ви повинні надіслати "uncensored" в model field вашого JSON-пакета. Якщо ви використовуєте неправильний ID, ви отримаєте помилку 404 або загальну відповідь "модель не знайдена". Це не сервіс маршрутизації. Немає вибору моделі. Є лише одна модель. Використовуйте правильний ID, щоб гарантувати, що ви отримаєте поведінку uncensored, за яку заплатили.

Помилка 5: Неправильна обробка потокових фрагментів

Відповідь: Уважно парсуйте останній чанк, щоб витягти точну статистику використання токенів.

Коли ви вмикаєте потокову передачу (streaming), API надсилає кілька фрагментів. Більшість фрагментів містять лише контент. Останній фрагмент містить дані про використання. Якщо ви припините прослуховування занадто рано або не перевірите останній фрагмент, ви не дізнаєтеся, скільки токенів ви фактично спожили. Це призводить до розбіжностей у билінгу. Завжди читайте до закриття потоку. Парсуйте usage об'єкт у останньому дельта-блоці. Це гарантує, що ваші внутрішні логи точно збігаються з нашим билінгом. Не вгадуйте використання на основі кількості символів. Токени — це не символи. Використовуйте числа, які повідомляє API.

Помилка 6: Припущення, що всі клієнти підтримують інструменти

Відповідь: Переконайтеся, що ваша бібліотека клієнта підтримує виклик функцій та режим JSON перед їх увімкненням.

Наш API підтримує інструменти, tool_choice та режим JSON. Однак не кожен загальний OpenAI-сумісний клієнт коректно обробляє ці параметри. Якщо ви використовуєте легку HTTP-обгортку, ви можете надіслати tools масив, але не парсити відповіді викликів функцій. Це порушує робочий процес. Завжди тестуйте ваш конкретний клієнт з простим викликом функції. Переконайтеся, що він може обробляти параметр tool_choice. Якщо ваш клієнт занадто старий, він може ігнорувати ці поля мовчки. Перевірте версію вашого клієнта. Оновіть за необхідності.

Помилка 7: Знехтувати циклом оплати криптовалютою

Помилка 8: Плутати нашу модель з GPT або Claude

Відповідь: Наша модель — це модель з відкритими вагами, а не GPT, Claude або модель іншого постачальника.

Ми не є проксі. Ми не маршрулізуємо ваші запити до OpenAI або Anthropic. Ми запускаємо нашу власну велику мовну модель без обмежень на наших власних серверах. Це означає, що характеристики продуктивності, особливості та стиль унікальні для нашої моделі. Не очікуйте ідентичного виводу, як у GPT-4. Не припускайте, що таке ж масштабування температури працюватиме точно так само. Налаштуйте свої параметри для нашої конкретної моделі. Прочитайте нашу документацію для рекомендованих налаштувань. Наша модель налаштована на необмежений вивід, що може відрізнятися від ввічливих стандартів комерційних моделей. Поважайте унікальність нашої архітектури.

Помилка 9: Ігнорувати фільтр контенту для неповнолітніх

Відповідь: Фільтр контенту для неповнолітніх є суворим і завжди активним, незалежно від статусу uncensored.

Хоча наша модель uncensored, вона відмовлятиме в запитах, що стосуються сексуального контенту з неповнолітніми. Це жорстка межа. Це не м'яка перевага. Якщо ваш промпт описує цей сценарій, ви отримаєте відмову. Це стосується всіх користувачів. Винятків немає. Не припускайте, що "uncensored" означає "все дозволено". Фільтр неповнолітніх є базовим обмеженням. Майте це на увазі при проектуванні структури промпту. Якщо ви генеруєте різноманітний контент, переконайтеся, що ваші фільтри достатньо специфічні, щоб уникнути цього жорсткого блоку, але все одно дозволяють дорослий контент.