AI bez omezení: Vyhněte se těchto 8 častých chyb

Chyba 1: Ignorování kontextového okna 100k tokenů

Odpověď: Musíte spravovat 100,000 tokenové kontextové okno, abyste předešli chybám a optimalizovali latenci.

Mnoho vývojářů předpokládá, že kontextové okno je nekonečné nebo se týká pouze délky vstupu. Není. Limit se vztahuje na součet tokenů vašeho podnětu plus tokeny dokončení. Pokud odešlete masivní protokol historie, možná vám pro mluvení modelu zbyde pouze 20 000 tokenů. Když tento limit překročíte, API vrátí chybu okamžitě. Neposílejte zbytečná metadata. Odstraňte mezery. Komprimujte historii. Tím udržíte své požadavky štíhlé a zajistíte, že zůstanete v mezích 100 000 tokenů, aniž byste narazili na přísné limity neočekávaně.

Chyba 2: Předpoklad, že 'Uncensored' znamená žádné limity

Odpověď: Neomezené neznamená nekonečné; přísný filtr pro sexuální obsah s nezletilými zůstává aktivní.

Termín "uncensored" v našem kontextu znamená, že model nebude odmítat zákonné adult témata, kontroverzní témata nebo kreativní fikci na základě běžných filtrů zdvořilosti. Existuje však jedno pevné obsahové omezení, které vždy platí: požadavky zahrnující sexuální obsah s nezletilými jsou odmítány. To je neměnné. Pokud pošlete prompt popisující tento konkrétní scénář, dostanete odmítnutí. Nepředpokládejte, že pominuly všechny hranice. Pochopte, že je model laděn pro svobodu, ne pro odstranění každého jednotlivého bezpečnostního omezení, které existuje.

Chyba 3: Zapomenutí nastavit Max Tokens

Odpověď: Vždy nastavte max_tokens pro řízení délky odpovědi a zabránění plýtvání kreditem.

Pokud nenastavíte max_tokens parametr, výchozí hodnota je 2 048 tokenů. To může být příliš málo pro komplexní uvažování nebo příliš mnoho pro jednoduché odpovědi, pokud ve skutečnosti chcete delší odpověď. Důležitější je však to, že vynechání tohoto parametru může vést k nepředvídatelnému účtování, pokud se model rozhodne mluvit dlouho. Platíte za to, co použijete. Nastavení rozumného horního limitu chrání váš předplacený kredit před nekonečnými smyčkami generování. Definujte délku výstupu explicitně. To zajišťuje konzistentní chování napříč různými požadavky a udržuje náklady předvídatelné.

Chyba 4: Špatné použití ID modelu

Odpověď: Použijte přesný řetězec "uncensored" jako ID modelu ve všech požadavcích.

Neuhodněte ID modelu. Nepoužívejte "gpt-4", "claude-3" nebo "dolphin-mixtral". Naše API poskytuje jediný model s otevřenými váhami vyladěný pro neomezený výstup. Musíte odeslat "uncensored" v model pole vašeho JSON payloadu. Pokud použijete špatné ID, dostanete chybu 404 nebo obecnou odpověď model nebyl nalezen. Toto není směrová služba. Neexistuje výběr modelu. Existuje pouze jeden model. Použijte správné ID, abyste zajistili, že získáte chování bez cenzury, za které jste zaplatili.

Chyba 5: Nesprávné zpracování streamovaných částí

Odpověď: Parsovejte konečnou část pečlivě pro extrakci přesných statistik využití tokenů.

Po povolení streamování API odesílá více částí. Většina částí obsahuje pouze obsah. Poslední část obsahuje data o využití. Pokud přestanete naslouchat příliš brzy nebo nekontrolujete poslední část, nebudete vědět, kolik tokenů jste ve skutečnosti spotřebovali. To vede k nesrovnalostem ve fakturaci. Vždy čtěte, dokud stream neskončí. Parsovat usage object v posledním delta. To zajišťuje, že vaše interní protokoly přesně odpovídají našemu fakturování. Nehádejte používání na základě počtu znaků. Tokeny nejsou znaky. Použijte čísla hlášená API.

Chyba 6: Předpoklad, že všichni klienti podporují nástroje

Odpověď: Ověřte, že vaše klientská knihovna podporuje volání funkcí a režim JSON před jejich povolením.

Naše API podporuje nástroje, tool_choice a režim JSON. Ne každý obecný klient kompatibilní s OpenAI však tyto parametry zpracovává správně. Pokud používáte lehký HTTP wrapper, můžete odeslat tools pole, ale neparsujte odpovědi volání funkcí. To naruší pracovní postup. Vždy otestujte svůj konkrétní klient jednoduchým voláním funkce. Ujistěte se, že zvládne parametr tool_choice. Pokud je váš klient příliš starý, může tato pole potichu ignorovat. Zkontrolujte verzi klienta. Aktualizujte, pokud je to nutné.

Chyba 7: Přehlédnutí cyklu platby kryptoměnami

Chyba 8: Záměna našeho modelu s GPT nebo Claude

Odpověď: Náš model je model s otevřenou vahou, nikoliv GPT, Claude ani model jiného dodavatele.

Nejsme proxy. Nesměrujeme vaše požadavky do OpenAI nebo Anthropic. Provozujeme vlastní velký jazykový model bez omezení obsahu na vlastních serverech. To znamená, že charakteristiky výkonu, zvláštnosti a styl jsou jedinečné pro náš model. Neočekávejte identický výstup jako GPT-4. Nepředpokládejte, že stejné nastavení teploty funguje přesně stejně. Ladicí parametry upravte pro náš konkrétní model. Přečtěte si naši dokumentaci pro doporučená nastavení. Náš model je laděn pro neomezený výstup, který se může lišit od zdvořilých výchozích nastavení komerčních modelů. Respektujte jedinečnost naší architektury.

Chyba 9: Ignorování filtru obsahu pro nezletilé

Odpověď: Filtr pro obsah pro nezletilé je přísný a vždy aktivní, bez ohledu na stav bez cenzury.

I když je náš model nezcenzurovaný, odmítne požadavky, které zahrnují sexuální obsah s nezletilými. Toto je tvrdý limit. Není to měkká preference. Pokud váš podnět popisuje tento scénář, dostanete odmítnutí. To platí pro všechny uživatele. Neexistuje výjimka. Nepředpokládejte, že „nezcenzurovaný“ znamená „všechno je povoleno“. Filtr nezletilých je základní omezení. Mějte to na paměti při navrhování struktury podnětu. Pokud generujete rozmanitý obsah, ujistěte se, že vaše filtry jsou dostatečně specifické, aby se vyhnuly tomuto tvrdému bloku, ale stále umožnily obsah pro dospělé.