Sınırsız AI: Kaçınmanız Gereken 8 Yaygın Hata

Hata 1: 100k Token Bağlam Penceresini Göz Ardı Etmek

Cevap: 100,000 token'lık bağlam penceresini hataları önlemek ve gecikmeyi optimize etmek için yönetmelisiniz.

Birçok geliştirici, bağlam penceresinin sonsuz olduğunu veya yalnızca girdi uzunluğuyla ilgili olduğunu varsayar. Böyle değildir. Limit, prompt tokenlarınızın tamamlama tokenlarının toplamına uygulanır. Büyük bir geçmiş günlüğü gönderirseniz, modelin konuşması için yalnızca 20.000 tokenınız kalıyor olabilir. Bu sınırı aştığınızda, API hemen bir hata döndürür. Gereksiz meta verileri göndermeyin. Boşlukları temizleyin. Geçmişi sıkıştırın. Bu, isteklerinizi ince tutar ve 100.000 token sınırını beklenmedik şekilde aşmadan kalmanızı sağlar.

Hata 2: 'Sınırlandırılmamış' kelimesinin 'Sınır Yok' anlamına geldiğini varsaymak

Cevap: Sansürsüz sonsuz değildir; küçüklerin cinsel içeriği için katı bir filtre aktif kalır.

"Uncensored" terimi bağlamımızda, modelin yasal yetişkin temalarını, tartışmalı konuları veya yaratıcı kurguyu tipik nezaket filtrelerine dayanarak reddetmeyeceği anlamına gelir. Ancak, her zaman geçerli olan tek bir katı içerik sınırı vardır: çocuklarla cinsel içerikli istekler reddedilir. Bu bağbozmadır. Belirli senaryonu betimleyen bir prompt gönderirseniz, bir reddetme alırsınız. Her sınırın kalktığını varsaymayın. Modelin özgürlük için ayarlandığını, ancak var olan tüm güvenlik kısıtlamalarının tek tek kaldırılması için olmadığını anlayın.

Hata 3: Max Tokens'i Ayarlamayı Unutma

Cevap: Yanıt uzunluğunu kontrol etmek ve kredi israfını önlemek için her zaman max_tokens'i ayarlayın.

Eğer ayarlamazsanız max_tokens parametre, varsayılan değer 2.048 belirteçtir. Bu, karmaşık akıl yürütme için çok kısa veya basit yanıtlar için çok uzun olabilir, ancak gerçekten daha uzun bir yanıt istiyorsanız. Daha da önemlisi, bu parametreyi belirtmemek, modelin konuşmaya devam etmesi durumunda öngörülemez faturalandırmaya yol açabilir. Kullandığınız kadar ödersiniz. Makul bir üst sınır belirlemek, ön ödemeli bakiyenizi koşan üretim döngülerinden korur. Çıktı uzunluğunu açıkça tanımlayın. Bu, farklı istekler arasında tutarlı davranış sağlar ve maliyetlerinizi öngörülebilir tutar.

Hata 4: Model Kimliğini Yanlış Kullanma

Cevap: Tüm isteklerde model ID olarak tam olarak "uncensored" dizgesini kullanın.

Model kimliğini tahmin etmeyin. "gpt-4", "claude-3" veya "dolphin-mixtral" kullanmayın. API'miz, kısıtlamasız çıktı için ayarlanmış tek bir açık ağırlıklı modeli sunar. İsteğinizde "uncensored" göndermelisiniz. model field JSON yükünüzün. Yanlış bir kimlik kullanırsanız 404 hatası veya genel bir model bulunamadı yanıtı alırsınız. Bu bir yönlendirme servisi değildir. Model seçimi yoktur. Yalnızca bir model vardır. Ödediğiniz uncensored davranışını almanız için doğru kimliği kullanın.

Hata 5: Akış Parçalarını Doğru Şekilde İşleme

Cevap: Doğru token kullanım istatistiklerini ayıklamak için son parçayı dikkatlice ayrıştırın.

Akış modunu (streaming) etkinleştirdiğinizde API çoklu parçalar gönderir. Çoğu parça yalnızca içerik içerir. Son parça kullanım verisini içerir. Dinlemeyi çok erken durursanız veya son parçayı kontrol etmezseniz, gerçekten kaç token tükettiğinizi bilemezsiniz. Bu faturalandırma tutarsızlıklarına yol açar. Akış kapanana kadar okumaya devam edin. Parse et usage yanıtın son delta'sındaki nesne. Bu, dahili günlüklerinizin faturalandırmanızla tam olarak eşleşmesini sağlar. Kullanımı karakter sayısına göre tahmin etmeyin. Tokenlar karakter değildir. API'nin bildirdiği sayıları kullanın.

Hata 6: Tüm İstemcilerin Araçları Desteklediğini Varsayma

Cevap: İşlev çağırma ve JSON modunu etkinleştirmeden önce istemci kütüphanenizin bu özellikleri desteklediğinden emin olun.

API'miz araçları, tool_choice ve JSON modunu destekler. Ancak, her genel OpenAI-uyumlu istemci bu parametreleri doğru şekilde işlemez. Hafif bir HTTP sarmlayıcısı kullanıyorsanız, muhtemelen gönderdiğiniz tools dizi ancak işlev çağırma yanıtlarını ayrıştırmayın. Bu iş akışını bozar. Her zaman özel istemcinizi basit bir işlev çağrısıyla test edin. Tool_choice parametresini işleyebildiğinden emin olun. İstemciniz çok eskiyse, bu alanları sessizce yoksayabilir. İstemci sürümünüzü kontrol edin. Gerekirse güncelleyin.

Hata 7: Kripto Ödeme Döngüsünü Göz Ardı Etmek

Hata 8: Modelimizi GPT veya Claude ile Karıştırmak

Cevap: Modelimiz, GPT, Claude veya başka bir tedarikçinin modeli olmayan açık ağırlıklı bir çözümdür.

Bir proxy değiliz. İstemlerinizi OpenAI veya Anthropic'e yönlendirmiyoruz. Kendi kontrolsüz büyük dil modelimizi kendi sunucularımızda çalıştırıyoruz. Bu, performans özelliklerinin, tuhaflıkların ve stilin modelimize özgü olduğu anlamına gelir. GPT-4 ile aynı çıktıyı beklemeyin. Sıcaklık ölçeklendirmesinin tam olarak aynı şekilde çalışacağını varsaymayın. Parametrelerinizi kendi modelimize göre ayarlayın. Önerilen ayarlar için dokümantasyonumuzu okuyun. Modelimiz, ticari modellerin kibar varsayılanlarından farklı olarak kısıtlamasız çıktı için ayarlanmıştır. Mimarisinin benzersizliğine saygı duyun.

Hata 9: Küçükler İçerik Filtresini Göz Ardı Etmek

Cevap: Minör içerik filtresi serttir ve uncensored durumundan bağımsız olarak her zaman aktiftir.

Aunque nuestro modelo es sin censura, rechazará las solicitudes que involucren contenido sexual con menores. Este es un límite estricto. No es una preferencia suave. Si tu prompt describe este escenario, obtendrás un rechazo. Esto se aplica a todos los usuarios. No asumas que "sin censura" significa "todo vale". El filtro de menores es una restricción base. Tenlo en cuenta al diseñar tu estructura de prompt. Si generas contenido diverso, asegúrate de que tus filtros sean lo suficientemente específicos para evitar este bloqueo estricto mientras aún permiten contenido para adultos.