अनलिमिटेड AI: इन 8 सामान्य गलतियों से बचें

त्रुटि 1: 100k टोकन कंटेक्स्ट विंडो को नजरअंदाज करना

उत्तर: त्रुटियों को रोकने और लेटेंसी को अनुकूलित करने के लिए आपको 100,000 टोकन संदर्भ विंडो का प्रबंधन करना चाहिए।

अक्सर डेवलपर्स यह मानते हैं कि कॉन्टेक्स्ट विंडो अनंत है या केवल इनपुट लंबाई के बारे में है। ऐसा नहीं है। यह सीमा आपके प्रॉम्प्ट टोकन और कंप्लीशन टोकन के योग पर लागू होती है। यदि आप एक विशाल हिस्ट्री लॉग भेजते हैं, तो मॉडल के बोलने के लिए आपके पास केवल 20,000 टोकन बचे हो सकते हैं। जब आप इस सीमा को पार कर जाते हैं, तो एपी तुरंत एक त्रुटि लौटाता है। अनावश्यक मेटाडेटा न भेजें। स्पेस हटाएं। हिस्ट्री को कंप्रेस करें। इससे आपके अनुरोध हल्के रहते हैं और आप 100,000 टोकन की सीमा के भीतर रहते हैं बिना अचानक कठोर सीमाओं से टकराए।

त्रुटि 2: यह मान लेना कि 'अनसेंसर्ड' का अर्थ कोई सीमा नहीं है

उत्तर: अनकैप्ड का मतलब अनंत नहीं है; किशोरों की यौन सामग्री के लिए एक कठोर फ़िल्टर सक्रिय रहता है।

हमारे संदर्भ में "अनसेंसर्ड" शब्द का अर्थ है कि मॉडल कानूनी वयस्क विषयों, विवादास्पद विषयों या रचनात्मक कथाओं को अस्वीकार नहीं करेगा जो आमतौर पर विनम्रता फिल्टरों पर आधारित होते हैं। हालांकि, एक कठोर सामग्री सीमा हमेशा लागू होती है: किशोरों के साथ यौन सामग्री से जुड़े अनुरोध अस्वीकार कर दिए जाते हैं। यह अनिवार्य है। यदि आप उस विशिष्ट परिदृश्य का वर्णन करते हुए एक प्रॉम्प्ट भेजते हैं, तो आपको अस्वीकृति मिलेगी। यह न मानें कि हर सीमा समाप्त हो गई है। समझें कि मॉडल स्वतंत्रता के लिए ट्यून किया गया है, अस्तित्व में मौजूद हर एक सुरक्षा बाधा को हटाने के लिए नहीं।

त्रुटि 3: मैक्स टोकन सेट करना भूल जाना

उत्तर: प्रतिक्रिया लंबाई को नियंत्रित करने और क्रेडिट की बर्बादी से बचने के लिए max_tokens को सेट करें।

यदि आप सेट नहीं करते max_tokens पैरामीटर, डिफ़ॉल्ट 2,048 टोकन है। यह जटिल तर्क के लिए बहुत छोटा या सरल उत्तरों के लिए बहुत लंबा हो सकता है यदि आप वास्तव में एक लंबी प्रतिक्रिया चाहते हैं। सबसे महत्वपूर्ण बात, इसे छोड़ देने से मॉडल के लंबा बोलने का फैसला करने पर अनपेक्षित बिलिंग हो सकती है। आप जो उपयोग करते हैं, उसके लिए भुगतान करते हैं। एक उचित ऊपरी सीमा निर्धारित करना आपके प्रीपेड बैलेंस को रनअवे जेनरेशन लूप से बचाता है। अपनी आउटपुट लंबाई को स्पष्ट रूप से परिभाषित करें। यह विभिन्न अनुरोधों के बीच स्थिर व्यवहार सुनिश्चित करता है और लागत को पूर्वानुमेय रखता है।

त्रुटि 4: मॉडल आईडी का गलत उपयोग करना

उत्तर: सभी अनुरोधों में model ID के रूप में सटीक स्ट्रिंग "uncensored" का उपयोग करें।

मॉडल ID अनुमान न लगाएं। "gpt-4", "claude-3", या "dolphin-mixtral" का उपयोग न करें। हमारा API एकल ओपन-वेइट मॉडल सर्व करता है जो अनरस्ट्रिक्टेड आउटपुट के लिए ट्यून किया गया है। आपको "uncensored" भेजना होगा। model field आपके JSON पेलोड का। यदि आप गलत आईडी का उपयोग करते हैं, तो आपको 409 त्रुटि या एक सामान्य मॉडल न मिला प्रतिक्रिया मिलेगी। यह एक रूटिंग सेवा नहीं है। कोई मॉडल चयन नहीं है। केवल एक ही मॉडल है। सही आईडी का उपयोग करें ताकि आपको वह uncensored व्यवहार मिल सके जिसके लिए आपने भुगतान किया है।

त्रुटि 5: स्ट्रीमिंग चंक्स को सही ढंग से संभालना

उत्तर: सटीक टोकन उपयोग आंकड़े निकालने के लिए अंतिम चंक को सावधानी से पार्स करें।

जब आप स्ट्रीमिंग सक्षम करते हैं, तो API कई चंक भेजता है। अधिकांश चंक में केवल सामग्री होती है। अंतिम चंक में उपयोग डेटा होता है। यदि आप बहुत जल्दी सुनना बंद कर देते हैं या अंतिम चंक की जाँच नहीं करते हैं, तो आपको यह नहीं पता चलेगा कि आपने वास्तव में कितने टोकन खपत किए। इससे बिलिंग में असंगतियां होती हैं। हमेशा स्ट्रीम के बंद होने तक पढ़ें। पार्स करें usage object अंतिम डेल्टा में। इससे सुनिश्चित होता है कि आपकी आंतरिक लॉग हमारी बिलिंग से बिल्कुल मेल खाती हैं। चरित्र काउंट के आधार पर उपयोग अनुमान न लगाएं। टोकन चरित्र नहीं हैं। API द्वारा रिपोर्ट किए गए नंबरों का उपयोग करें।

त्रुटि 6: यह मानना कि सभी क्लाइंट टूल्स का समर्थन करते हैं

उत्तर: सक्षम करने से पहले सुनिश्चित करें कि आपकी क्लाइंट लाइब्रेरी फ़ंक्शन कॉलिंग और JSON मोड का समर्थन करती है।

हमारा API टूल्स, tool_choice और JSON मोड का समर्थन करता है। हालांकि, हर सामान्य OpenAI-compatible क्लाइंट इन पैरामीटरों को सही ढंग से संभाल नहीं सकता है। यदि आप एक हल्के HTTP वेपर का उपयोग करते हैं, तो आप भेज सकते हैं tools एरे लेकिन फ़ंक्शन कॉल प्रतिक्रियाओं को पार्स न करें। इससे वर्कफ़्लो टूट जाता है। हमेशा अपने विशिष्ट क्लाइंट को एक सरल फ़ंक्शन कॉल के साथ परीक्षण करें। सुनिश्चित करें कि यह tool_choice पैरामीटर को संभाल सकता हो। यदि आपका क्लाइंट बहुत पुराना है, तो यह इन फ़ील्ड्स को चुपचाप अनदेखा कर सकता है। अपने क्लाइंट संस्करण की जाँच करें। यदि आवश्यक हो तो अपडेट करें।

गलती 7: क्रिप्टो पेमेंट साइकिल को नजरअंदाज करना

गलती 8: हमारे मॉडल को GPT या क्लॉड से भ्रमित करना

उत्तर: हमारा मॉडल एक ओपन-वेइट मॉडल है, GPT, क्लॉड, या किसी अन्य वेंडर का मॉडल नहीं।

हम प्रॉक्सी नहीं हैं। हम आपके अनुरोधों को OpenAI या Anthropic की ओर रूट नहीं करते हैं। हम अपने खुद के सर्वर पर अपना खुद का अनसेंसर्ड लार्ज लैंग्वेज मॉडल चलाते हैं। इसका मतलब है कि प्रदर्शन विशेषताएं, क्विक्स और शैली हमारे मॉडल के लिए विशिष्ट हैं। GPT-4 के समान आउटपुट की उम्मीद न करें। यह न मानें कि समान तापमान स्केलिंग बिल्कुल उसी तरह काम करती है। अपने पैरामीटर को हमारे विशिष्ट मॉडल के लिए ट्यून्स करें। हमारे दस्तावेज़ पढ़ें कि अनुशंसित सेटिंग्स के लिए। हमारा मॉडल अनपबंध आउटपुट के लिए ट्यून्ड है, जो वाणिज्यिक मॉडल्स के विनम默认 से अलग हो सकता है। हमारी आर्किटेक्चर की अनूठीता का सम्मान करें।

गलती 9: माइनर्स कंटेंट फिल्टर को नजरअंदाज करना

उत्तर: माइनर्स कंटेंट फिल्टर कठोर और हमेशा सक्रिय रहता है, चाहे अनसेंसर्ड स्थिति कुछ भी हो।

भले ही हमारा मॉडल uncensored है, यह किशोरों के साथ यौन सामग्री से जुड़े अनुरोधों को अस्वीकार कर देगा। यह एक कठिन सीमा है। यह एक नरम प्राथमिकता नहीं है। यदि आपका प्रॉम्प्ट इस परिदृश्य का वर्णन करता है, तो आपको अस्वीकृति मिलेगी। यह सभी उपयोगकर्ताओं पर लागू होता है। कोई अपवाद नहीं है। यह न मानें कि "uncensored" का अर्थ "सब कुछ चलता है" है। किशोर फिल्टर एक आधार प्रतिबंध है। जब आप अपने प्रॉम्प्ट संरचना डिजाइन करते हैं, तो इस बात को ध्यान में रखें। यदि आप विविध सामग्री उत्पन्न कर रहे हैं, तो सुनिश्चित करें कि आपके फिल्टर इस कठिन ब्लॉक से बचने के लिए पर्याप्त विशिष्ट हैं, जबकि वयस्क सामग्री की अनुमति देते हैं।