AI بدون محدودیت: از این ۸ اشتباه رایج دوری کنید

اشتباه ۱: نادیده گرفتن پنجره زمینه ۱۰۰k توکن

پاسخ: شما باید پنجره زمینه 100,000 توکنی را مدیریت کنید تا از خطاها جلوگیری کرده و تأخیر را بهینه کنید.

بسیاری از توسعه‌دهندگان فرض می‌کنند که پنجره زمینه بی‌نهایت است یا فقط درباره طول ورودی است. این‌طور نیست. محدودیت شامل مجموع توکن‌های پرامپت شما به علاوه توکن‌های تکمیل است. اگر یک لاگ تاریخچه عظیم ارسال کنید، ممکن است فقط 20,000 توکن برای صحبت کردن مدل باقی مانده باشد. وقتی از این حد فراتر می‌روید، API بلافاصله خطا برمی‌گرداند. متاداده‌های غیرضروری ارسال نکنید. فاصله‌ها را حذف کنید. تاریخچه را فشرده کنید. این کار درخواست‌های شما را سبک نگه می‌دارد و تضمین می‌کند که بدون برخورد ناگهانی با محدودیت‌های سخت، در مرز 100,000 توکن باقی بمانید.

اشتباه ۲: فرض 'Uncensored' به معنای بدون محدودیت

پاسخ: بدون سانسور به معنای بی‌نهایت نیست؛ یک فیلتر سخت برای محتوای جنسی کودکان فعال باقی می‌ماند.

اصطلاح "uncensored" در زمینه ما به این معناست که مدل موضوعات بزرگسالان قانونی، موضوعات جنجالی یا داستان‌های خلاقانه را بر اساس فیلترهای معمول ادب رد نمی‌کند. با این حال، یک محدودیت محتوایی سخت وجود دارد که همیشه اعمال می‌شود: درخواست‌های مرتبط با محتوای جنسی با کودکان رد می‌شود. این غیرقابل مذاکره است. اگر پرامپتی که آن سناریوی خاص را توصیف می‌کند ارسال کنید، یک رد دریافت خواهید کرد. فرض نکنید که هر مرزی از بین رفته است. درک کنید که مدل برای آزادی تنظیم شده است، نه برای حذف هر قید ایمنی موجود در جهان.

اشتباه ۳: فراموش کردن تنظیم Max Tokens

پاسخ: همیشه max_tokens را برای کنترل طول پاسخ و جلوگیری از هدر رفت اعتبار تنظیم کنید.

اگر تنظیم نکنید max_tokens پارامتر، پیش‌فرض ۲,۰۴۸ توکن است. این ممکن است برای استدلال پیچیده کوتاه یا برای پاسخ‌های ساده خیلی طولانی باشد اگر واقعاً می‌خواهید پاسخ طولانی‌تری داشته باشید. مهم‌تر از آن، حذف این مورد می‌تواند منجر به صورتحساب غیرقابل پیش‌بینی شود اگر مدل تصمیم به صحبت طولانی بگیرد. شما بابت آنچه استفاده می‌کنید پرداخت می‌کنید. تعیین یک حد بالایی معقول از موجودی از پیش پرداخت شده شما در برابر حلقه‌های تولید سرگردان محافظت می‌کند. طول خروجی را به صراحت تعریف کنید. این باعث رفتار یکسان در درخواست‌های مختلف می‌شود و هزینه‌های شما را قابل پیش‌بینی نگه می‌دارد.

اشتباه ۴: استفاده نادرست از شناسه مدل

پاسخ: از رشته دقیق "uncensored" به عنوان شناسه مدل در تمام درخواست‌ها استفاده کنید.

شناسه مدل را حدس نزنید. از "gpt-4"، "claude-3" یا "dolphin-mixtral" استفاده نکنید. API ما یک مدل با وزن باز ارائه می‌دهد که برای خروجی‌های بدون محدودیت بهینه‌سازی شده است. شما باید "uncensored" را در model field of your JSON payload. If you use a wrong ID, you will get a 404 error or a generic model not found response. This is not a routing service. There is no model selection. There is only one model. Use the correct ID to ensure you get the uncensored behavior you paid for.

اشتباه ۵: مدیریت نادرست قطعات استریم

پاسخ: قطعه نهایی را با دقت تجزیه کنید تا آمار دقیق مصرف توکن را استخراج کنید.

هنگام فعال‌سازی Streaming، API چندین قطعه ارسال می‌کند. بیشتر قطعات فقط حاوی محتوا هستند. قطعه نهایی حاوی داده‌های مصرف است. اگر خیلی زود گوش دادن را متوقف کنید یا قطعه نهایی را بررسی نکنید، متوجه نخواهید شد که در واقع چند توکن مصرف کرده‌اید. این منجر به اختلافات صورت‌حساب می‌شود. همیشه تا بسته شدن جریان بخوانید. Parse the usage object در دلتای آخر. این تضمین می‌کند که لاگ‌های داخلی شما دقیقاً با صورتحساب ما مطابقت دارد. حدس زدن استفاده بر اساس تعداد کاراکتر را انجام ندهید. توکن‌ها کاراکتر نیستند. از اعداد گزارش شده توسط API استفاده کنید.

اشتباه ۶: فرض اینکه تمام کلاینت‌ها از ابزارها پشتیبانی می‌کنند

پاسخ: پیش از فعال‌سازی، بررسی کنید که کتابخانه کلاینت شما از فراخوانی تابع (function calling) و حالت JSON پشتیبانی می‌کند.

API ما از ابزارها، tool_choice و حالت JSON پشتیبانی می‌کند. با این حال، هر کلاینت عمومی سازگار با OpenAI این پارامترها را به‌درستی مدیریت نمی‌کند. اگر از یک بسته HTTP سبک استفاده می‌کنید، ممکن است tools آرایه اما پاسخ‌های فراخوانی تابع را تجزیه نکنید. این کار جریان کار را مختل می‌کند. همیشه کلاینت خاص خود را با یک فراخوانی تابع ساده تست کنید. اطمینان حاصل کنید که می‌تواند پارامتر tool_choice را مدیریت کند. اگر کلاینت شما خیلی قدیمی است، ممکن است این فیلدها را به صورت خاموش نادیده بگیرد. نسخه کلاینت خود را بررسی کنید. در صورت نیاز به‌روزرسانی کنید.

اشتباه ۷: نادیده گرفتن چرخه پرداخت ارز دیجیتال

اشتباه ۸: اشتباه گرفتن مدل ما با GPT یا Claude

پاسخ: مدل ما یک مدل وزن‌باز است، نه GPT، Claude یا مدل هیچ ارائه‌دهنده دیگری.

ما یک پروکسی نیستیم. درخواست‌های شما را به OpenAI یا Anthropic مسیریابی نمی‌کنیم. ما یک مدل زبانی بزرگ بدون سانسور خودمان را روی سرورهای خود اجرا می‌کنیم. این بدان معناست که ویژگی‌های عملکردی، ویژگی‌های خاص و سبک منحصر به فرد مدل ما است. انتظار خروجی یکسان با GPT-4 نداشته باشید. فرض نکنید که مقیاس‌دهی دما به طور دقیق یکسان کار می‌کند. پارامترهای خود را برای مدل خاص ما تنظیم کنید. تنظیمات توصیه‌شده را در مستندات ما بخوانید. مدل ما برای خروجی نامحدود تنظیم شده است که ممکن است با پیش‌فرض‌های مودانه مدل‌های تجاری متفاوت باشد. منحصر به فرد بودن معماری ما را رعایت کنید.

اشتباه ۹: نادیده گرفتن فیلتر محتوای کودکان

پاسخ: فیلتر محتوای اقلیت‌ها سخت و همیشه فعال است، صرف‌نظر از وضعیت بدون سانسور.

اگرچه مدل ما بدون سانسور است، اما درخواست‌هایی را که شامل محتوای جنسی با کودکان می‌شود، رد خواهد کرد. این یک محدودیت سخت است. یک ترجیح نرم نیست. اگر پرامپت شما این سناریو را توصیف کند، یک رد دریافت خواهید کرد. این برای همه کاربران اعمال می‌شود. استثنایی وجود ندارد. فرض نکنید که «بدون سانسور» به معنای «همه چیز مجاز است» است. فیلتر کودکان یک محدودیت خط مبنا است. این را هنگام طراحی ساختار پرامپت خود در نظر داشته باشید. اگر محتوای متنوع تولید می‌کنید، مطمئن شوید که فیلترهای شما به اندازه کافی خاص هستند تا از این مسدودیت سخت جلوگیری کنند اما همچنان محتوای بزرگسالان را مجاز نگه دارند.