제한 없는 AI: 피해야 할 8가지 공통 실수

실수 1: 100k 토큰 컨텍스트 창 무시하기

답변: 100,000 토큰 컨텍스트 창을 관리하여 오류를 방지하고 지연 시간을 최적화해야 합니다.

많은 개발자는 컨텍스트 윈도우가 무제한이거나 입력 길이만 관련 있다고 가정합니다. 그렇지 않습니다. 제한은 프롬프트 토큰과 완성 토큰의 합계에 적용됩니다. 방대한 기록 로그를 보내면 모델이 응답할 수 있는 토큰이 20,000개만 남을 수 있습니다. 이 제한을 초과하면 API가 즉시 오류를 반환합니다. 불필요한 메타데이터를 보내지 마십시오. 공백을 제거하십시오. 기록을 압축하십시오. 이렇게 하면 요청이 간결하게 유지되고 100,000 토큰 경계 내에서 예상치 못한 하드 제한에 도달하지 않고 유지됩니다.

실수 2: 'Uncensored'를 제한 없음으로 가정하기

답변: 검열 없음이 콘텐츠가 무제한이라는 뜻은 아닙니다. 미성년자 성 콘텐츠에 대한 하드 필터가 여전히 활성화되어 있습니다.

문맥에서 "uncensored"라는 용어는 모델이 일반적인 예의 필터에 따라 합법적인 성인 주제, 논쟁적인 주제 또는 창의적인 소설을 거부하지 않음을 의미합니다. 그러나 항상 적용되는 하나의 하드 콘텐츠 제한이 있습니다. 미성년자와 관련된 성 콘텐츠 요청은 거부됩니다. 이는 타협 불가능합니다. 해당 특정 시나리오를 설명하는 프롬프트를 보내면 거부를 받게 됩니다. 모든 경계가 사라졌다고 가정하지 마세요. 모델이 존재하는 모든 안전 제약을 제거하는 것이 아니라 자유를 위해 튜닝되었다는 것을 이해하세요.

실수 3: Max Tokens 설정을 잊기

답변: 항상 max_tokens을 설정하여 응답 길이를 제어하고 크레딧 낭비를 방지하세요.

max_tokens을 설정하지 않으면 max_tokens 파라미터의 기본값은 2,048토큰입니다. 이는 복잡한 추론에는 너무 짧거나, 더 긴 응답이 필요한 단순 답변에는 너무 길 수 있습니다. 더 중요한 것은, 이 파라미터를 생략하면 모델이 장황하게 늘어놓을 경우 예측 불가능한 과금이 발생할 수 있다는 점입니다. 사용한 만큼 지불합니다. 합리적인 상한선을 설정하면 무한 생성 루프로 인해 선불 잔액이 고갈되는 것을 방지할 수 있습니다. 출력 길이를 명시적으로 정의하세요. 이는 다양한 요청 간 일관된 동작을 보장하고 비용을 예측 가능하게 유지합니다.

실수 4: 모델 ID 오용

답변: 모든 요청에서 모델 ID로 정확한 문자열 "uncensored"를 사용하세요.

모델 ID를 추측하지 마세요. "gpt-4", "claude-3", "dolphin-mixtral"을 사용하지 마세요. 당사 API는 제한 없는 출력을 위해 튜닝된 단일 오픈 웨이트 모델을 제공합니다. 반드시 "uncensored"를 model field of your JSON payload. If you use a wrong ID, you will get a 404 error or a generic model not found response. This is not a routing service. There is no model selection. There is only one model. Use the correct ID to ensure you get the uncensored behavior you paid for.

실수 5: 스트리밍 청크 처리 실패

답변: 정확한 토큰 사용량 통계를 추출하기 위해 마지막 청크를 신중하게 파싱하세요.

스트리밍을 활성화하면 API는 여러 청크를 전송합니다. 대부분의 청크에는 콘텐츠만 포함됩니다. 마지막 청크에는 사용량 데이터가 포함됩니다. 스트림을 너무 일찍 중단하거나 마지막 청크를 확인하지 않으면 실제로 소비한 토큰 수를 알 수 없습니다. 이는 청구 불일치를 초래합니다. 스트림이 닫힐 때까지 항상 읽으세요. 파싱하는 usage 마지막 delta의 object입니다. 이를 통해 내부 로그가 청구 내역과 정확히 일치하도록 보장합니다. 문자 수를 기반으로 사용량을 추측하지 마세요. 토큰은 문자가 아닙니다. API가 보고한 숫자를 사용하세요.

실수 6: 모든 클라이언트가 도구를 지원한다고 가정하기

답변: 함수 호출 및 JSON 모드를 활성화하기 전에 클라이언트 라이브러리가 해당 기능을 지원하는지 확인하세요.

API는 도구, tool_choice 및 JSON 모드를 지원합니다. 하지만 모든 범용 OpenAI 호환 클라이언트가 이러한 매개변수를 올바르게 처리하는 것은 아닙니다. 경량 HTTP 래퍼를 사용하는 경우, tools 배열이지만 함수 호출 응답은 파싱하지 않습니다. 이렇게 하면 워크플로우가 중단됩니다. 반드시 간단한 함수 호출로 특정 클라이언트를 테스트하십시오. tool_choice 매개변수를 처리할 수 있는지 확인하십시오. 클라이언트가 너무 오래된 경우 이러한 필드를 silently 무시할 수 있습니다. 클라이언트 버전을 확인하고 필요시 업데이트하십시오.

실수 7: 암호화폐 결제 주기를 간과하기

실수 8: 우리 모델을 GPT나 Claude와 혼동하기

답변: 우리 모델은 오픈 웨이트 모델로, GPT, Claude 또는 기타 벤더의 모델이 아닙니다.

저희는 프록시가 아닙니다. 요청을 OpenAI나 Anthropic으로 라우팅하지 않습니다. 자체 uncensored 대형 언어 모델을 자체 서버에서 실행합니다. 이는 성능 특성, 특이점 및 스타일이 저희 모델에 고유함을 의미합니다. GPT-4와 동일한 출력을 기대하지 마세요. 동일한 온도 스케일링이 정확히 동일하게 작동한다고 가정하지 마세요. 매개변수를 저희 특정 모델에 맞게 조정하세요. 권장 설정에 대한 문서를 읽으세요. 저희 모델은 제한 없는 출력에 맞게 조정되어 있어 상업용 모델의 정중한 기본값과 다를 수 있습니다. 저희 아키텍처의 고유함을 존중하세요.

실수 9: 미성년자 콘텐츠 필터 무시하기

답변: 마이너 콘텐츠 필터는 uncensored 상태와 관계없이 항상 활성화되어 강력하게 작동합니다.

모델이 Uncensored이지만 미성년자와 관련된 성 콘텐츠가 포함된 요청은 거부됩니다. 이는 하드 제한입니다. 부드러운 선호도가 아닙니다. 프롬프트가 이 시나리오를 묘사하면 거부를 받게 됩니다. 이는 모든 사용자에게 적용됩니다. "Uncensored"가 "모든 것이 허용됨"을 의미한다고 가정하지 마세요. 미성년자 필터는 기본 제약 조건입니다. 프롬프트 구조를 설계할 때 이를 염두에 두세요. 다양한 콘텐츠를 생성할 경우, 성인 콘텐츠는 허용하면서 이 하드 블록을 피할 수 있도록 필터가 충분히 구체적인지 확인하세요.