主要ポイント
- 既存のSDKとの完全な互換性を確保し、統合を簡素化するために、/v1/chat/completionsエンドポイントを使用してください。
- 早期の切り捨てや予期せぬコストを避けるため、100kトークンのコンテキストウィンドウを厳密に監視してください。
- レート制限（RPM）と無検閲モデルのレイテンシ変動に対応するため、堅牢なエラー処理を実装してください。
- フィルターがないということは、必要に応じて後続のモデレーションの責任があなたにあることを意味します。
モデル定義
モデルの選択はアプリケーションの動作を決定します。無検閲のAI用途には、成人向けや論争的なトピックでの拒否を最小限に抑えるようにトレーニングされたオープンウェイトモデルを選択してください。標準的なプロプライエタリモデルとは異なり、この種のLLMは企業ポリシーに基づく厳格なガードレールを適用しないため、ユーザーのプロンプトに忠実な応答を可能にします。
モデルが関数呼び出し（tool calling）をネイティブにサポートしているか確認してください。これはJSON出力を構造化したり外部APIと連携したりするアプリケーションにとって重要です。OpenAI APIペイロード形式との互換性は、統合レイヤーを書き換えずにベンダー間で移行できることを保証します。
コンテキスト確認
100,000トークンのコンテキストウィンドウにより、長い会話の維持や大規模なドキュメントの処理を、情報の即時損失なしで実行できます。ただし、コンテキストが大きいことが必ずしも高い知能を意味するわけではなく、単に拡張されたメモリを意味します。開発者は、履歴の成長を管理するためにスライディングウィンドウや要約戦略を実装する必要があります。
- 入力トークン：会話履歴と現在のプロンプトを含みます。
- 出力トークン：生成された応答を含みます。
トークンの使用状況をリアルタイムで監視してください。100kの制限を超えると、サーバーの実装に応じてAPIエラーまたは切り捨てが発生します。長時間のチャットアプリケーションでは、コストを予測可能に保つために最後のN回の対話のみを送信することを検討してください。
トークン管理
無検閲AIのコストは、処理されるトークンの量に比例します。モデルは入力トークン100万トークンあたり$0.25、出力トークン100万トークンあたり$1.00を請求します。フィルターなしのモデルでは出力が通常より長く複雑になるため、出力コストが入力コストを大幅に上回る可能性があります。
リクエスト送信前にクライアント側でトークンカウンターを実装してください。これにより、送信前に応答のコストを正確に見積もることができます。最適化のため、システムプロンプトの冗長性を減らし、可能であれば自然言語の代わりに関数を使用して構造化データを返してください。JSONは自然言語よりもトークンが高密度です。
リクエスト制限
安定性を確保するため、サービスはAPIキーごとに1分あたり300リクエスト（RPM）の制限と、最大8 MBのリクエストボディを設けています。使用量のピーク時にRPMを超えると、エラー429（Too Many Requests）が発生します。開発者は指数バックオフ付きのリトライを実装する必要があります。
高同時実行アプリケーションではメッセージキューの使用を検討してください。より高いスループットが必要な場合は、複数のAPIキー間で負荷を分散するか、インフラの自然な制限を尊重するためにユーザーの知覚レイテンシを増加させる計画を立ててください。
APIキーのセキュリティ
あなたのAPIキーは検閲なしAIへのアクセスのための一意の資格情報です。これは自動的に期限切れになりませんが、いつでも無効化できます。キーをサーバー上の環境変数に保持し、フロントエンドコードや公開リポジトリで公開しないようにしてください。
不正使用の疑いがある場合は、直ちに新しいキーを生成してください。これにより古いキーが無効化され、それを使用しているすべてのクライアントのアクセスが切断されます。プラットフォームが詳細な監視を許可する場合は、過剰使用アラートを有効にして、ボットや漏洩したスクリプトを迅速に検出してください。
エラー処理
一般的なエラーには、429 Too Many Requests（レート制限）、400 Bad Request（無効な形式）、500 Internal Server Errorがあります。ネットワークエラーとタイムアウトは必ず処理してください。無検閲モデルは、トレーニングデータのキュレーションが少なかったため、不完全な応答や幻覚応答を返す場合があります。
フォールバックロジックを実装してください。応答が失敗した場合、temperatureをわずかに変えて再試行するか、コンテキストサイズを減らしてください。最終ユーザーに生の技術エラーを表示すると混乱を招く可能性があります。エラーコードをユーザーフレンドリーで実行可能なメッセージに変換してください。
ストリーミングとリアルタイム
Server-Sent Events (SSE) のストリーミングサポートにより、トークン単位で応答を表示でき、ユーザーのレイテンシ知覚が向上します。これはリアルタイムチャットアプリケーションにとって不可欠です。
ストリーミングを実装するには、HTTPクライアントをデータチャンクが到着するたびに読み込むように設定してください。これにより、初期待機時間（TTFT）が削減されます。接続が切断されて再接続する必要がある場合にトークンの重複を避けるため、クライアントの状態管理を忘れないでください。ストリーミングは課金価格を変更せず、データの配信方法のみを変更します。
関数呼び出し
関数呼び出しにより、モデルは外部ツールをいつ、どのように呼び出すかを判断できます。制限なしAPIでは、モデルは関数引数の構造化においてより創造的になる可能性があります。実行する前にサーバー側で受信したパラメータを検証してください。
関数に対して明確なJSONスキーマを定義してください。検閲の欠如はJSONの技術的な精度には影響しませんが、あいまいなコンテキストの解釈におけるモデルの創造性に影響を与える可能性があります。モデルがスキーマで定義されていない引数を発明する可能性がある極端なケースを徹底的にテストしてください。
データプライバシー
モデルはコンテンツをフィルタリングしませんが、データ使用ポリシーをご確認ください。本サービスでは、プロンプトはモデルのトレーニングに使用されないことを謳っており、これは企業向けまたは機密性の高いアプリケーションにおいて重要です。プライバシーはサービスのシンプルさによって保証されます：アカウント作成にはメールアドレスとパスワードのみが必要です。
非常に機微なデータの場合、プライバシーが重要な場合はAPI送信前にオブラッシング層を実装することを検討してください。モデルは送信されたプロンプトに基づいてテキストを生成することに注意してください。名前を送信すると、応答に含まれる可能性があります。無検閲であるため、モデル側でPIDs（Personal Identifiable Information）の自動ブロックは行われません。
