LLM を選択する
GET /v1/agents/models は、アカウントで利用可能なモデルを返します。各エントリには、プロバイダー、平均レイテンシ、トークン価格が含まれます。
ID でモデルを設定します:
生成設定
config.model は 2 つのオプション設定も受け付けます。temperature を null に設定すると、モデルのデフォルトが使用されます。max_output_tokens を null に設定すると、出力トークン数の制限がなくなります。
temperatureの範囲は0から1です。低い値ほど一貫性のある応答に、高い値ほど多様な応答になります。max_output_tokensは応答のトークン数を制限します。範囲は1から4096です。
フォールバックモデル
モデルが応答を始める前に失敗した場合、エージェントは別のモデルにフォールバックします。使用するモデルはconfig.model.fallback_strategy で指定します。
{ "type": "auto" }は Cartesia が管理するフォールバックモデルを使用します。これがデフォルトです。{ "type": "explicit", "ids": [...] }はGET /v1/agents/modelsのモデル ID を最大 3 つ、指定した順に使用します。nullはフォールバックを無効にします。