コンテンツにスキップ

よくある質問

このドキュメントでは、ユーザーからのよくある質問と回答をまとめています。

一般的な質問

API 関連

LiteLLM で本サイト API を呼び出す際、reasoning_effort が効かない場合は?

LiteLLM で本サイト API を呼び出す際、トップレベルで reasoning_effort を指定しても思考モードが有効にならない場合は、extra_body に渡すことを試してください。extra_body はリクエストボディにマージされて正しく送信されます。

方法一:トップレベルで reasoning_effort を指定(LiteLLM では正しく渡らない場合がある)

from litellm import completion

# トップレベルでは本サイト API に正しく渡らない場合がある
response = completion(
    model="openai/gpt-4o",
    api_base="https://api.agtcloud.ai/v1",
    api_key="your-api-key",
    messages=[{"role": "user", "content": "9.11 と 9.8 のどちらが大きいか分析してください"}],
    reasoning_effort="medium",  # トップレベルは効かない場合がある
)
print(response.choices[0].message.content)

request-id を記録してログを照会する方法

リクエスト失敗、応答異常、その他の調査が必要な問題が発生した場合は、まずレスポンスヘッダーの request-id を記録してください。この ID を使って、こちらのバックエンドで該当ログを特定し、原因調査をより迅速に進められます。

通常、request-id はレスポンスヘッダーの x-oneapi-request-id として返されます。例:

x-oneapi-request-id: 20250312190218573397380LcOJ8kJX

以下は Python requests で取得する例です。

import requests

url = "https://api.xxx.com/v1/chat/completions"
headers = {
    "Authorization": "Bearer YOUR_API_KEY",
    "Content-Type": "application/json",
}

data = {
    "model": "xxx",
    "messages": [{"role": "user", "content": "hello"}],
}

resp = requests.post(url, headers=headers, json=data)

# レスポンスヘッダー x-oneapi-request-id から request-id を取得
request_id = resp.headers.get("x-oneapi-request-id")

print("request_id:", request_id)
print("response:", resp.json())

問い合わせ・チケット送信時には、request-id(可能であればリクエスト時刻、エンドポイント、モデル名も)をあわせて共有してください。より正確かつ迅速な調査につながります。

また、管理画面の /console/log ページで request-id 検索欄に記録した値を入力すれば、直接ログを検索できます。

方法二:extra_body で渡す(推奨、方法一が効かない場合に試す)

from litellm import completion

# extra_body で渡すと本サイト API に正しく送信される
response = completion(
    model="openai/gpt-4o",
    api_base="https://api.agtcloud.ai/v1",
    api_key="your-api-key",
    messages=[{"role": "user", "content": "9.11 と 9.8 のどちらが大きいか分析してください"}],
    extra_body={"reasoning_effort": "medium"},
)
print(response.choices[0].message.content)