よくある質問¶
このドキュメントでは、ユーザーからのよくある質問と回答をまとめています。
一般的な質問¶
API 関連¶
LiteLLM で本サイト API を呼び出す際、reasoning_effort が効かない場合は?¶
LiteLLM で本サイト API を呼び出す際、トップレベルで reasoning_effort を指定しても思考モードが有効にならない場合は、extra_body に渡すことを試してください。extra_body はリクエストボディにマージされて正しく送信されます。
方法一:トップレベルで reasoning_effort を指定(LiteLLM では正しく渡らない場合がある)
from litellm import completion
# トップレベルでは本サイト API に正しく渡らない場合がある
response = completion(
model="openai/gpt-4o",
api_base="https://api.agtcloud.ai/v1",
api_key="your-api-key",
messages=[{"role": "user", "content": "9.11 と 9.8 のどちらが大きいか分析してください"}],
reasoning_effort="medium", # トップレベルは効かない場合がある
)
print(response.choices[0].message.content)
request-id を記録してログを照会する方法¶
リクエスト失敗、応答異常、その他の調査が必要な問題が発生した場合は、まずレスポンスヘッダーの request-id を記録してください。この ID を使って、こちらのバックエンドで該当ログを特定し、原因調査をより迅速に進められます。
通常、request-id はレスポンスヘッダーの x-oneapi-request-id として返されます。例:
x-oneapi-request-id: 20250312190218573397380LcOJ8kJX
以下は Python requests で取得する例です。
import requests
url = "https://api.xxx.com/v1/chat/completions"
headers = {
"Authorization": "Bearer YOUR_API_KEY",
"Content-Type": "application/json",
}
data = {
"model": "xxx",
"messages": [{"role": "user", "content": "hello"}],
}
resp = requests.post(url, headers=headers, json=data)
# レスポンスヘッダー x-oneapi-request-id から request-id を取得
request_id = resp.headers.get("x-oneapi-request-id")
print("request_id:", request_id)
print("response:", resp.json())
問い合わせ・チケット送信時には、request-id(可能であればリクエスト時刻、エンドポイント、モデル名も)をあわせて共有してください。より正確かつ迅速な調査につながります。
また、管理画面の /console/log ページで request-id 検索欄に記録した値を入力すれば、直接ログを検索できます。
方法二:extra_body で渡す(推奨、方法一が効かない場合に試す)
from litellm import completion
# extra_body で渡すと本サイト API に正しく送信される
response = completion(
model="openai/gpt-4o",
api_base="https://api.agtcloud.ai/v1",
api_key="your-api-key",
messages=[{"role": "user", "content": "9.11 と 9.8 のどちらが大きいか分析してください"}],
extra_body={"reasoning_effort": "medium"},
)
print(response.choices[0].message.content)