API Reference

teai.io LLM API Gateway -- OpenAI互換のユニファイドAPIで、GPT-4o、Claude、Gemini、その他多数のモデルに単一エンドポイントからアクセスできます。既存のOpenAI SDKをそのまま使用可能です。

Base URL

すべてのAPIリクエストはHTTPS経由で上記ベースURLに送信します。HTTPリクエストはHTTPSにリダイレクトされます。

Authentication

APIリクエストにはAPIキーが必要です。Authorization ヘッダーにBearerトークンとして渡します。

Authorization: Bearer te_your_api_key_hereCopy

APIキーは cw_ または te_ で始まります。ダッシュボードまたは APIキー作成エンドポイント から発行できます。

Chat Completions

{
  "model": "gpt-4o",
  "messages": [
    {
      "role": "system",
      "content": "You are a helpful assistant."
    },
    {
      "role": "user",
      "content": "What is the capital of France?"
    }
  ],
  "stream": false,
  "temperature": 0.7,
  "max_tokens": 1024
}Copy

{
  "id": "chatcmpl-abc123",
  "object": "chat.completion",
  "created": 1710000000,
  "model": "gpt-4o",
  "choices": [
    {
      "index": 0,
      "message": {
        "role": "assistant",
        "content": "The capital of France is Paris."
      },
      "finish_reason": "stop"
    }
  ],
  "usage": {
    "prompt_tokens": 25,
    "completion_tokens": 8,
    "total_tokens": 33
  }
}Copy

Streaming (SSE)

"stream": true を指定すると、Server-Sent Events (SSE) 形式でレスポンスがストリーミングされます。各チャンクは data: プレフィックス付きのJSON行として送信されます。

SSE Format

// 各チャンク
data: {"id":"chatcmpl-abc123","object":"chat.completion.chunk","choices":[{"index":0,"delta":{"content":"Hello"},"finish_reason":null}]}

data: {"id":"chatcmpl-abc123","object":"chat.completion.chunk","choices":[{"index":0,"delta":{"content":" world"},"finish_reason":null}]}

// 終了シグナル
data: [DONE]

Tool Calling

OpenAI function calling形式でツールを定義し、モデルにツール呼び出しを生成させることができます。

Request with Tools

{
  "model": "gpt-4o",
  "messages": [{"role": "user", "content": "What's the weather in Tokyo?"}],
  "tools": [
    {
      "type": "function",
      "function": {
        "name": "get_weather",
        "description": "Get current weather for a location",
        "parameters": {
          "type": "object",
          "properties": {
            "location": {"type": "string"}
          },
          "required": ["location"]
        }
      }
    }
  ],
  "tool_choice": "auto"
}Copy

Response with Tool Call

{
  "choices": [{
    "message": {
      "role": "assistant",
      "content": null,
      "tool_calls": [{
        "id": "call_abc123",
        "type": "function",
        "function": {
          "name": "get_weather",
          "arguments": "{\"location\":\"Tokyo\"}"
        }
      }]
    },
    "finish_reason": "tool_calls"
  }]
}Copy

List Models

{
  "object": "list",
  "data": [
    {
      "id": "gpt-4o",
      "object": "model",
      "created": 1710000000,
      "owned_by": "openai"
    },
    {
      "id": "claude-sonnet-4-6",
      "object": "model",
      "created": 1710000000,
      "owned_by": "anthropic"
    },
    {
      "id": "gemini-2.5-pro",
      "object": "model",
      "created": 1710000000,
      "owned_by": "google"
    }
  ]
}Copy

Models Pricing

{
  "models": {
    "gpt-4o": {
      "input_per_1m": 2.50,
      "output_per_1m": 10.00
    },
    "claude-sonnet-4-6": {
      "input_per_1m": 3.00,
      "output_per_1m": 15.00
    },
    "gemini-2.5-pro": {
      "input_per_1m": 1.25,
      "output_per_1m": 5.00
    }
  }
}Copy

API Keys

{
  "id": "key_abc123",
  "name": "My API Key",
  "key": "te_sk_live_xxxxxxxxxxxxxxxxxxxx",
  "created_at": "2026-03-10T00:00:00Z"
}Copy

{
  "keys": [
    {
      "id": "key_abc123",
      "name": "My API Key",
      "key_preview": "te_sk_...xxxx",
      "created_at": "2026-03-10T00:00:00Z",
      "last_used_at": "2026-03-10T12:34:56Z"
    }
  ]
}Copy

{
  "deleted": true,
  "id": "key_abc123"
}Copy

Account Info

{
  "user_id": "usr_abc123",
  "email": "user@example.com",
  "plan": "pro",
  "credits_remaining": 4250,
  "created_at": "2026-01-15T00:00:00Z"
}Copy

Error Codes

APIはエラー時に統一されたJSON形式でレスポンスを返します。

Error Response Format

{
  "error": {
    "type": "rate_limit_exceeded",
    "message": "Rate limit exceeded. Retry after 30 seconds.",
    "retry_after": 30
  }
}Copy

Error Code Reference

Rate Limits

プランごとにレート制限が設定されています。制限超過時はエラーレスポンスが返されます。

Plan Limits

レート制限超過時はJSONエラーレスポンスが返されます。適切な間隔をあけてリトライしてください。

Timeouts

クライアント実装時に考慮すべきタイムアウト値:

Model Versioning

モデルIDの解決ルールとバージョン管理ポリシーについて説明します。

Failover

teai.ioはLoadBalancedProviderによるマルチプロバイダーアーキテクチャで高い可用性を実現しています。

フェイルオーバー動作

• モデルを指定した場合、そのモデルのプロバイダーに接続。障害時はティア内の次のモデルにフェイルオーバー
• サーキットブレーカー + ラウンドロビンでプロバイダー障害を自動検知・迂回
• Nemotron 9B（セルフホスト）が全プロバイダー障害時の最終フォールバック

レスポンスの model フィールド

レスポンスボディのmodelフィールドに実際に使用されたモデル名が返されます。リクエストしたモデルと異なる場合、フェイルオーバーが発生したことを意味します。

SDK Examples

teai.ioはOpenAI互換APIのため、既存のOpenAI SDKをそのまま使用できます。ベースURLを変更するだけで接続可能です。

from openai import OpenAI

client = OpenAI(
    base_url="https://api.teai.io/v1",
    api_key="te_xxx",
)

# Streaming example
resp = client.chat.completions.create(
    model="gpt-4o",
    messages=[{"role": "user", "content": "Hello"}],
    stream=True,
)
for chunk in resp:
    print(chunk.choices[0].delta.content or "", end="")Copy

import OpenAI from 'openai';

const client = new OpenAI({
  baseURL: 'https://api.teai.io/v1',
  apiKey: 'te_xxx',
});

// Streaming example
const stream = await client.chat.completions.create({
  model: 'claude-sonnet-4-6',
  messages: [{ role: 'user', content: 'Hello' }],
  stream: true,
});

for await (const chunk of stream) {
  process.stdout.write(chunk.choices[0]?.delta?.content || '');
}Copy

package main

import (
    "context"
    "fmt"
    openai "github.com/sashabaranov/go-openai"
)

func main() {
    config := openai.DefaultConfig("te_xxx")
    config.BaseURL = "https://api.teai.io/v1"
    client := openai.NewClientWithConfig(config)

    resp, _ := client.CreateChatCompletion(
        context.Background(),
        openai.ChatCompletionRequest{
            Model: "gpt-4o",
            Messages: []openai.ChatCompletionMessage{
                {Role: "user", Content: "Hello"},
            },
        },
    )
    fmt.Println(resp.Choices[0].Message.Content)
}Copy

// Using OpenAI Java SDK with custom base URL
OpenAIClient client = OpenAIOkHttpClient.builder()
    .baseUrl("https://api.teai.io/v1")
    .apiKey("te_xxx")
    .build();

ChatCompletionCreateParams params = ChatCompletionCreateParams.builder()
    .model("gpt-4o")
    .addUserMessage("Hello")
    .build();

client.chat().completions().create(params)
    .choices().forEach(c ->
        System.out.println(c.message().content()));Copy

# Non-streaming
curl https://api.teai.io/v1/chat/completions \
  -H "Authorization: Bearer te_xxx" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "gpt-4o",
    "messages": [{"role": "user", "content": "Hello"}]
  }'

# Streaming
curl https://api.teai.io/v1/chat/completions \
  -H "Authorization: Bearer te_xxx" \
  -H "Content-Type: application/json" \
  -N \
  -d '{
    "model": "gpt-4o",
    "messages": [{"role": "user", "content": "Hello"}],
    "stream": true
  }'Copy