軽い仕事に、
軽いAIを。
難しい仕事には、しっかり考えるAIを。teai Autoに判断専用AI「Jev」を加え、単純なテキスト作業の費用を抑える仕組みを作りました。
限定範囲で開始 · 単発テキストAPI自作の日本語・英語12問による小規模比較です。Jev料金を含む公開単価ベースの推計で、請求額や全用途の削減率を保証するものではありません。
モデル選びを、もう一段だけ賢く。
Jevは回答文を書きません。質問の種類を判定し、単純作業だという複数の信号が0.9以上で一致した場合だけ、Kimi K3からGLM-5.3-Flashへ切り替えます。曖昧なら従来のモデルで回答します。
対象は、system指定のない1件のユーザーテキスト(300〜4,000文字、判定リクエスト12KB以内)。ツール、画像、コードブロック、会話履歴付きの入力は従来の経路です。すでに安いモデルに回る短文には、Jevを呼びません。
判定の追加料金はteaiが負担します。判定タイムアウトは1.2秒。1日1,000判定の初期上限や障害時には、通常のAutoを継続します。対象テキストはAI/ML API経由でJevへ送られます。
まず失敗して、範囲を絞りました。
最初は、安いモデルへの振り分けと難問の上位モデルへの引き上げを両方試しました。24問では、推計原価が30.8%増加。コスト削減を目的に、その方式は採用しませんでした。
採用したのは、高価なモデルに回っている単純作業だけを見直す方式。新しい12問では4問を安いモデルへ切り替え、両方式とも12問に合格しました。
| 12問の合計 | 推計USD | 合格数 |
|---|---|---|
| 従来のAuto相当 | $0.034074 | 12 / 12 |
| Auto + Jev | $0.024686 | 12 / 12 |
測定方法と限界
単発の合成テキスト12問(抽出7、条件判断2、計算2、誘導文を含む論理1)。両回答モデルを同じ入力・temperature=0・max_tokens=1024で1回ずつ呼び、同じ注意深さプロンプトを付けています。実行後にポリシーを当てはめた比較で、本番トラフィックのA/Bテストではありません。
費用は返されたトークン数×公開単価(キャッシュ割引前)。Jevの全12判定を含みます。翻訳の自然さ・自由記述・長い会話・コーディング品質の証明ではありません。初回24問の翻訳/書換えの簡易検査は品質の根拠から除外しました。算術の正解ラベル2件を修正し、保存済み回答を再採点しています。モデル呼出しのやり直しはしていません。
Jev: typesafe/jev-1.13-20260917 · Kimi K3: $3/$15 · GLM-5.3-Flash: $0.07/$0.25 · Jev: $0.0577668 input / 1M tokens.
同じAPIで、実際に試す。
指定は model: "teai/auto"。下のサンプルは通常のAPI利用料金で実行され、実際に選ばれたモデルを表示します。
curl https://teai.io/v1/chat/completions \
-H "Authorization: Bearer $TEAI_API_KEY" \
-H "Content-Type: application/json" \
-d '{"model":"teai/auto","messages":[
{"role":"user","content":"Your text task here"}
]}'もっと知る
TypeSafe: confidence-gated routing
Jev 1.13: known limitations