AUTO / CONTINUOUS EVALUATION

使うたびに、
選び方が育つ。

モデル名を追いかける手間を減らすために。teai Autoは、新しい候補を比較し、条件を満たした用途から少しずつ選択先を更新します。

2026-09-21 · teai Engineering

最新の評価と選択先

確認中 / Loading

ここには公開APIの状態を表示します。APIの表示だけでは定期ジョブや実際のモデル応答の成功を保証しません。

Jevが用途を判断。評価結果が選択先を決める。

これまでのAutoは、主力・軽量といった固定の選択先を中心に動いていました。今回追加するのは、候補の発見から比較、段階導入、復帰までを繰り返す仕組みです。新しさだけで切り替えず、品質条件を満たしたうえで費用または待ち時間の改善を確認します。

01

候補を見つける

公開カタログから新規・変更・未評価の候補を優先。費用上限内に収まる候補を日次で比較します。

02

同じ課題で比較する

日本語・英語の合成課題で現行と候補を交互に実行。選抜12件・別の値を使う検証12件の全件正答と、費用・速度の条件を求めます。

03

少しずつ採用する

適用割合は10%→50%→100%。次の段階へ進む前に追加比較し、条件未達なら復帰。7日以内に再評価されない設定も期限切れになります。

最初は、測れる用途から。

初期の更新対象は、JSONだけで回答する情報抽出・明示された事務規則の適用・基本的な計算です。Jevが対象用途だと高い確信で判定した、300〜4,000文字の単発テキストに限定します。会話履歴・システム指示・ツール・画像がある場合や、分類できない場合は従来のAuto経路を使います。

24件は小規模で、課題同士にも相関があります。文章の美しさ、翻訳品質、コード修正能力、あらゆる質問での優劣を示す結果ではありません。費用は公開単価による推計で、請求書の実支払額ではありません。

費用を決めてから、評価する。

運営側の追加評価予算は月3,000円。呼び出す前に費用枠を永続保存し、通信が途切れた場合も予約を取り消さず、同じ呼び出しを再実行しません。1日300円まで、UTC月単位で管理します。通常のお客様のAPI利用料金とは別の運営予算です。

選択が変わった理由も、公開する。

採用・段階拡大・復帰の履歴はこのページに反映されます。Xの自動告知は公開状態を確認したあと、承認済みの定型で送信。投稿の成否が不明な場合は再送せず、確認待ちにします。変更がなければ告知しません。

読み込み中 / Loading

使い方は、そのまま。

APIではモデルに teai/auto を指定します。条件に合う用途だけが更新対象です。具体的なモデルを指定している場合、その指定は維持されます。

{"model":"teai/auto","messages":[...]}

Jevを使ったAutoの設計を読む →