MEASURED · JST · 6 RUNS × 2 MODEL IDS

同じ依頼を6回投げたら、6本とも「累計値」に騙された

費用はほぼ同じでした。違ったのは手数です。そして6本すべてが、ログの累計値を「今の実力」として読んでいました。

要点

  • 費用はほぼ同じ(中央値 ¥3.96 / ¥4.00)。単価表も両IDで同一。cheap を選んでも安くならない。
  • 待ち時間の中央値もほぼ同じ(237.2秒 / 231.1秒)。ただし1本だけ639.1秒。原因は推論速度ではなく手数(71ステップ)。
  • 6本すべてがログ内の制度変更(11/2 13:55 の課金導線追加)を反映しなかった。これが今回いちばん再現性のある教訓。
  • n=3。設定の優劣は言えません。言えるのは「次に何を測るか」だけ。

この記事の立場

測定者は teai.io の開発者です。teai/auto / teai/cheap は自社が経路を決めているIDです。独立評価ではありません。

タスクと採点項目は実行前に固定しました(TASK.md の更新時刻 15:41:14、初回実行の開始 15:41:21)。6本の結果を見た後の項目追加はしていません。

本記事の結論のうち「cheap が安くならない」は自社に不利、「auto が安定」は自社の上位IDに有利です。どちらも同じ6本から出ています。

何を投げたか

実行条件
項目内容
依頼KOEのGoogle広告ログだけを根拠に、意思決定メモを書く
入力koe-ads-log.md(見出し338、実ユニーク336、広告グループ行のあるスナップショット216・重複時刻を除くと214)
出力制約日本語Markdown、400〜700字、推測と実測を区別、計算式を1行
反復teai/auto 3回、teai/cheap 3回(各回は独立セッション)
採点元ログとの突合(CTR/CPC、ファネル合計、最大損失、既停止群の扱い、変更履歴の反映、文字数)

6回とも同じプロンプト・同じファイルです。差はモデル設定と、実行ごとの確率変動だけです。

結果

6回の実測値
実行待ち時間費用(USD)円換算ステップツール呼出本文文字数
auto #1237.2s$0.02640¥3.961211673
auto #2237.2s$0.02295¥3.441821925
auto #3232.7s$0.03114¥4.6718171014
cheap #1231.1s$0.02670¥4.002221632
cheap #235.6s$0.01000¥1.5098832
cheap #3639.1s$0.03166¥4.757172645

黄色は700字の制約超過。円換算は $1=¥150(https://api.teai.io/v1/models/pricing の usd_jpy、2026-11-04取得)。文字数は空白除去後。

(auto #1 と #2 がともに 237.2 秒なのは、ログの記録粒度が0.1秒のためです。同一値が偶然か丸めかを切り分けるには、より細かい粒度での再測定が必要です=未確認。)

平均だけ見ると cheap がわずかに安く、中央値では auto のほうが安い。3回ずつの比較でこの差に意味はありません。

この記事で「差がある」と言える範囲

平均の差(auto ¥4.02 / cheap ¥3.42)は n=3 では意味がありません。同じ理由で、分散の差(auto 幅4.5秒 / cheap 幅603.5秒)も、この3回だけでは偶然を排除できません。以下で扱うのは「差の証明」ではなく、6本の実行ログに現に記録された手数の内訳です。設定の優劣ではなく、次に自分で測るときの観測項目として読んでください。

単価は同じ。違うのはトークン量だけ

teai/auto と teai/cheap は、料金表上は同じ単価です(入力 $0.15 / 出力 $0.60 per 1M tokens)。実際の請求額が単価×トークンで説明できるか確認しました。

料金APIは sell_per_1m_tokens_in / sell_per_1m_tokens_out という別項目も返しますが、これも両IDで同値でした(0.117211 / 0.174075)。請求額と一致したのは input_per_1m_tokens / output_per_1m_tokens のほうなので、本記事はそちらで計算しています。

費用 = 入力tokens/1e6 × 0.15 + 出力tokens/1e6 × 0.60

つまり差額は単価ではなく、読んだ量と書いた量です。auto は cheap より39%多くトークンを使い、18%高い請求になりました。cheap という名前から「同じ仕事が安くなる」と期待すると、この範囲では外れます。

(内部でどの基盤モデルが選ばれたか、各リクエストがどの経路を通ったかは未確認です。実行ログに出るのは teai/auto / teai/cheap というIDだけでした。)

もう1つ、計算していて気づいた点があります。実行ログには cache.read が記録されており、6回合計で約776万トークン(auto 2,566,400 / cheap 5,190,400)でした。しかし請求額は上の式(input+output のみ)と6回すべてで小数第5位まで一致し、cache read は課金に含まれていません。単価表にも項目がありません。意図的な仕様か計測上の扱いかは未確認なので、この点は費用の見積もりに使わないでください。

(なお reasoning フィールドは全ステップで0でした。推論トークンの有無は、このログからは判断できません。)

639秒かかった回に何が起きていたか(1例の分解)

639秒かかった cheap #3 を1本だけ分解します。これは「cheapの性質」ではなく「1回の実行で起きたこと」です。

1ステップあたりの待ち時間
実行待ち時間ステップ1ステップあたり
auto #1237.2s1219.8s
auto #2237.2s1813.2s
auto #3232.7s1812.9s
cheap #1231.1s2210.5s
cheap #235.6s94.0s
cheap #3639.1s719.0s
1ステップあたり = 待ち時間 ÷ ステップ数

1ステップあたりは 4.0〜19.8秒と、ここも5倍振れています。「推論が速い/遅い」と「手数が多い/少ない」は両方効いており、片方だけでは説明できません。cheap #3 は手数が突出していたため、合計が最も伸びた回です。

手数の内訳
実行ステップツールうち書き込み文字数チェック
auto #1121121
auto #2182131
auto #3181711
cheap #1222166
cheap #29821
cheap #371722224

cheap #3 は 639.1秒・71ステップのうち、22回のファイル書き込みと13回の編集、24回の文字数チェックを繰り返しました。「700字に収める」という制約に対して、書いては測り、測っては書き直す往復が発生しています。

最終的な文字数(空白除去)は 645字で制約内。つまり制約は満たしたが、そのために長時間を使った回です。

逆に cheap #2 は 35.6秒・9ステップで終わり、832字で制約を超過しました。速い回は、確認が足りない回でもあります。

(639秒の内訳がキュー待ち・推論・ツール往復のどれに寄っているかは未確認です。分離できていないため「手数が主因」は、ステップ数と文字数チェック回数からの推論です。)

中身の比較:5本は同じ結論、1本は誤読

元ログと突き合わせた結果です。

採点項目ごとの通過数(6本中)
検査項目通過
CTR 13.5% / CPC ¥112 の計算6/6
ファネル合計 646→276→151→100→3→06/6
最大損失を「できた→決済画面」と特定5/6
既に配分0の広告グループを「新たに止める」対象にしない2/6
ログ内の変更履歴(11/2 13:55 の課金導線追加)を反映0/6
700字以内3/6

外した1本(cheap #2)は「ログインへ」列が全期間0であることを「できた100件が全損」と読み、最大損失をそこに置きました。0件の列は通過率0%ではなく計測されていない可能性が高く、実際この列は216スナップショットすべてで0です。

既停止群の扱いでは4本が外しました。配分は {"std": 1, "annual": 1} で、founder・trial7・first480 はすでに0です。それでも「founderの配分を下げる」「trial7を停止」と書いた回答が4本ありました(auto #1、cheap #1、cheap #2、cheap #3)。auto #2 は「配分0で停止済み」と明記し、auto #3 も「既に0で凍結済み」と書いています。この2本だけが通過です。なお cheap #1 は trial7 についてだけ「配分0のまま再開しない」と書いていますが、founder を停止対象に残しているため外れとして数えました。

6本すべてが見落としたこと

ログの 2026-11-02 13:55 の項目に、こうあります。

完了画面にProリンクが0個だった(料金は注意書きの一文のみ)。価格以前に課金の入口が無かった。
koe-edge PR#159 マージ・本番反映: 完了画面にProカードを追加

つまりこの広告の累計値は、課金導線が無かった期間と、あった期間の合計です。6本のうち5本は累計の「できた100 → 決済画面3 = 3.0%」を現在の実力として扱い、「課金導線が最大の穴」と結論しました(auto #1・#2・#3、cheap #1・#3)。残る cheap #2 は最大損失を「できた→ログインへ」の全損100件としましたが、これは全期間0件の列を「100%離脱」と読み替えただけで、累計値を現在の実力として扱った点は同じです。6本すべてが、累計の区切りを確認していません。

変更の前後で分けると、数字は変わります。

課金導線の追加前後
期間費用できた決済画面決済/できた
〜11/2 13:17(導線なし)¥42,3357211.4%
11/2 14:17〜11/4 15:17(導線あり)¥11,0192827.1%
累計¥53,35410033.0%
7.1% = 2 ÷ 28      1.4% = 1 ÷ 72

(境界は13:17と14:17のスナップショットの間。13:55の変更はログの記述のみで、その時刻のスナップショットは無い)

決済画面3件の発生時刻も偏っています。11/2 13:17(変更前)に1件、11/4 14:03 と 14:17(変更後)に2件。3件のうち2件は直近24時間です(216スナップショットを走査し、決済画面の累計が増えた時刻を抽出)。

なお、13:55のメモに書かれた「累計¥40,048」は、その前後のスナップショット(13:17: ¥42,335 / 14:17: ¥42,770)と一致しません。メモとスナップショットで集計基準が違う可能性があるため、前後分割はスナップショット側の値で行いました。ログ自体にこの不整合がある点は、後述の限界に含めます。

1件あたりの費用も変わります。

サンプルは n=28・2件で、確度は低い。それでも「3%だから導線が壊れている」と「7.1%で、直近に動き始めた」では、次にやることが変わります。前者なら導線の再設計、後者ならサンプルを増やして7.1%が再現するかを見るです。

ログに書いてある変更履歴を読まなかった、というより、累計値の定義(いつからいつまでか)を確認しなかったのが原因です。これは auto と cheap の両方で起きました。モデル設定を変えても直らない種類の誤りです。

自分に置き換えると:手元のログをモデルに渡すとき、「この指標はいつからいつまでの累計か」「その期間中に何を変えたか」を必ずセットで渡す。今回の6本は、そこが唯一の共通の弱点でした。設定を変えても直らないので、プロンプト側で塞ぐしかありません。

月3〜8万円のAPI利用に当てはめると

1回 ¥3.96(auto の中央値)を基準にすると、月7,500回で約¥30,000。この規模で auto と cheap の差は、中央値なら ¥0.04/回=月 約¥300、平均なら ¥0.60/回=月 約¥4,500です。しかも中央値では auto が安く、平均では cheap が安いと符号が入れ替わります。n=3 でこの差の向きが決まらない以上、費用は判断材料になりません。判断すべきは費用ではなく、時間と正しさです。

論点ごとの結論と次の行動
論点この6本から言えること明日やること
費用単価同一。差はトークン量(auto が39%多い)費用は中央値で見積もり、上限は最大値で置く
待ち時間最悪 639.1秒=10.7分。対話用途では致命的自分のログで p95 を測る。10分待てない画面では長さ制約付きタスクを避ける
正しさ6本中6本が累計値の制度変更を見落としプロンプトに「変更履歴を確認し変更前後で分けよ」を1行足す

仮に10回に1回 639秒かかると、月7,500回では750回×10.7分=約133時間の待ちが発生します(これは仮定の試算であり、本記事の実測ではありません)。

実務での判断

  1. 費用の見積もりは中央値で置き、上限は最大値で置く。cheap の中央値は ¥4.00 でも、最大は ¥4.75、時間は639.1秒でした。平均だけ見ると足元をすくわれます。
  2. 「安い設定」を選ぶ基準は単価ではなくトークン量。今回は同じ単価表で、消費トークンが39%違いました。
  3. 累計値を渡すときは、いつ何を変えたかを一緒に渡す。6本とも、そこだけが共通の弱点でした。プロンプトに「ログ内の変更履歴を確認し、変更前後を分けて計算せよ」の1行を足すだけで、この6本の結論は変わっていたはずです。
  4. 自分の環境で確かめる:直近50回の実行ログから p50 / p95 / 最大 を出し、費用は「中央値×回数」で予算化する。本記事の6本はその前段の観測例です。

この比較で言えないこと

なお「同じ設定でも実行ごとに出力が振れる」こと自体は既知です。コード生成では同一プロンプトで一致する出力が1つも出ないタスクが47.56〜75.76%に達し、temperature=0 でも決定性は保証されないことが報告されています(Ouyang et al., "An Empirical Study of the Non-determinism of ChatGPT in Code Generation", arXiv:2308.02828, 2024-10改訂)。本記事が足せるのは、その振れが費用・待ち時間にどう現れるかの1例と、累計指標が制度変更を隠すという別種の落とし穴です。

生データ

6回分の実行時間・費用・トークン数・ステップ数・ツール呼出・文字数を公開します。単価は https://api.teai.io/v1/models/pricing(2026-11-04取得)です。

この比較の生データ(JSON)

teai-auto-vs-cheap-20261104.json · 6 runs · measured 2026-11-04