OpenAI、音声文字起こしモデル gpt-transcribe と gpt-live-transcribe を公開——実環境録音の単語誤り率が4割減、価格も25%減
- なまりがあり、専門用語が飛び交い、話者がかぶる実際の会議。文字起こしすると名前も数字も間違いだらけになります。今回 OpenAI が API に追加した2つの新モデルは、まさにここを狙ったものです
- gpt-transcribe は録音済みファイル担当、gpt-live-transcribe は今まさに話している音声担当。ドキュメントはこの2つを新規実装の推奨スタート地点と位置づけ、旧モデルは特別な要件がある場合だけの選択肢になりました
- 実環境録音のベンチマークで、gpt-transcribe の単語誤り率は8.98%。同じ項目で whisper-1 は15.21%です
- 1分あたり $0.0045。whisper-1 の $0.006 より25%安い。精度と価格が今回は同じ方向に動きました
- 中核となる仕組みは、リクエスト時に場面の説明・キーワード表・想定言語を添えられること。モデルはそれを手がかりに聞き取ります
- 最も強い証拠があの対照実験です。背景情報を与えると、旧モデル3つは1つが0.2ポイント上昇、2つは逆に低下。この能力は学習の中で身につける必要があり、パラメータを足すだけでは生まれません
- ただし単語単位のタイムスタンプ、srt / vtt 字幕、話者分離、英語への翻訳。この4つは今も旧モデルに戻る必要があります
- もう1つ、デモ動画でしか語られていない点があります。新モデル2つの対応言語は57言語。一方ドキュメントには Whisper が98言語対応と書かれており、言語カバー範囲は後退しています
これは何か、誰が出したか、誰の課題を解くのか
OpenAI が最新の音声文字起こしモデル2つを API として公開しました。gpt-transcribe と gpt-live-transcribe です。それぞれ録音済みの音声ファイルと、いま発生している音声ストリームを担当します。
公開当日にドキュメント、価格、呼び出しエンドポイントがすべて揃いました。予告でもウェイトリストでもありません。公式の開発者アカウントがその後ポストで発表し、ベンチマーク画像6枚とデモ動画1本を添えています。
2つのモデルはそれぞれ別の領域を担当し、どちらにも引き継ぐ相手がいます。
「引き継ぐ」という言い方は正確にしておきます。旧モデルは1つも廃止されていません。ドキュメントの表現はこうです。新規実装はこの2つの新モデルから始める。そして gpt-4o-transcribe、gpt-4o-mini-transcribe、gpt-realtime-whisper の3つは「新規の文字起こし実装の推奨スタート地点ではない」。
ここで名指しされた3つに whisper-1 は入っていません。その立ち位置はもっと微妙です。汎用のファイル文字起こしという道では、ドキュメントの推奨が gpt-transcribe に変わりました。しかし別の3つの用途については、ドキュメントは今日も whisper-1 を明確に推奨しています。その3つが何かは、本記事の第7節に対照表があります。
「処理しながら出力」と「リアルタイム音声」は別物
ここは混同しやすいところで、公式ドキュメントもわざわざ一節を割いています。しかも支払う金額に直結します。
gpt-transcribe も処理しながら少しずつ文字を出せます。ただし出しているのは録音済みファイルの書き起こし進捗です。ファイルはすでに完全な形でサーバー上にあり、結果を分割して返しているだけ。ユーザーがぐるぐる回るアイコンを眺めずに済むようにするためです。一方 gpt-live-transcribe が相手にするのはまだ言い終わっていない言葉で、音声が少しずつ到着している最中です。
判断基準は1つだけ。音声がまだ生成され続けているかどうか。生成中ならリアルタイムの経路を通り、WebSocket または WebRTC 接続を開きます。録音済みなら、ストリーミング風の進捗表示がほしい場合でもリアルタイムモデルは不要です。
この違いは価格に直結します。2つのモデルは1分あたり3.8倍の差があります。録音済み音声を誤ってリアルタイム経路に流せば、その分は丸ごと無駄になります。
今回が見どころな理由
音声の文字起こしについて、この3年の体感は「だいたい使える」でした。ところが音声が汚れた途端、実用にはひと息足りません。人名は同音の別語になり、注文番号は1桁欠け、業界の略語はばらばらの音に分解される。原稿を受け取っても、結局は録音を頭から聞き直さないと世に出せません。
今回のリリースで面白いのは、「この録音が何についてのものかを事前にモデルへ伝えられる」ことを、モデル自身の能力として作り込んだ点です。同じ対照実験は、ついでにもう1つ証明しています。この能力は旧モデルには身についておらず、プロンプトを与えても無駄だということです。
まず最も硬い数字——誤り率が半分以下に
機械が起こした原稿と正解原稿を単語単位で突き合わせ、100語のうち何語が誤りかを見ます。聞き違い、抜け、余計に出てきたもの、すべて誤りに数えます。書き取りテストで先生が誤字を数えるのに似ていますが、誤字・抜け・余分な字をまとめて数える点が違います。
OpenAI は画像を6枚公開しました。モデル2組、ベンチマーク3種です。まずファイル文字起こしの組から。図に示された指標は WER、単語誤り率で、低いほど良い数値です。
40.37%とはどれくらいでしょうか。おおよそ5語につき2語が誤りです。この原稿は基本的に録音を聞き直さないと使えません。19.27%も完璧とは言えませんが、5語につき1語なら、少なくとも下書きとして直せます。「作り直す」と「手を入れる」の違いです。
8.98%はおよそ11語に1語の誤り。whisper-1 の15.21%は6〜7語に1語です。どちらも「人手の校正が不要」の水準ではありませんが、校正という作業の性質が変わりました。録音を頭から聞き直す作業から、ざっと目を通して数カ所直す作業へ。
公式ポストは whisper-1 だけを比較対象にしていますが、図には合計4つのモデルが描かれています。並べてみると、ポストからは読み取れない事実が見えてきます。gpt-4o-transcribe は実環境録音で22.21%。本来なら超えているはずの whisper-1(15.21%)より悪いのです。
つまり「OpenAI の文字起こしモデルは世代を追うごとに強くなる」という直感は成り立ちません。少なくとも実環境録音のこの項目では、中間の世代は後退しています。今回の向上は本物ですが、次回も同じとは限りません。
リアルタイム組は、差がずっと小さい
Common Voice では gpt-live-transcribe の19.70%に対し gpt-realtime-whisper が20.33%。差は0.63ポイントです。実環境録音では9.60%対11.65%で、差は2.05ポイントでした。
ファイル文字起こし側の半減という幅に比べると、リアルタイム側の向上はずっと控えめです。これも筋が通ります。リアルタイム文字起こしの前任は whisper-1 ほど古い土台ではなく、出発点が高い分だけ絞れる余地が小さいのです。
本当に新しいのは、この録音が何についてかを先に伝えられること
従来の文字起こしモデルは目隠しで聞いていました。どんな音声を渡されても初めて聞くものとして扱い、これがサポート通話なのか医師の問診なのかを知りません。「この注文番号を控えておいて、AC-42 です」と言えば、音は聞こえます。しかしその音の連なりが注文番号だとは分からず、御社の注文番号がどんな形をしているかも知らない。読みから表記を推測するしかありません(イメージ)。
新モデルは3種類のコンテキストを受け取ります。いずれもリクエスト時に一緒に送ります。
prompt は自由記述のテキストで、この録音がどんな場面かを説明します。公式ドキュメントの例は「上位プランとアカウント AC-42 に関するカスタマーサポートの通話」。ドキュメントはわざわざ注意を添えています。音声に関係する背景だけを書き、文字起こしという作業そのものの指示を繰り返さないこと。
keywords は語句のリストで、聞こえてくると想定される字面の語を書きます。製品名、薬品名、略語など。ここには踏みやすい落とし穴があり、公式ははっきり明言しています。
キーワードはヒントであり、必ず出力されるべきものではありません。音声中で実際に発話された場合にのみ、文字起こしに含まれるべきです。
OpenAI 文字起こしガイド
つまりキーワードを詰め込んで、ある語を原稿に「ねじ込む」ことはできません。「アスピリン」を並べても、その場面で医師がまったく触れていなければ、出てくるべきではないのです。ドキュメントは実測も勧めています。キーワードを足したことで精度が上がったのか、それとも発話されていない語が湧き出すようになったのかを確かめる、ということです。
languages は想定される言語のリストです。複数形である点に注目してください。このフィールドは「1本の録音に複数の言語が混ざる」場面のために設けられており、公式ドキュメントの例もそのまま ["en", "fr"] です。旧モデルの単数形 language フィールドを置き換えるもので、両方を同時に送ることはできません。
一人が一続きの話の中、時には一文の中で複数の言語を混ぜて話すこと。日本語で話していて急に英語が飛び出す、あれです。文字起こしモデルが最も崩れやすい場面の1つで、単一言語モデルは外国語を母語の音節に無理やり当てはめて書いてしまいます。
4つ目のコンテキストもあり、これは送信不要です。gpt-transcribe はリアルタイムセッションで動くとき、直前の数ターンですでに書き起こした内容を自動的にコンテキストとして引き継ぎます。前のターンの原稿を手動で渡し直す必要はありません。
デモ動画では、多言語対応が直感的に示された
公式ポストには2分あまりの動画が添えられ、2つのモデルがそれぞれ実演されています。
前半はリアルタイムのデモです。ノートパソコンに向かって話す人物、ブラウザではローカルのデモページが動き、右上に gpt-live-transcribe と表示されています。声が入ると文字が湧き出てきます。最も説得力があるのは途中の一場面。英語で話していた話者が、スペイン語で3文話し、また英語に戻ります。同じセッション内で手動の切り替えは一切なし。文字起こしがそのまま言語を変えて続きます。画面に残った原稿は英語とスペイン語が混在し、はっきり見て取れます。
後半は同じデモの Offline タブに切り替え、右上の表示は gpt-transcribe。25分・23.2 MB の会議録音ファイルを投入し、完全な原稿を待ちます。
動画の冒頭に、公式ドキュメント6本のどこにも見当たらない一言があります。2つのモデルはいずれも57言語に対応。
この数字は whisper-1 と並べてみる価値があります。ドキュメントは whisper-1 の言語サポートについて、Whisper は98言語に対応と書いています(言語ごとの精度にはばらつきがあるとも)。つまりカバーする言語の種類では、新モデルは引き継ぐ相手より40ほど少ないことになります。
OpenAI はこの差を説明しておらず、57言語が具体的にどれかも公表していません。あなたのユーザーがマイナー言語を話すなら、移行前に実際の音声で自分で検証すべき箇所です。ベンチマークで勝っていても、その言語がリストに残っているとは限りません。
言語コードは書式どおりに。間違えるとリクエスト全体が拒否される
これは実務上の細部で、間違えるとデバッグ1回分が無駄になります。ドキュメントは3種類の書き方を挙げています。ISO 639-1 の2文字コード(en、es、fr)、一部の ISO 639-3 の3文字コード(eng、spa、広東語の yue、標準中国語の cmn)、そして中国語の地域コード(zh-cn、zh-tw、zh-hk)です。ドキュメントは「限定」ではなく「含む」という表現なので、この3種類は例示であり、完全なリストではありません。
サポート対象外、または書式を誤った言語コードは、API が拒否します。黙って無視されるのではありません。
同じヒントを旧モデルに与えても、精度は動かない
ここまでの3点セットは、いかにも筋が通って聞こえます。背景を多めに渡せば、モデルはより正確に聞き取れるはず。ならば自然な疑問が出てきます。これは新モデルでなければいけないのか。旧モデルに prompt を突っ込んでも上がるのではないか。
単語単位の突き合わせではなく、重要な情報を正しく聞き取れたかを見ます。同じ音声でも、単語誤り率が低いから意味的正解率が高いとは限りません。間違えた数語がちょうど人名と注文番号なら、字面では2語の誤りでも、意味はすべて台無しです。WER と補い合う指標ですが、互いに換算することはできません。
OpenAI はこのために Context Aware ASR Benchmark という専用のベンチマークを作り、意味的正解率(高いほど良い)を測りました。各モデルを2回ずつ走らせています。1回目は背景情報なし、2回目はあり。ポストによれば、ここで与えたのは自由記述の場面説明です。5つのモデルの2回分の成績は2枚の図に分かれて描かれており、以下は当サイトがそれらを1つにまとめて再構成したものです。
まず1つ、不在の話から。whisper-1 はこの5つに入っていません。この記事はタイトルから価格まで一貫して whisper-1 を基準にしてきましたが、この項目だけは不参加です。ドキュメントで確認できる関連事実としては、whisper-1 の prompt には224トークンの長さ上限があり、keywords と複数形の languages フィールドにも対応していません。ただしこの図に入っていない理由について、OpenAI は説明していません。
旧モデル3つに同じコンテキストを与えた結果は、1つが0.2ポイント上昇(ほぼ横ばい)、2つは逆に低下しました。この情報の使い方を学習の中で身につけて初めて、「コンテキストを理解できる」と言えます。API にフィールドを1つ足しても、この能力は生まれません。旧モデルにヒントを詰め込んでも、見なかったことにされるか、逆に引きずられるかのどちらかです。
OpenAI が旧モデルに新パラメータを2つ足すのではなく、新モデル2つとして作った理由もここにあります。パラメータならいつでも足せますが、能力は足せません。
ただし、この図にはもう一面がある
最高成績の gpt-transcribe でも45.2%です。合格にはほど遠く聞こえますが、この数字が何を意味するのかは外部からは計算できません。OpenAI が自分で問題を作り、自分で受験し、自分で採点した新しいベンチマークで、データセットは非公開、構築方法も未公表、「意味的正解率」の計算方法も明かされていません。問題の難易度が外からは見えないのです。
したがってこの図が支えるのは1つの結論だけです。この種の難問では、新モデルは旧モデルよりはるかに強い。「コンテキストの問題は解決した」も支えられませんし、「45.2点だから半分以上を間違えている」も支えられません。後者はどちらも、目盛りのない物差しで絶対的な長さを測ろうとする読み方です。
安くなった、しかも大幅に
モデルのリリースはたいていこの筋書きです。強くなったが高くなった、あとは自分で天秤にかけてくれ。今回は違います。
1分あたり
1分あたり
15.21%から8.98%へ
gpt-transcribe は1分あたり $0.0045。置き換える対象の whisper-1 は $0.006 で、中間世代の gpt-4o-transcribe も $0.006 です。旧モデルより25%安く、実環境録音の誤り率は4割減。両方が同時に良い方向へ動くのは、モデルのリリースでは珍しいことです。
リアルタイム側は事情が違います。gpt-live-transcribe は1分あたり $0.017 で、置き換える gpt-realtime-whisper とまったく同額。価格は据え置きで、精度が少し上がりました。
| モデル | 用途 | 1分あたり |
|---|---|---|
gpt-transcribe | ファイル文字起こし | $0.0045 |
gpt-live-transcribe | リアルタイム文字起こし | $0.017 |
gpt-4o-transcribe | ファイル文字起こし | $0.006 |
gpt-4o-mini-transcribe | ファイル文字起こし | $0.003 |
gpt-4o-transcribe-diarize | 文字起こし+話者分離 | $0.006 |
whisper-1 | ファイル文字起こし | $0.006 |
gpt-realtime-whisper | リアルタイム文字起こし | $0.017 |
表の中にもう1つ、計算してみる価値のあるものがあります。gpt-4o-mini-transcribe は1分あたり $0.003 で、数字の上では依然として最安です。しかし実環境録音での単語誤り率は15.46%。gpt-transcribe の8.98%より7割高い数字です。
この計算は手戻りコスト次第です。1時間の録音を処理した場合、両者の差額は $0.09。日本円で十数円ほどです(1分あたり $0.0015 の差、60分で計算、イメージ)。この1時間の原稿に増えた誤りを人が聞き直して直すのなら、十数円の節約に意味はありません。大量の音声をざっと選別する用途で、誤りがあっても支障がないなら、mini は今も合理的な選択です。
もう1つ、注意すべき基準の違いがあります。価格ページのその列の見出しは「推定コスト」です。gpt-transcribe、gpt-live-transcribe、whisper-1 は純粋に音声の分数で課金され、1分あたりの単価がそのまま効きます。一方gpt-4o-transcribe と gpt-4o-mini-transcribe はトークン課金で、$0.006 と $0.003 は換算して見せた推定値にすぎません。実際の請求は入出力のトークン量によります。この2つと新モデルの単価を単純に比べることはできません。
リアルタイムのモデルは、遅延をひねれる
gpt-live-transcribe には delay というパラメータがあり、5段階です。長めに聞いてから文字を出せば、得られるコンテキストが多くなり誤りが減ります。急いで出せば、推測に頼ることになります。
コンテキスト最少 最も長く聞く →
誤りが最少
公式の表現はこうです。具体的な遅延のミリ秒数はモデルの構成によって変わる。ある段階が特定の固定遅延に等しいと決めつけず、自分の実際の音声で測ること。
注目したいのは、ドキュメント全体を通して具体的なミリ秒数が1つも出てこないことです。gpt-live-transcribe の中核の売りは「低遅延」ですが、その「低」がどこまで低いのか、リリース資料には検証可能な数字がなく、5つの段階名だけが示されています。
リアルタイム字幕を作る前に、これを詰めておく
リアルタイム文字起こしは細切れに出力されます。文を言い終えるのを待ちません。この細切れ1つを公式は デルタ(delta)と呼びます。厄介なのは、後から出てきた断片が、すでに表示済みの文字を遡って書き換えることです。
例を挙げます(イメージ)。マイクに向かって「上海行きの航空券を予約して、便名は CA1501」と話したとします。
こうして画面にすでに書き出されていた「シーエー一五〇一」が、ユーザーの目の前で CA1501 に変わります。これはエラーではなく、まさにモデルの自己修正です。しかしユーザーから見れば、文字が勝手に動いたようにしか見えません。
難しいのはここです。文字が書き換わるその瞬間、UI はどう見せるべきか。そのまま置き換えれば、ユーザーは文字が跳ぶのを目にし、読んでいた行が突然変わります。未確定の部分を淡い色で示せば、まだ変わると分かる代わりに、ページ全体がちらつき続けます。文が確定してから表示すれば、リアルタイム字幕はリアルタイムでなくなります。3つの道にはそれぞれ代償があり、選ぶのはあなたです。
公式はこの項目を本番運用チェックリストに入れています。モデルの精度とは無関係で、純粋に UI 設計の問題です。しかもモデルがどれだけ正確になっても消えません。聞きながら出力する以上、推測して直す瞬間は必ず生まれます。
同じチェックリストにもう1つ、見落としやすい項目があります。「この文は言い終わった」というモデルからの通知は、到着順が保証されません。2人が続けて話し終えても、通知がその順で手元に届くとは限らない。各通知に付く item_id で紐づけて並べ替える必要があり、受信した順にそのままつなげてはいけません。
できないこと——ここが上のベンチマーク全部より価値があるかもしれない
以下の制約はすべて OpenAI 自身のドキュメントに基づきます。ベンチマークが良いからといって、そのまま乗り換えられるとは限りません。いま依存している機能が残っているかを先に確認してください。
| 必要なもの | 新モデルで可能か | 使うべきモデル |
|---|---|---|
| テキスト原稿だけ(録音済みファイル) | 可能 | gpt-transcribe |
| テキスト原稿だけ(リアルタイム音声) | 可能 | gpt-live-transcribe |
| 話された言語の検出 | 新モデル2つのうち1つのみ | gpt-transcribe、ファイル文字起こしでもリアルタイムセッションでも返る。gpt-live-transcribe は返さない |
| 単語単位のタイムスタンプ | 不可 | whisper-1 |
| srt / vtt 字幕ファイル | 不可 | whisper-1 |
| 話者の区別 | 不可 | gpt-4o-transcribe-diarize |
| 外国語音声を直接英語に翻訳 | 不可 | whisper-1 の翻訳エンドポイント |
| 単語ごとの信頼度スコア | gpt-live-transcribe は返さない | ドキュメントに代替の名指しなし。アプリ側で自前の手当てを推奨 |
この表で whisper-1 は3回登場します。汎用の文字起こしという道では席を譲りましたが、タイムスタンプ、字幕フォーマット、英語への翻訳の3つについては、ドキュメントは今日も whisper-1 を推奨しており、代替品は示されていません。公式の非推奨ページにも提供終了の時期は載っていないので、「whisper-1 は淘汰された」という言い方には根拠がありません。汎用の文字起こしで第一候補ではなくなった、それだけです。
いま whisper-1 をテキスト原稿を得るためだけに使っているなら、今回の移行には十分な理由があります。より正確で、より安い。もし動画字幕に使っているなら、当面はどこにも行けません。
リクエストが即座に弾かれる硬い決まりもいくつか
ファイルは最大25 MB。対応形式は mp3、mp4、mpeg、mpga、m4a、wav、webm の7種類です。超える場合は自分で分割しますが、文の途中で切らないよう公式がわざわざ注意しています。コンテキストを切り落とすと精度が落ちるためです。
keywords は1件を必ず1行に収める必要があり、<、>、復帰、改行を含められません。1件でも違反するとリクエスト全体が拒否されます。その1件だけ無視して続行、ではありません。prompt がモデルの長さ上限を超えた場合も、同じくリクエスト全体が拒否されます。
複数形の languages と旧来の単数形 language は同時に送れません。3点セットの説明でも一度触れましたが、ここで改めて挙げておきます。既存コードを移行するときに最も見落としやすい箇所だからです。
公式ポストは gpt-transcribe を「録音済み音声ファイルとバッチワークロード向けに最適化」と説明しています。ところが公式モデルページのエンドポイント対応表では、v1/batch(Batch API、割引のある非同期バッチ処理の経路)に「非対応」と明記されています。
どちらも公式の見解です。当サイトの読み方はこうです。ここでの「バッチ」は「大量のファイルを処理したい」という場面を指し、Batch API という安価な経路のことではない。ただしこれは読み方にすぎず、OpenAI からの説明はありません。コストモデルが Batch API の割引を当てにしているなら、非対応として計算しておいてください。
公式が勧めるテストのやり方
ドキュメントにはテスト方法だけを扱った節が丸ごとあります。この手法はベンダーを選ばず、どこの音声認識モデルにもそのまま当てはまります。ドキュメントの中で最も持ち帰りやすい部分です。
1つ目はきれいなサンプルだけでテストしないこと。実際のマイクで録り、電話の音質で録り、なまり・背景ノイズ・コードスイッチング・分野固有の専門用語を入れ、さらに長時間の会話でも測ります。テストセットには数字、日付、通貨の金額、メールアドレス、製品名を必ず入れること。文字起こしモデルが最も転びやすく、しかも人間が誤りに気づきやすい箇所です。
2つ目はさらに価値があります。単語誤り率だけを見ないこと。ドキュメントの例では、医療の現場なら薬品名が正しく起こせているか、カスタマーサポートなら注文番号が正しいかを測るべき、としています。
単語誤り率がわずか5%の原稿でも、その5%がすべて薬品名と用量なら、医療の現場では使い物になりません。逆に誤り率15%でも、誤りがすべて「えー」「あの」のような口ぐせなら、そのまま使える可能性があります。平均誤り率は、致命的な誤りとどうでもいい誤りを混ぜて計算してしまいます。
3つ目は3種類の障害を個別に集計すること。空の文字起こし(1文字も出ない)、途切れた文字起こし(途中で止まる)、遅延した文字起こし(いつまでも出ない)。この3つは単語誤り率にはほとんど表れませんが、実際の製品ではユーザーの苦情を最も招きます。
最後に、リアルタイムを扱うならさらに2つ決めておくこと。delay を調整する前に許容できる遅延と精度の目標を先に確定し、調整しながら基準を動かさないこと。そして対象の言語は1つずつ個別に測り、ある1言語の成績から他言語を推し量らないことです。
OpenAI の新しい文字起こしモデルは、先に渡した背景を聞き分ける。旧モデルは渡しても無駄
OpenAI が gpt-transcribe と gpt-live-transcribe を公開。実環境録音の誤り率が半減、1分あたりの単価も25%減。図つきで一枚にまとめました。
↓ 一枚で読了 · 動く図が1つ
OpenAI が API に音声認識モデルを2つ追加しました。1つは録音済みファイル担当、もう1つは今まさに話している音声担当。どちらにも引き継ぐ前任がいます。
→ 録音済みファイル
gpt-realtime-whisper
→ 進行中の発話
→ 録音済みファイル
gpt-live-transcribe
→ 進行中の発話
旧モデルは1つも提供終了していません。OpenAI は「特別な要件がある場合のみ」に位置づけを変えただけです。使い分けの判断基準は1つ、音声がまだ生成され続けているかどうか。リアルタイム側は1分 $0.017 で、ファイル側の3.8倍。録音済みを誤った経路に送れば、その分は丸ごと無駄になります。
指標は単語誤り率です。機械が起こした原稿と正解原稿を単語単位で突き合わせ、100語のうち何語が誤りかを見ます。聞き違い、抜け、余計に出てきたものもすべて誤りに数え、低いほど良い数値です。
実環境録音での単語誤り率
whisper-1 の成績
whisper-1 は $0.006
精度は同時に向上
8.98%はおよそ11語に1語、15.21%は6〜7語に1語の誤りです。校正という作業の性質が変わりました。録音を頭から聞き直す作業から、ざっと目を通して数カ所直す作業へ。より正確で同時に安いというのは、モデルのリリースでは珍しいことです。両ベンチマークとも OpenAI の自社測定で、第三者による再現はまだありません。
同じ図には、ポストが触れていない事実もあります。中間世代の gpt-4o-transcribe は実環境録音で22.21%。本来なら超えているはずの whisper-1 より悪いのです。「世代を追うごとに強くなる」という直感は、この系譜では成り立ちません。
従来の文字起こしモデルは目隠しで聞いていました。サポート通話か医師の問診かも分からず、アルファベットと数字の連なりを聞いても、読みから表記を推測するしかありません。新モデルはリクエスト時に3つのものを一緒に渡せます。
keywords はあくまでヒントです。音声で発話されていない語が原稿に現れるべきではなく、語を詰め込んで原稿にねじ込むことはできません。languages は複数形で、1本の録音に複数の言語が混ざる場面のためのもの。途中で言語が変わっても手動の切り替えは不要です。
では、これは新モデルでなければいけないのか。旧モデルに同じ背景を渡しても上がるのではないか。OpenAI は5つのモデルを2回ずつ走らせました。1回目は背景なし、2回目はあり。
もう一面も明確にしておきます。最高でも45.2%です。これは OpenAI が自分で問題を作り、自分で受験し、自分で採点した新しいベンチマークで、データセットも採点方法も非公開。問題の難易度は外からは見えません。したがってこの図が支えられるのは「新モデルは旧モデルよりはるかに強い」という1点だけです。
ベンチマークが良いからといって、そのまま乗り換えられるとは限りません。以下の制約はすべて OpenAI 自身のドキュメントに基づきます。
✔ 話しながら文字が出る , gpt-live-transcribe
✔ 1本の録音に複数言語が混ざっても手動切り替え不要
✔ 話された言語を教える(返すのは gpt-transcribe のみ)
✘ srt / vtt 字幕ファイル , whisper-1 に戻る
✘ 話者の区別 , gpt-4o-transcribe-diarize を使う
✘ 外国語音声を直接英語に翻訳 , whisper-1 に戻る
6〜7語に
1語が誤り
分かるわけない
目隠しで聞く:
読みから表記を
推測するだけ
同項目の whisper-1 は15.21%
whisper-1 の $0.006 より25%安い
足しても伸びるのでは
背景を5つの
モデルに渡した
背景なのに
- × 各単語が何秒目か
- × srt / vtt 字幕
- × 話者の区別
- × 直接英語に翻訳
whisper-1 に戻る
