ChatGPTの高速モードが長文対応 27万トークン超を最大2.5倍速く

結論

OpenAIは、GPT-5.6の高速モードを長文の入力に対応させた。27万2000トークンを超える長い指示を高速モードで処理でき、標準の処理より最大2.5倍速いという。これまで長文を渡すと処理に時間がかかり、高速モードは短い指示向きだった。今回の更新で、大量の資料をまとめて読ませる業務でも待ち時間を抑えられる。契約書や議事録、長い報告書を分割せずに一度に扱いたい現場に効く変更だ。

何が変わったのか

生成AIに長い文章を渡すと、処理量が増えて返答までに時間がかかる。速さを優先する高速モードは、これまで短めの指示に向いた仕組みで、長文には使いにくかった。

今回の更新では、27万2000トークンを超える長い入力でも高速モードで処理できるようになった。トークンは文章を細かく区切った単位で、日本語ではおおまかに数十万字規模の入力にあたる。OpenAIは、この長文処理で標準の処理より最大2.5倍速いとしている。速さと長さを両立させた形だ。トークンと文字数の関係はトークンとはで整理している。

この更新は、GPT-5.6という現行モデルの機能強化の一環だ。OpenAIは音声で途切れなくやり取りできるGPT-Liveも公開しており、応答の速さと使い勝手を詰める動きが続いている。対応するモデルや利用条件は変わりうるため、最新は公式で確認してほしい。

生成AIの処理では、速さと扱える文章量は両立しにくい関係にあった。多くの内容を読み込ませるほど計算量が増え、返答は遅くなる。だからこれまでは、長い資料を渡すときは速度を諦め、速さが要るときは短い指示に絞る、という使い分けが必要だった。今回の更新は、この二者択一を一部で解消する。長文でも高速モードが選べるようになり、用途ごとにモードを切り替える手間が減る。

速さが業務の質を変える理由

処理の速さは、単に待ち時間が短くなるという話にとどまらない。速さは、試せる回数を増やす。生成AIをうまく使う鍵は、一度で完璧な答えを得ることではなく、指示を少しずつ変えながら出力を近づけていく反復にある。1回の返答に何十秒もかかると、この反復は面倒になり、多くの人は最初の出力で妥協してしまう。

返答が2倍以上速くなれば、同じ時間で試せる回数が増える。要約の長さを変える、着目する論点を絞る、表現の硬さを調整する。こうした細かい調整を気軽に繰り返せると、最終的な出力の質が上がる。速度は、質を引き上げる土台でもある。

現場の実務にどう効くか

速度の向上が効くのは、大量の文書をまとめて読ませる業務だ。複数の契約書を並べて条件の違いを洗い出す、長い議事録から決定事項だけ抜き出す、分厚い報告書を数百字に要約する、といった作業がこれにあたる。

これまでは、長文を渡すと返答を待つ時間が長く、指示を少し変えて試し直すたびに待たされた。処理が速くなれば、この試行錯誤が回しやすくなる。要約の粒度を変える、着目点を絞り直すといった調整を、待ち時間を気にせず何度も試せる。長文を扱うコツはコンテキストウィンドウとはも参考になる。

具体的な使いどころは次のような場面だ。複数の取引先との契約書を並べ、支払い条件や解約条項の違いを一覧にする。一週間分の会議の議事録をまとめて渡し、決定事項と保留事項だけ抜き出す。分厚い調査報告書を、経営会議向けに数百字へ縮める。いずれも、資料を分割せず一度に渡せると手間が減り、抜け漏れも起きにくい。長文を一度に扱えることと、その処理が速いことの両方がそろって、初めて実務で使えるようになる。

導入で押さえるのは、渡す情報の中身だ。速く大量に処理できるからといって、機密の資料を無制限に読ませてよいわけではない。どの文書をAIに渡してよいかの線引きは、速度とは別に社内ルールで決めておく。長文処理は便利さと引き換えに、一度に渡す情報量も増える。まずは公開しても問題のない資料で速度と精度を確かめ、扱う文書の範囲を段階的に広げるのがよい。

出典

• ChatGPT — Release Notes（OpenAI Help Center）
• ChatGPT Enterprise & Edu - Release Notes（OpenAI Help Center）