長い資料をAIに渡すとき、「一度に全部は無理です」と断られた経験はないでしょうか。私は分厚い契約書を要約させようとして、途中で切れてしまったことがあります。Opus 5は、この「一度に扱える量」がかなり広くなっています。
一度に扱えるのは100万トークン
Opus 5(性能の頂点であるFable 5に次ぐ位置のモデルです)が一度に読み込める文脈の広さは、100万トークンです。
文脈というのは、AIが今のやり取りで覚えていられる範囲のことです。ここに収まる量なら、資料も、これまでの会話も、まとめて踏まえたうえで答えてくれます。逆に、ここからあふれると、古い部分から忘れられていきます。その器が100万トークン分ある、ということです。
トークンと分量の目安
トークンと言われてもピンとこないので、分量の目安を書きます。
トークンは、AIが文章を処理するときの細かい単位です。公式の目安では、100万トークンはおよそ55万語の英語にあたるとされています。日本語だと単純な換算は難しいのですが、文庫本にして数冊分、と考えて大きく外れません。分厚い報告書や、何十ページもある資料でも、丸ごと渡せる広さだということです。
文脈の考え方そのものは、こちらの記事でくわしく扱っています。
何がうれしいのか
この広さが効くのは、たくさんの情報をまとめて扱いたいときです。
たとえば、長い契約書を渡して「気をつけるべき条項を挙げて」と頼む。何本もの議事録をまとめて渡して「この半年で決まったことを整理して」と頼む。分割して少しずつ渡すと、AIは前半を忘れながら読むことになり、全体を通した判断ができません。丸ごと渡せれば、資料どうしの矛盾や、全体を通した流れまで踏まえた答えが返ってきます。
私が契約書で失敗したのは、まさに分割して渡していたからでした。丸ごと渡せるようになってからは、「後半のこの条項が前半の記述と食い違っている」といった、通して読まないと気づけない指摘が返ってくるようになりました。
広いからといって詰め込みすぎない
ただし、広いからといって何でも詰め込めばいい、というわけではありません。ここは注意がいります。
関係のない資料まで大量に渡すと、AIはその全部に目を配ろうとして、肝心の部分がぼやけることがあります。人間でも、机の上に資料を山積みにされると、どれが大事かわからなくなるのと同じです。広い器があっても、渡すのは必要なものに絞る。このほうが、狙った答えが返ってきやすい。
使う量が増えると料金も増える
もう一つ、実務で気をつけたいのが料金です。
料金は、やり取りする文字の量で決まります。一度に大量の資料を渡すと、そのぶん処理する量が増えて、費用もかさみます。100万トークンをまるまる使うような使い方を毎回すると、料金は無視できない大きさになります。だからこそ、渡す資料を絞ることは、答えの精度だけでなく、費用の面でも効いてきます。
出せる答えの長さにも上限がある
入れられる量とあわせて、知っておくとよいのが、返ってくる答えの長さです。
Opus 5が一度に出せる答えは、最大で12万8千トークンまでとされています。入り口の100万トークンに比べると小さい数字ですが、それでも相当な分量です。長い資料を渡して、長い要約や整理を返してもらう、といった使い方は十分にできます。極端に長い文書をまるごと書き直させるような場合にだけ、この上限を意識すればよい、という程度に考えておけば大丈夫です。
広さを味方につける
100万トークンという広さは、数字だけ見てもありがたみがわかりにくい機能です。でも、長い資料を丸ごと扱えると知ると、使い道が一気に広がります。
これまで「長すぎて無理」と諦めていた作業を、もう一度試してみる価値があります。分厚い資料の要約、複数ファイルを横断した整理、長い議論の振り返り。そういう、通して読まないと意味がない作業こそ、この広さが効く場面です。まずは、いつも分割して渡していた長い資料を一度、丸ごと渡してみてください。分割していたときには出てこなかった指摘が返ってくるはずです。
