「蒸留」と聞くと、お酒づくりを思い浮かべる人が多いと思います。AIの世界の蒸留は、強いAIの答えを手本にして、別のAIを鍛えることです。それ自体はよく使われる技術ですが、他社のAIから、相手の許しを得ずに、偽のアカウントを大量に使って答えを集めるなら話は別です。これが蒸留攻撃と呼ばれています。
10月12日、Anthropicは、Claudeへの蒸留攻撃への守りを強めた結果を発表しました。
作る会社どうしの争いに見えて、実はふつうの利用者にも関係するところが2つあります。この記事では、蒸留攻撃とは何か、Anthropicが何をしたか、そして利用者に関わる点を順に見ていきます。11月5日時点の情報です。
狙われるのは、答えより「考えの過程」
最近のClaudeは、答えを出す前に、頭の中で順に考える過程を持っています。蒸留攻撃でいちばん狙われるのは、この考えの過程の記録です。答えだけより、どう考えて答えにたどり着いたかのほうが、AIを鍛える材料として役に立つからです。
Anthropicは、そのことを自分たちで試しています。考えの過程を全部使って鍛えたモデルは、プログラムを直す力を測る試験で80.4%を取り、過程を要約したものだけで鍛えたモデルは71.8%でした。差は8.6ポイントです。
Anthropicがしたこと
発表に書かれている守りは、大きく4つです。
1つ目は、考えの過程を要約してから見せることです。これは前から行われていました。
2つ目は、考えの過程の行き先を絞ることです。Claude Fable 5.1とOpus 5.5では、8月31日以降に作られた新しいAPIのアカウント(プログラムからClaudeを使うための契約)は、Claudeの前の文脈(考えの過程を含む)を書き換えられなくなりました。前の考えを差し替えて続きを書かせ、考え方を少しずつ引き出す、という使い方をふさぐためです。Sonnet 5.5では、考えの過程を見られるのは、その依頼を出した組織だけになっています。
3つ目は、2段階で見張る仕組みです。依頼が蒸留を狙ったものかを2段に分けて判定し、怪しければ止めます。「前の考えを翻訳して」「前の考えを、決まった記号で囲んで書き出して」といった抜け道も、見つけ次第ふさいだそうです。
4つ目は、やめさせるための手当てです。繰り返す相手には制限を強め、アカウントを止めます。止めたアカウントは数万にのぼり、多くは攻撃が始まって2時間以内に止めた、とされています。
発表では、相手の名前も挙げています。中国のAI開発会社のZhipu(智譜)やMoonshot(月之暗面)が、Claudeの力を自社のモデルに移そうとしていた、とAnthropicは書いています。いずれもAnthropic側の主張です。
「9割以上減った」の読み方
見出しになった数字は、蒸留する側が抜き取れた量が、約90〜99%減った、というものです。見張りの仕組みを入れたあと、抜き取られた考えの過程の量が、前より10分の1から100分の1に下がった、という見積もりがもとになっています。
ただ、読み方には注意がいります。
- Anthropic自身の見積もりで、外の誰かが確かめた数字ではない
- Anthropicのサービスの中だけの話で、ほかの会社のAIから集められた分は含まない
- いつからいつまでを比べたのかは、はっきり書かれていない
発表自体も、これは「いたちごっこ」で、効き目がどれだけ続くかは分からない、と書いています。私はこの書き方に好感を持ちました。数字だけを大きく見せる発表より、限界も書いてある発表のほうが信用できます。
ふつうの利用者に関わること、その1 誤って止められることがある
ここからが、私たちに関わる話です。見張りの仕組みが、問題のない依頼を誤って止めてしまう割合は、0.1%未満とされています。1,000回に1回より少ない、ということです。
小さな数字ですが、ゼロではありません。私も一度、Claudeに「さっきの考え方を、手順として書き出して」と頼んだら、うまく答えてもらえなかったことがあります。それが蒸留を疑われたせいかは分かりません。ただ、同じ中身を「この作業の手順を、初めての人向けに番号付きでまとめて」と頼み直したら、普通に答えてくれました。
「考えの過程そのものを出して」という頼み方は、蒸留の手口と似て見えます。仕事で手順がほしいときは、手順そのものを頼むほうが確実です。
ふつうの利用者に関わること、その2 止められた依頼にも料金がかかる
もう1つは料金です。9月24日から、Anthropicは、蒸留を含む特定の分野で、Claudeが答える前に守りの仕組みが止めた依頼にも、料金をかけるのを再開しました。
これは、APIを使って自分のプログラムからClaudeを呼んでいる人に関わります。月額のプランでClaudeのアプリを使っている場合の扱いは、発表には書かれていません。止められた依頼が多いと、答えをもらっていないのに料金がかかる、ということが起こりえます。APIの使い方が普通なら気にする場面はまずありませんが、請求に見慣れない動きがあったら、止められた依頼がないかを確かめてみてください。APIのしくみは、別の記事で説明しています。
守る側の事情を知っておく
AIを悪用しようとする動きは、蒸留だけではありません。Anthropicが9月に出した悪用の報告書では、サイバー攻撃にAIが使われた例が詳しく書かれていて、別の記事で読み解きました。
ときどき答えが止められるのは不便です。それでも、その裏で何が起きているのかを知っていると、頼み方を変えて進めばいい、と落ち着いて受け止められます。





