Claude Fable 5の提供停止のニュースを追いかけていたとき、「ジェイルブレイク」という言葉が何度も出てきました。研修先の担当者からも「うちの社員がそのジェイルブレイクとやらをうっかりやってしまったら、会社の責任になるんですか」と聞かれ、その場で正確に答えられませんでした。
宿題として持ち帰り、一次情報を読み込んで整理したのがこの記事です。同じ言葉に引っかかった人の時間を節約できればと思います。
発端はFable 5停止のニュースだった
2026年6月12日、アメリカ政府がClaude Fable 5とMythos 5に輸出規制をかけ、モデルは約18日間使えなくなりました。その引き金として名指しされたのが、Amazonの研究者が見つけたAIのジェイルブレイクです。
停止から復活までの経緯そのものは、別の記事で追いました。
この記事で掘りたいのは経緯ではなく、「ジェイルブレイクとは結局何なのか」のほうです。
言葉の意味は「脱獄」、やることは「言いくるめ」
ジェイルブレイク(jailbreak)を直訳すると脱獄です。もともとはiPhoneにかかっている制限を外す改造を指す俗語でした。
AIの文脈でのジェイルブレイクは、モデルに組み込まれた安全装置を、指示文の工夫だけですり抜けることを指します。安全装置というのは、危険な質問への回答を断るようAIに仕込まれた振る舞いのことです。
ここで大事なのは、システムへの侵入や改造は何もしていない、という点です。パスワードを盗むわけでも、プログラムを書き換えるわけでもない。使うのは言葉だけ。人間にたとえるなら、口の堅い担当者を巧みな話術で言いくるめて、話してはいけないことを話させるのに近い行為です。
Fable 5で実際に何をさせたのか
Amazonの研究者が報告したのは、こういう内容でした。Fable 5の安全装置をすり抜ける方法を見つけ、ソフトウェアの弱点を挙げさせたうえで、その弱点を実際に突くコードの見本まで書かせた。つまり、攻撃の手引きを書かせることに成功したわけです。
AIに詳しくない人ほど「AIが暴走した」話に聞こえるかもしれませんが、実態は逆で、AIは指示に従順すぎました。断るべき指示を、言い回しの工夫のせいで断れなかった。それがことの本質です。
なぜ安全装置はすり抜けられてしまうのか
調べていていちばん腑に落ちたのが、安全装置は「ルールの一覧表」ではないという点です。
AIの安全装置は、禁止ワードのリストで機械的に弾いているわけではなく、訓練を通じて「こういう依頼は断る」という振る舞いを身につけさせたものです。だから、訓練で想定していなかった聞き方をされると、断りそこねることがある。新人研修をどれだけ丁寧にやっても、想定外の口車に乗せられる社員が出るのと似ています。
実際、Anthropicが追試したところ、同じ弱点は他社製を含む複数のAIモデル(Claude Opus 4.8、GPT-5.5、Kimi K2.7)でも見つけられたと報告されています。ジェイルブレイクはFable 5固有の欠陥ではなく、いまのAI全体が抱える宿題だということです。
見つかった穴はどう塞がれたか
7月1日の復活にあわせて、Anthropicは対策を二つ打ちました。
一つは、例の手口を見分けて止める新しい分類器(届いた指示を仕分ける、門番のようなプログラム)の追加です。公式発表では、該当の手口を99%超の確率でブロックするとされています。もう一つは、HackerOne(ソフトウェアの弱点報告を仲介する外部サービス)での報告受付プログラムです。新しい抜け道を見つけた研究者が、こっそり悪用したりSNSで公開したりする前に、正規ルートで報告できる窓口を作った格好です。
復活後に何が変わったかは、別記事で詳しくまとめています。
「社員がやったら会社の責任か」への答え
冒頭の研修先の質問に戻ります。
まず、Anthropicの利用ポリシーでは、安全装置を意図的に回避しようとする行為は禁止されています。業務アカウントで面白半分に試せば、規約違反としてアカウント停止などの対応を受ける可能性があります。会社としては「やらない」を周知するのが答えです。
一方で、うっかり境界に触れてしまう心配はそれほど要りません。ジェイルブレイクは偶然成立するものではなく、すり抜けを狙って指示を組み立てる意図的な行為です。日常業務の指示で「うっかり脱獄してしまった」は、まず起きません。
調べ終えて残ったもの
正直、調べる前は「ジェイルブレイクは悪いハッカーの攻撃」くらいの雑な理解でした。実際は、言葉だけで成立する、誰にでも試せてしまう手口で、だからこそ塞ぐのが難しい。
安全装置と抜け道のいたちごっこは、この先も続きます。利用者にできるのは、手口を試すことではなく、ニュースに出てきたときに言葉の意味を正しく受け取ることです。「AIが暴走した」でも「ハッカーに乗っ取られた」でもなく、「言いくるめへの耐性がまだ十分ではなかった」。この解像度を持っておくだけで、次に似たニュースが来たときの読み方が変わります。
