第1部 なぜ深く知るのか · 第2回 / 全20回 · 15分くらい
5つの段を「どこで歯止めをかけるか」で読み直す
入門編では、5つの段を「壁を壊す道具」として見ました。実践編では、同じ5段を「AIの動きに、どこで歯止めをかけるか」という設計の選び方として見直します。選び方の物差しは、その失敗を何回まで許せるか、です。
履修 0 / 20 回
この回を読み終えると、できるようになること
- 5つの段を「ことば・ファイル・検査・時間・構造」という歯止めの場所で言い分けられる
- 「たぶん守られる歯止め」と「必ず守られる歯止め」の違いを、例を挙げて説明できる
- 自分のルールを1つ選び、どの段で歯止めをかけるべきかを理由つきで決められる
専門用語は、初めて出たところで括弧に短い説明を付けています。説明が長くなるものには ※番号を付け、ページの終わりの用語メモにまとめました。
1歯止めをかける場所は5つある
| 段 | 歯止めの場所 | Claude Code での例 |
|---|---|---|
| 第1 プロンプト | ことば（指示の中） | その場の指示 |
| 第2 コンテキスト | ファイル（毎回読ませる） | CLAUDE.md、スキル |
| 第3 ハーネス | 検査（コードで確かめる） | フック、テスト、権限の設定 |
| 第4 ループ | 時間（いつ・何回動くか） | launchd、cron、定期タスク |
| 第5 グラフ | 構造（誰が何を見てよいか） | サブエージェント、道具の絞り込み |
表の上の2つと下の3つでは、歯止めの効き方がまったく違います。
2「たぶん守られる」と「必ず守られる」
ことばとファイルは、AIが読んで、そのとおりに動こうとする歯止めです。ほとんどの場合は守られますが、文脈が長くなったとき、別の指示とぶつかったときには破られることがあります。確率で効く歯止めです。
検査・時間・構造は、AIの判断を通りません。フックで止めたコマンドは、AIがどう考えても実行されません。道具を渡していないサブエージェントは、その道具を使えません。こちらは必ず効く歯止めです。
この講座の考え方の中心は、次の1行です。絶対に起きてはいけないことを、ことばだけで止めようとしない。
3Anthropic の言う「ワークフロー」と「エージェント」
Anthropic の記事「Building effective agents」では、AIを使った仕組みを2つに分けています。決められたコードの道筋にそってAIと道具を動かすのがワークフロー、AIが自分で手順や道具の使い方を決めて進めるのがエージェント※1です。
この区別は、歯止めの場所の話と重なります。ワークフローは、流れそのものをコード（構造）で決めています。エージェントは、流れをAIの判断（ことば）に任せています。同じ記事は「できるだけ単純な方法から始め、必要になったときだけ複雑にする」ことを勧めています。
4上の段ほど、3つの費用が増える
上の段に行くほど、次の3つが増えます。
- 作る手間：フックやスクリプトを書き、試す時間
- 動かす費用：トークン※2の量と待ち時間
- 壊れたときの広がり：1回の会話の失敗はその場で終わりますが、定時実行の失敗は、気づくまで毎日積み重なります
見落としやすいのは3つ目です。歯止めを強くするために上の段の仕組みを足すと、その仕組み自体が新しい壊れる場所になります。
5物差しは「何回まで許せるか」
どの段で歯止めをかけるかに迷ったら、その失敗を何回まで許せるかを考えます。
- 1回でも困る（データが消える、外に送られる、お金が動く）：必ず効く歯止め。フック、権限の設定、構造で止める
- たまになら困らない（文体が少しずれる、見出しの形が違う）：たぶん効く歯止めで十分。指示か CLAUDE.md に書く
そのうえで、いちばん安い段から試すのが順番です。指示を1行足して直るなら、フックは要りません。下の段で直らないことを確かめてから、上の段を足します。
誤解よくある思い違い
CLAUDE.md に「絶対に」と強く書けば、必ず守られる
強く書いても、ことばの歯止めは確率で効くままです。必ず止めたいことは、フックや権限の設定に移します。
上の段のほうが、新しくて優れている
上の段ほど複雑で、費用も壊れる場所も増えます。必要な段で止めるのが、いちばん安くて壊れにくい選び方です。
演習手を動かして確かめる
演習1
次のルールを、どの段で歯止めをかけるべきか考えてください。
- 記事は です・ます調で書く
- 本番のデータベースを消すコマンドを実行しない
- 毎朝7時に予定をまとめる
- 調べ物をする係には、ファイルを書き換えさせない
答えを見る
- ファイル（CLAUDE.md）。たまにずれても困らず、直せばすむ
- 検査（フックか権限の deny）。1回でも困るので、ことばでは止めない
- 時間（launchd などの定時実行）
- 構造（サブエージェントに書き換えの道具を渡さない）
2を CLAUDE.md だけで止めていたら、今日中に検査の段へ移す候補です。
頼み方そのまま使える頼み方の例
次のルールの一覧を読み、それぞれ「ことば・ファイル・検査・時間・構造」のどこで歯止めをかけるのがよいかを表にしてください。
- 破られたら元に戻せないルールには印を付ける
- 印を付けたルールが、いま ことば か ファイル だけで止められていたら、検査か構造に移す案を書く
まだ設定は変えず、表を出したら止まってください。
ルールの一覧：（CLAUDE.md の中身などを貼る）「5世代」は業界の公式な区分ではなく、学ぶための整理のしかたです。この講座でも、呼び名より「どこで歯止めをかけているか」に目を向けてください。
用語メモ本文の ※番号の説明
出典確かめた資料（2026年10月時点）
- Anthropic「Building effective agents」 ワークフローとエージェントの区別、単純な方法から始める考え方。