SHOSHIN HIRAKU
Research← HIRAKU
HIRAKU WORKING PAPER 01

Human Capability
in the Loop

Cognitive Delegation, Verification Capacity, and the Design of Human–AI Interaction

ZEN LAMP PROJECT / SHOSHIN HIRAKU — Working Paper 01 — September 2026

生成AIおよびエージェントAIの発展により、人間がAIへ委任できる対象は、計算・検索・記憶支援から、調査、解釈、推論、文章化、反論生成、意思決定支援、さらには複数工程の遂行へ拡大している。

本稿は、AIへの認知的委任そのものを問題視しない。認知的外部化（cognitive offloading）は、人間が環境や道具を利用して認知負荷を調整する一般的かつ適応的な戦略でもある。問題は「外部化するか否か」ではなく、どの能力まで外部化したとき、人間がその外部化を監督するために必要な能力まで失う可能性があるのかである。

Human-in-the-Loop asks whether a human remains in the process.
Human Capability in the Loop asks whether that human remains capable of meaningfully participating in it.
Contents
  1. 問題設定
  2. 生成AIによって何が変わるのか
  3. Verification Debt / Collapse
  4. Maintain / Acquire / Recognize Limits
  5. Capability Routing
  6. Proportional Friction
  7. Interaction Mechanisms
  8. Thought Sovereignty
  9. 研究仮説と対照条件
  10. 時間スケールと反証条件
  11. References

1. 問題設定

AIによる認知作業の自動化が人間の能力に与える問題は、生成AIから突然始まったものではない。Bainbridge（1983）は、自動化が進むほど人間に残される仕事が異常時などの難しい部分へ偏り、その技能を平常時に維持する機会が減るという「自動化の皮肉」を論じた。Endsley & Kiris（1995）は、状況認識や技能の低下を含む out-of-the-loop performance problem を検討した。

Sparrowら（2011）は情報の再取得可能性が記憶のあり方に影響することを示し、Risko & Gilbert（2016）はcognitive offloadingを単純な能力低下ではなく適応的戦略として整理した。したがってHIRAKUは「AIに任せるほど人間は必ず弱くなる」とは主張しない。

有益な認知的外部化と、将来の独立判断を損なう外部化を、どこで区別できるか。

2. 生成AIによって何が変わるのか

生成AIが支援・代替する対象は、情報探索だけでなく、要約、論点抽出、仮説形成、反論生成、文章化、比較、意思決定支援へ拡張している。これらは人間が問題のメンタルモデルを形成する過程そのものでもある。

2025年の知識労働者を対象とした研究では、生成AIへの信頼と自己申告上の批判的思考努力の低下との関連が報告された一方、批判的思考が検証・統合・タスク管理へ移動する可能性も示されている。短期的な行動変化と長期的な能力低下は区別して扱う必要がある。

3. Verification Debt / Verification Collapse

Verification Debt：AIへの委任によって、独立検証に必要な知識、経験、実践機会、確認工程が十分に維持されない状態が累積していく過程。

Verification Collapse：そうした累積等により、必要な場面で人間が意味のある独立検証を行えなくなった仮説的な極端状態。

これらの語の創案・優先権は主張しない。HIRAKUの貢献は名称ではなく、検証可能な設計・評価枠組みに置く。

4. Maintain / Acquire / Recognize Limits

Maintain既に関連知識・技能がある場合。AIを使いながら独立判断能力を維持する。
Acquire必要な知識をまだ持たない場合。結論を先に要求するのではなく、判断できるための足場を形成する。
Recognize Limits自力による意味のある検証が困難な場合。専門家、一次資料、追加検査、権限保持者などへ経路を切り替える。

「自分では検証できない」と正しく認識する能力もHuman Capabilityの一部と位置づける。

5. Capability Routing

三状態を単純な自己申告だけで分類しない。重要な判断では、短い判断問題と回答確信度等を組み合わせるCapability Probeを用い、そのタスクに対する局所的な較正状態を推定することを検討する。

Professional / Governance環境では、資格・職務・権限・組織ルールなど外部情報を利用できるため、Personal版とは異なるルーティングが可能になる。

6. Proportional Friction

HIRAKUは摩擦そのものを価値としない。低リスク・定型作業は速くてよい。一方、重要な判断では、理解・検証・責任を維持するための摩擦が価値を持つ可能性がある。

LayerFrictionPosition
PersonalSoft Friction思考支援。原則解除可能。
ProfessionalPolicy-based職種・業務・組織規程による。
GovernanceRule-governed独立確認・権限分界を制度側が事前定義。

7. Interaction Mechanisms

Human CapabilityMechanism
Generative AgencyQuestion Expansion Loop
Verification AgencyHuman Verification Layer
Epistemic CalibrationCapability Probe / Escalation Path
Independent JudgmentPre-AI Independent Judgment
Capability AcquisitionKnowledge Scaffolding
Thought SovereigntyUser-controlled Judgment Log

8. Human Thought Sovereignty

初期判断、確信度、迷い、判断変更等のログは通常の操作履歴とは性質が異なる。保存しない選択肢、本人による削除、保存期間と閲覧主体の明示、二次利用・AI学習への別同意、生の思考内容と監査証跡の分離を設計要件として検討する。

人間の自律を守るための記録を、人間を監視する仕組みに反転させない。

9. 研究仮説と対照条件

H1 — VerificationHIRAKU型対話はAI出力中の誤り検出を改善するか。
H2 — Calibration回答正確性と利用者の確信度の対応を改善するか。
H3 — Justification最終判断の根拠説明を改善するか。
H4 — Cost追加時間・認知負荷を正当化できるか。
H5 — Anchoring RiskPre-AI Independent Judgmentが誤った初期判断への固執を増やさないか。

対照条件は、A：通常AI、B：通常AI＋「よく考えて検証してください」という簡単なReflection Prompt、C：HIRAKUの三条件を基本とする。BがCと同程度の成果を示すなら、複雑なHIRAKU機構の正当性は弱くなる。

10. 時間スケールと反証条件

Phase 1 — Immediate Effect

誤り検出、検証行動、確信度較正、根拠説明、時間、認知負荷を測る。ここで検証できるのは即時的インタラクション効果までである。

Phase 2 — Retention and Transfer

数週間〜数か月後に、別課題でも検証技能・知識保持・自力判断・問い生成が維持・転移するかを見る。

Phase 3 — Longitudinal Capability

より長期に、専門技能・独立推論・誤り検出・メタ認知・AIなしでの遂行能力の変化を検討する。Verification Debt / Collapseの長期概念は主としてこの段階の研究対象である。

HIRAKUが時間だけを増やして改善を生まない場合、単純なReflection Promptで同等の効果が出る場合、初期判断へのアンカリングを悪化させる場合、Capability Probeが機能しない場合、認知ログが自由な思考を萎縮させる場合などは、介入の再設計または撤回が必要である。

11. 結論

AIに何を任せるかだけでは足りない。
AIに任せ続けても、人間に何の能力を残すのかを設計しなければならない。

HIRAKUは、人間をAIの競争相手として残そうとするものではない。AIに任せるべきことはAIに任せる。その上で、問う、理解する、疑う、確かめる、自分の限界を知る、必要な判断を引き受ける——それらまで同時に委任してよいのかを問い続ける。

References

  1. Bainbridge, L. (1983). Ironies of Automation. Automatica, 19(6), 775–779.
  2. Endsley, M. R., & Kiris, E. O. (1995). The Out-of-the-Loop Performance Problem and Level of Control in Automation. Human Factors, 37(2), 381–394.
  3. Sparrow, B., Liu, J., & Wegner, D. M. (2011). Google Effects on Memory: Cognitive Consequences of Having Information at Our Fingertips. Science, 333(6043), 776–778.
  4. Risko, E. F., & Gilbert, S. J. (2016). Cognitive Offloading. Trends in Cognitive Sciences, 20(9), 676–688.
  5. Lee, H.-P. et al. (2025). The Impact of Generative AI on Critical Thinking: Self-Reported Reductions in Cognitive Effort and Confidence Effects From a Survey of Knowledge Workers. CHI 2025.
  6. Tankelevitch, L. et al. (2025). Understanding, Protecting, and Augmenting Human Cognition with Generative AI: A Synthesis of the CHI 2025 Tools for Thought Workshop.

Status: Position / Working Paper. Human Capability in the Loop、Verification Debt / Collapse等を確立済み事実としてではなく、設計提案・仮説・研究課題として区別する。