ヒューマンインザループ（HITL）とは？意味やHOTLとの違い、導入手順を解説
生成AIやAIエージェントに任せる業務の範囲が広がるにつれ、誤った出力や意図しない操作をどう防ぐかは、情報システム部門やDX推進担当、管理部門の担当者にとって切実な課題になっています。社内の検討やベンダーの説明で「ヒューマンインザループ」「HITL」という言葉を見聞きしたものの、意味や自社での取り入れ方が分からないという方も多いのではないでしょうか。
本記事では、ヒューマンインザループ（HITL）の意味、似た言葉との違い、必要とされる理由、導入の手順を解説します。読み終えるころには、自社のどの業務に人の確認を置くべきかを判断できるようになるはずです。
目次ヒューマンインザループ（Human in the Loop）とは
ヒューマンインザループ（Human in the Loop、略称HITL）とは、AIや自動化システムの処理の流れに、人の判断を組み込む仕組みを指します。AIにすべてを任せきりにせず、要所で人が結果を確かめる点が特徴です。英語ではハイフンを付けて「Human-in-the-Loop」と表記される場合もあります。
まずAIが処理を行い、その結果を人が確認して、誤りがあれば修正します。修正した内容はAIの改善に戻され、次回以降の処理に生かされる仕組みです。たとえば、AIが請求書から読み取った金額を経理担当者が点検し、読み違いを直した結果をAIに戻すと、同じ書式の請求書を読み取る精度が上がります。人の確認は誤りを止めるだけでなく、AIを改善する役割も担っているのです。
人が関与するのは、運用の段階に限りません。AIの開発段階でも、学習データに正解の情報を付けるラベル付け（アノテーション）や、人の評価をもとにした強化学習（RLHF）といった形で、人の判断が使われています。
もっとも、人がどの程度関与するかには幅があり、関与の度合いによって似た考え方がいくつか存在します。ヒューマンインザループを正しく理解するには、それぞれの違いを整理しておく必要があるでしょう。次の章で比較します。
ヒューマンオンザループとの違い
AIの処理に人がどう関わるかは、ヒューマンインザループ（HITL）、ヒューマンオンザループ（HOTL）、ヒューマンアウトオブザループ（HOOTL）の3つに分けられます。違いが表れるのは、人がいつ、どのように関与するかという点です。下表で比較してみましょう。
| 概念 | 人の関与の仕方 | 人が関与するタイミング | 適する業務の例 |
| ヒューマンインザループ（HITL） | AIの処理の中で、人が結果を確認・修正・承認する | 処理の途中 | 医療診断、金融審査など、誤りの影響が大きい業務 |
| ヒューマンオンザループ（HOTL） | AIが自律的に処理し、人は監視役として介入・中止する権限を持つ | 異常が起きたとき | 自動運転の遠隔監視、工場の異常検知 |
| ヒューマンアウトオブザループ（HOOTL） | 人は関与せず、AIが自律的に判断・実行する | なし | 定型的なデータ処理、スパムフィルタリング |
HITLでは処理の途中で人が結果を確かめるのに対し、HOTLでは人は監視役に回り、異常が起きたときにだけ介入します。HOOTLは、人が関与せず、AIだけで判断から実行までを行う形です。
この3つは優劣の関係ではありません。業務のリスクの高さと判断の複雑さに応じて使い分けるものです。たとえば、同じ経理業務でも、交通費の自動仕訳はHOOTLで処理し、高額な支払いの承認にはHITLを適用するといった組み合わせが考えられます。
使い分けの前提として、そもそもなぜ人の関与が求められるのかを押さえておくことが欠かせません。続いて、その理由を確認していきます。
ヒューマンインザループが必要とされる理由
AIの性能が高まっても、人の関与が不要になるわけではありません。ヒューマンインザループが必要とされる理由は、AIの精度の限界、判断に対する説明責任、法規制やガイドラインという3つの面から説明できます。いずれも、AIを業務で安心して使い続けるうえで欠かせない観点です。この章では、それぞれを順に見ていきましょう。
AIの誤りや例外を人の判断で補うため
1つ目の理由は、AIの誤りや例外的なケースを、人の判断で補う必要があるためです。
生成AIは、事実と異なる内容をもっともらしく出力する場合があり、この現象はハルシネーションと呼ばれています。文章が自然であるほど、誤りに気づきにくい点が厄介です。また、学習データに十分含まれていない例外的なケースでは、AIの判断の精度が下がります。
たとえば、社内規程についての問い合わせにAIが回答する場面で、改定前の内容をもとにした回答が出力されたとします。総務担当者が送信前に目を通していれば、誤った案内が問い合わせた人に届く前に止められるでしょう。規程の最新版と照らし合わせるだけで防げる誤りは、少なくありません。
人が確認と修正を行えば、誤りを利用前に食い止められます。さらに、修正した結果をAIに戻すことで、精度の改善にもつながる点も見逃せません。
判断の責任と根拠を説明するため
人の関与が求められる2つ目の理由は、判断の責任と根拠を説明できるようにするためです。
採用や与信など、個人に重大な影響を及ぼす判断では、結論に至った理由の説明が求められます。「AIがそう判定したから」という説明だけでは、判断の対象となった本人の納得を得られません。
そこで役立つのが、人が承認や修正を行った記録です。誰が、いつ、どのような理由でAIの出力を承認し、あるいは修正したのかを残しておけば、判断の経緯を後から検証できます。たとえば、取引先の審査にAIの評価を用いた場合でも、担当者が内容を確かめて承認した記録があれば、後日の問い合わせに経緯を示せるでしょう。
国内の指針も同じ方向を向いています。総務省と経済産業省によるAI事業者ガイドラインは、AIの出力結果を特定の個人や集団の評価の参考にする場合に、人間による合理的な判断のもとで説明責任を果たすよう求めているのです。人の判断を挟むことは、説明責任を果たすための土台といえるでしょう。
参照元
総務省・経済産業省｜AI事業者ガイドライン（第1.2版）概要
法規制やガイドラインの要請に応えるため
3つ目の理由は、法規制やガイドラインが人による監督を求めていることです。
EUのAI法（EU域内でAIの開発や利用を規制する法律）は、第14条で、高リスクAIシステムについて、利用期間中に人が効果的に監督できる設計を求めています。同条は、監督を担う人がAIの出力に頼りすぎる傾向を意識できること、出力を採用しない判断やシステムの停止ができることを、システムの設計で可能にするよう求めている点が重要です。
なお、高リスクAIシステムに関する規定の適用開始時期は見直されました。単体で提供されるものは2026年8月2日から2027年12月2日へ、製品に組み込まれるものは2027年8月2日から2028年8月2日へ延期されています。最新の状況は参照元でご確認ください。
国内では、AI事業者ガイドラインが、AIに単独で判断させるだけでなく、適切なタイミングで人間の判断を介在させる利用の検討を求めています。
こうした要請は、人の関与を「あれば望ましいもの」から「備えるべきもの」へと変えつつあるといえます。それでは、実際の業務で人はどのように関与しているのでしょうか。次の章で活用例を確認します。
参照元
EU Artificial Intelligence Act｜Article 14: Human Oversight
参照元
EUR-Lex｜Regulation (EU) 2026/1744（Digital Omnibus on AI）
ヒューマンインザループの活用例
ヒューマンインザループといっても、人の関わり方は業務によって違いがあります。この章では、人が関与する場面を、判断の確定、例外の確認、操作の承認の3つに分けて紹介していきます。自社の業務がどの場面に近いかを考えながら読み進めてください。
誤りの影響が大きい判断を人が確定する
誤りの影響が大きい業務では、AIの出力を人がすべて確認し、最終的な判断を人が確定します。
代表的な例が、医療の画像診断支援です。AIが画像から病変の候補を示し、医師がその候補を参考にしながら最終的な診断を行います。AIは候補を示す役割を担い、診断を確定するのは医師という分担です。
同じ考え方は、法務や対外的な情報発信にも当てはまります。誤りが重大な損害につながる業務では、AIの出力をすべて人が確認してから確定する運用がとられているのです。たとえば、AIが下書きした取引先向けのお知らせ文を、広報担当者と法務担当者が全文確認してから公開する運用が、これに当たります。
手間はかかるものの、誤りを外に出さないことを優先する場面に適した方法でしょう。
大量処理のうち例外だけを人が確認する
処理の件数が多い業務では、AIが一次判定を行い、判断が難しいものだけを人が確認する形がとられます。
投稿や出品の監視（コンテンツモデレーション）がその一例です。AIが大量の投稿を一次判定し、規約に反するかどうかの判断が難しいものを人の確認に回します。判断に迷わないものはAIが処理するため、人は判断の分かれる案件に集中できるわけです。
この方式の要点は、AIの確信度（AIが自らの判定にどの程度自信を持っているかを示す値）が低い案件や、例外的な案件だけを人に回すところにあります。すべてを人が見る場合に比べて処理が速く、すべてをAIに任せる場合に比べて正確です。処理の速さと正確さの両立を図る考え方といえるでしょう。問い合わせメールの振り分けや申請書類の不備確認など、件数が多く大半が定型で済む業務に応用しやすい形です。
AIエージェントの操作を実行前に人が承認する
操作を実行する前に人が承認する形は、AIエージェントを利用する場合に重要になります。
AIエージェント（目的に向けて自律的に作業を進めるAI）は、回答の生成にとどまらず、複数の処理を連続して実行します。資料を探し、内容をまとめ、ファイルを作成するといった作業を、人の指示を1つずつ待たずに進めていく点が特徴です。
ただし、個別の出力をすべて人が確認する設計にすると、処理の遅れやコストの増加を招きます。そこで、リスクの高い処理に絞って事前の承認を求める考え方がとられるようになりました。たとえば、資料の検索や要約は承認なしで進め、社外へのメール送信の直前にだけ人の承認を挟むといった設計が考えられます。承認の対象を絞ることで、自律的に作業を進める利点を保ちながら、取り消しにくい操作だけを人が止められるわけです。
このように、人の関与は安全性を高める一方で、負担も伴うことになるでしょう。次の章では、ヒューマンインザループの課題を整理します。
ヒューマンインザループの課題
ヒューマンインザループは万能ではありません。人を介在させることで、新たな課題も生じます。この章では、コスト、処理量、確認の質という3つの面から、導入前に知っておきたい課題を説明します。あらかじめ把握しておけば、設計の段階で対策を織り込めるでしょう。
確認の工数とコストが増える
人による確認を組み込むと、工数とコストが増えます。
確認の手順を設計する作業、確認を担う担当者の配置、そして日々続く確認作業のそれぞれに、工数と人件費がかかるためです。導入時の一度きりではなく、運用が続く限り発生する費用である点に注意しなければなりません。
医療や法務など専門知識が必要な領域では、負担はさらに大きくなります。AIの出力が正しいかどうかを判断できる人材の確保と育成が必要になるからです。たとえば、契約書の確認をAIに補助させる場合でも、最終確認には契約実務に通じた担当者を充てることになるでしょう。
費用対効果を見極めたうえで、確認の対象を決めることが求められます。
処理量が増えると人の確認が追いつかない
処理量が増えたときに、人の確認が追いつかなくなることも課題です。
AIは、処理量が増えても計算資源（サーバーなどの処理能力）を追加すれば対応できます。一方、人が1日に確認できる量には限りがあるのです。AIの処理量が10倍になったからといって、担当者を10倍に増やすのは現実的ではありません。
その結果、すべての出力を人が確認する運用では、確認待ちの案件が積み上がります。AIが数分で処理した結果が、確認の順番を待って翌日まで使えないという事態も起こりえるでしょう。処理が集中する時期ほど、この差は表面化しやすくなります。AIの強みである大量・高速の処理を、生かしにくくなってしまうのです。
承認が形だけになり誤りを見逃す
3つ目の課題は、承認が形だけになり、誤りを見逃してしまうおそれです。
人には、AIの出力に頼りすぎる傾向があり、自動化バイアスと呼ばれています。AIの出力が正しい状態が続くと、確認する人は内容を十分に見ないまま承認するようになりがちです。EUのAI法第14条も、監督を担う人がこの傾向を意識できるようにすることを求めています。
確認する人の判断の偏りにも注意が必要です。判断が偏ると、その偏りが修正結果を通じてAIの学習にも反映されうるからにほかなりません。
対策になるのが、確認の基準を文書にすることです。何を、どの観点で確かめるのかを明文化しておけば、担当者ごとの判断のばらつきを抑えられます。
ここまでの3つの課題を踏まえると、すべてを人が確認する設計には無理があるとわかるでしょう。求められるのは、人が関与する範囲を絞り込む設計です。その進め方を、次の章で説明します。
参照元
EU Artificial Intelligence Act｜Article 14: Human Oversight
ヒューマンインザループを導入する手順
ヒューマンインザループの導入では、すべての出力を人が確認するのではなく、リスクに応じて人が関与する範囲を決めることが出発点になります。この章では、その進め方を、業務の仕分け、方式の決定、操作と参照範囲の絞り込み、記録と見直しという4つの手順で説明します。順に進めることで、確認の負担を抑えながら安全性を確保できるでしょう。
業務をリスクと影響の大きさで仕分ける
最初の手順は、AIに任せる業務を洗い出し、リスクと影響の大きさで仕分けることです。
評価の軸は2つあります。AIが誤った場合の影響の大きさと、判断に必要な専門知識の複雑さです。影響が大きく判断が複雑な業務は人が直接関与し、定型的で影響が小さい業務は自動化するという切り分けが基本になります。
たとえば、議事録の要約は誤りがあっても社内で修正でき、影響は限定的です。一方、取引先に提出する見積書の作成は、金額の誤りが契約に影響します。前者は自動化し、後者には人の確認を置くと判断できるでしょう。
この切り分けは、国の指針とも一致しています。AI事業者ガイドラインは、対策の程度をリスクの大きさに対応させる考え方（リスクベースアプローチ）を示しました。すべての業務に同じ水準の確認を課すのではなく、リスクに見合った対策を選ぶことが大切です。
参照元
総務省・経済産業省｜AI事業者ガイドライン（第1.2版）概要
人が関与する位置と方式を決める
次に、仕分けた業務ごとに、人が関与する位置と方式を決めます。方式は、人が確認する範囲によって、下表の3つに分かれます。
| 方式 | 人が確認する範囲 | 向いている業務 |
| 全件を確認する | AIの出力をすべて人が確認・承認してから確定する | 医療、法務、対外的な情報発信など、誤りが重大な損害につながる業務 |
| 例外だけを確認する | AIの確信度が低い案件や例外的な案件だけを人に回す | 定型と例外が混在する判定業務 |
| 抜き取りで確認する | 処理はAIが行い、一部を抜き出して事後に評価する | 大量の処理が必要で、傾向の把握によって品質を保つ業務 |
全件を確認する方式は、誤りを確実に止められる反面、確認の負担が最も大きくなる点に注意してください。例外だけを確認する方式は、定型と例外が混在する判定業務に向いており、負担と正確さの釣り合いを取りやすい方法です。抜き取りで確認する方式では、処理はAIが行い、一部を抜き出して事後に評価することで、全体の品質の傾向を把握します。
方式を選んだら、確認の基準と担当者をあらかじめ決めておきましょう。たとえば、経費精算の判定で「金額が10万円を超える申請」と「AIの確信度が低い申請」を経理担当者に回すと決めておけば、運用を始めてから迷うことがありません。基準と担当が曖昧なままでは、前の章で触れたように、承認が形だけになるおそれがあります。
AIに任せる操作と参照範囲を絞る
3つ目の手順では、AIに任せる操作と、AIが参照できるデータの範囲を絞ります。人の確認に頼る前に、AIが触れられる範囲そのものを限定しておくという考え方です。
参照範囲については、AIに参照させてよいデータの保管場所をフォルダなどの単位で決め、それ以外のデータはAIの対象から外します。AIを利用できる人も、業務上必要な権限を持つ利用者に限定してください。
操作は、種類ごとに見直します。ファイルの削除のようにリスクの高い操作は、許可しないか、人の事前承認を必須にするのが安全です。検索と要約は許可し、削除は許可しないといった線引きが一例です。
ただし、この手順には前提があります。既存のフォルダ構成とアクセス権限が整理されていなければ、対象を絞ることができません。人事評価の資料と全社共有の資料が同じフォルダに混在している状態では、フォルダ単位の指定が機能しないためです。権限の棚卸しを先に済ませておきましょう。
作業の記録を残して運用を見直す
最後の手順は、作業の記録を残し、運用を定期的に見直すことです。
記録するのは、AIが行った作業と、人が承認・修正した内容の両方になります。後から確認できる状態にしておくことで、問題が起きたときに経緯をたどれるためです。AI事業者ガイドラインも、関係する情報を文書化して一定期間保管し、必要なときに参照できる状態にすることを求めています。
記録は、保管するだけでなく見直しにも使いましょう。たとえば、人に回した案件のうち修正が必要だったものがごくわずかであれば、人に回す基準を緩める判断ができます。反対に、抜き取りの確認で誤りが続けて見つかった場合は、確認の方式を全件の確認に切り替えるべきでしょう。
ここまでの4つの手順を実行に移すには、人の確認、操作範囲の制限、記録を仕組みとして備えた環境が必要になります。運用ルールだけで補おうとすると、担当者の負担が増え、長続きしません。
参照元
総務省・経済産業省｜AI事業者ガイドライン（第1.2版）概要
人の確認を介在させることができるDirectCloud AI
DirectCloud AIは、法人向けクラウドストレージ「DirectCloud」を契約している場合、標準で利用できる生成AIサービスです。導入手順で決めた内容のうち、利用者本人による確認、参照範囲と利用者の絞り込み、AIが行った作業の記録を、機能で支えられます。手順とDirectCloudの機能の対応を、下表にまとめました。全件確認や例外確認の基準、担当者の割り当ては、前の章の手順に沿って運用ルールとして定めてください。
| 導入手順で決めること | DirectCloudの機能 | できること |
| 人が関与する位置（利用者本人による確認） | DirectCloud AIアシスタント | AIが計画の段階で判断が必要な点を選択肢で確認し、利用者は実行中も作業を停止できる |
| AIの参照範囲と利用者 | フォルダごとのAI設定とアクセスレベル | AIを使えるフォルダを選べ、AIを利用できるのはアップローダより上のアクセスレベルを持つ利用者に限られる |
| AIが行った作業の記録 | エージェントログ | DirectCloud AIアシスタントの作業の履歴が管理ページに記録される |
このうちDirectCloud AIアシスタントは、2026年11月25日のアップデートで追加される予定の機能であり、対象プランはEliteプラン以上です。以下では、各機能でできることを、リリースノートに記載された仕様の範囲で説明します。自社で決めた手順のどこに当てはまるかを確かめながら、参照してください。
計画の段階で判断が必要な点を人に確認できる
DirectCloud AIアシスタントは、作業に取りかかる前の計画の段階で、判断が必要な点を利用者に確認します。
このアシスタントは、依頼を受けると、資料の読み込みからファイルの作成までを一貫して実行する機能です。ファイルは、HTML、PPTX、DOCX、PDFの形式で作成できます。その際、AIはまず資料を確認して計画を立て、分量や重視するポイントなど判断が必要な点を、選択肢で提示します。利用者が方向を選んでから作業が進むため、意図と異なる成果物ができあがる事態を防ぎやすくなります。
実行中も、利用者は進捗を確認でき、途中で作業を停止することも可能です。資料が足りない場合に、Web検索で補うかどうかを選ぶこともできます。
完成したファイルは、プレビューで内容を確認してから、ローカルまたはDirectCloudのフォルダに保存できる仕組みです。計画の段階と保存の前に利用者本人の確認が入り、実行中は利用者が作業を止められます。確認するのは依頼した本人であるため、別の担当者による承認が必要な業務では、保存後の確認手順を運用ルールとして定めてください。
AIを使えるフォルダと利用者を絞り込める
AIに参照させる範囲と利用者は、フォルダごとのAI設定とアクセスレベルによって絞り込めます。
DirectCloud AIを使えるかどうかは、フォルダごとに設定する方式です。AIに参照させたい資料を置くフォルダだけでDirectCloud AIを有効にすれば、AIの参照範囲を絞れる仕組みです。たとえば、製品マニュアルのフォルダだけ有効にし、役員会資料のフォルダは無効のままにできます。
利用者は、アクセスレベルで絞り込みます。DirectCloudのアクセスレベルは、オーナー、編集者、編集者－（マイナス）、ダウンローダ、閲覧者＋、閲覧者、アップローダの7種類です。このうち、アップローダより上のアクセスレベルを持つ利用者が、DirectCloud AIを利用できます。
なお、DirectCloudには、ClaudeなどのAIツールのチャット画面からDirectCloud上のファイルを探したり、内容について質問したりできる「DirectCloud MCP」という機能もあります。この機能を通じて利用する場合も、対象になるのは利用者に権限のあるデータだけです。ただし、フォルダごとのAI設定を無効にしたフォルダも、利用者に権限があればDirectCloud MCP経由では対象になります。AIに参照させたくない資料は、AI設定だけでなくアクセス権限でも絞ってください。
AIの作業履歴を記録して後から確認できる
DirectCloud AIアシスタントが行った作業の履歴は、管理ページに記録されます。
記録される場所は、管理ページの「DirectCloud AI」＞「エージェントログ」です。管理者はこの履歴を確認することで、AIに任せた作業を後から検証することが可能です。たとえば、作成された資料の内容に疑問が生じたときに、どのような作業が行われたのかをさかのぼって確かめるといった使い方ができます。
導入手順の最後に挙げた記録のうち、AIが行った作業の記録を、担当者の手作業に頼らず残せる点が利点です。機能の詳細や料金を確認したい方は、以下のサービス説明書をご覧ください。
AI活用の前提となる権限と記録を整えた導入事例
ここで紹介するのは、AIやヒューマンインザループそのものの導入事例ではありません。その前提となる、アクセス権限と操作の記録を整えた企業の事例です。導入手順で扱った「参照範囲を絞る」「記録を残す」に対応する取り組みとして、2社それぞれの導入前の課題と導入後の成果を見ていきます。
操作ログを取得できない状態から追跡できる状態へ
東ソー情報システム株式会社では、導入前、ユーザーがファイルに対して行った操作のログを取得できず、内部統制の強化が図られていない状態でした。以前のオンラインストレージでは共通アカウントを利用していたため、有事の際の追跡性にも課題を抱えていたといいます。
DirectCloudの導入後は、250種類以上の操作ログを取得できるようになり、インシデントが発生した際の追跡性を確保できました。
なお、ここでいう操作ログはファイル操作の記録であり、前の章で紹介したエージェントログとは別の記録です。誰がどのファイルを操作したのかを追える状態は、AIに作業を任せる際にも土台になるでしょう。
権限設定が不透明な状態から把握できる状態へ
トーセイ・コミュニティ株式会社では、ファイルサーバー管理の前任者が退職しており、権限設定がブラックボックス化していました。設定の内容を、後任の担当者が把握できない状態だったのです。
DirectCloudの導入後は、フォルダへのアクセス権やファイル操作の権限を、ユーザーごとに容易に把握できるようになりました。250種類以上の操作ログ取得機能により、内部統制の強化も実現しています。
権限の状況を把握できていることは、AIの参照範囲を絞るための前提条件です。導入手順で述べた権限の棚卸しを考えるうえで、参考になる事例といえます。前任者しか知らない設定が残っている場合は、AIの導入より先に、権限を見える状態にすることから始めてください。
まとめ
ヒューマンインザループ（HITL）は、AIや自動化システムの処理の流れに人の判断を組み込む仕組みです。人が監視役に回るヒューマンオンザループや、人が関与しないヒューマンアウトオブザループとは、関与の仕方とタイミングが異なります。
必要とされる理由は、AIの誤りを補うこと、判断の根拠を説明すること、法規制やガイドラインの要請に応えることの3つでした。一方で、コストの増加、処理量への対応、形だけの承認という課題もあります。
大切なのは、すべてを人が確認するのではなく、リスクに応じて人が関与する範囲を決めることです。業務を仕分け、方式を決め、操作と参照範囲を絞り、記録を残して見直すという手順で進めてください。
利用者による確認、参照範囲の絞り込み、作業の記録を備えた環境をお探しの場合は、DirectCloud AIが選択肢になります。
- タグ：
- AI
