すべてをAIに任せればよいわけではありません。特に、金銭・契約・顧客・人事・コンプライアンスなどに関わる業務では、人間による判断を残すことが重要です。

PwCも、AIエージェントには業務を遂行するための十分な権限が必要である一方、リスクを管理できる範囲に自律性を設定する必要があり、自律性や影響度が高くなるほど人間による監督を強化する考え方を示しています。

本記事では、AIエージェントの自律化レベルをどのように設計すべきか、そして「人間の判断を残すべき業務」と「AIに任せやすい業務」の違いについて解説します。

AIエージェントの「自律化」とは？

AIエージェントの自律化とは、単にAIが文章を生成することではありません。

目的に応じて、

• 情報を収集する

• 必要なデータを分析する

• 次に実行すべき処理を判断する

• 外部システムを操作する

• 結果を確認する

• 必要に応じて次の処理を実行する

といった一連の業務をAIが自動的に進めることを指します。

例えば営業部門であれば、

顧客情報取得 → 過去の商談履歴分析 → 提案内容作成 → メール作成 → CRM更新

までをAIエージェントが実行することも可能です。

Hatonetでも、社内ナレッジ検索、定型業務の代行、カスタマーサポート、営業支援など、企業の業務に合わせたAIエージェント活用を支援しています。

ここで重要なのは、「どこまでAIに任せるか」を技術だけで決めないことです。

業務のリスクと意思決定の重要度に応じて、自律化レベルを設計することが重要になります。

AIエージェントは「4段階」で考える

AIエージェントの自律化を考える際には、すべてを「自動化する／しない」の二択にするのではなく、段階的に設計すると分かりやすくなります。

レベル1：Observe（見る・調べる）

AIは情報を取得・整理するだけで、システムへの変更や意思決定は行いません。

例えば、

• 社内文書の検索

• 会議資料の要約

• 過去データの分析

• FAQの検索

• レポート作成

などです。

このレベルでは、AIの役割は「情報を整理して人間に提供すること」です。

比較的リスクが低いため、AIエージェント導入の最初のステップとして適しています。

レベル2：Advise（提案する）

AIが情報を分析し、「次に何をすべきか」を提案します。

例えば、

• 顧客への提案内容を作成

• 営業メールをドラフト

• 契約書のチェックポイントを提示

• 採用候補者を条件に基づいて整理

• システム障害の原因候補を提示

といった業務です。

ただし、最終的な実行は人間が行います。

AIは「判断材料を提供する役割」に留めることで、人間の専門知識や経験を活かせます。

レベル3：Act with Approval（承認後に実行する）

AIが実際の処理まで準備し、人間が承認した後に実行する方式です。

例えば、

「顧客へのメールを作成 → 担当者が確認 → AIが送信」

「発注内容を作成 → 担当者が承認 → AIが発注システムへ登録」

といったフローです。

Microsoftも、金銭・人・コンプライアンスに影響する、または取り消しが難しいアクションについては、人間による承認を組み込むことを推奨しています。

この方式は、AIの処理能力と人間の判断を組み合わせられるため、企業の業務改革において非常に重要な設計パターンになります。

レベル4：Act Autonomously（自律的に実行する）

AIがあらかじめ設定されたルールや権限の範囲内で、人間の個別承認なしに処理を実行します。

例えば、

• 定型的なデータ入力

• 定められた条件でのステータス更新

• システム監視

• 異常検知と通知

• 定型レポートの自動生成

• スケジュール調整

などが考えられます。

Gartnerも2026年のAIエージェントに関するガイダンスで、Observe、Advise、Act with Approval、Act Autonomouslyという異なる自律化レベルを示し、それぞれに応じたガバナンスを設計する考え方を提示しています。

重要なのは、自律化レベルが高いほど、AIに自由な権限を与えるという意味ではないことです。

権限、対象データ、実行可能な操作、停止条件、ログ、エスカレーションルールなどを明確に設定する必要があります。

人間の判断を残すべき5つの業務

では、具体的にどのような業務には人間の判断を残すべきなのでしょうか。

1．金銭的な影響が大きい業務

例えば、

• 高額な発注

• 価格変更

• 返金

• 投資判断

• 大規模な契約変更

などです。

AIが過去データから合理的な提案を行ったとしても、最終的な意思決定には経営判断や取引先との関係性など、データだけでは評価しにくい要素が含まれます。

そのため、

AI＝提案、人間＝最終承認

という設計が有効です。

2．顧客との重要なコミュニケーション

問い合わせ対応やメール作成などはAIとの相性が良い領域です。

一方で、

• クレーム対応

• 契約条件の交渉

• 重要顧客への提案

• トラブル時の説明

• 例外的な要求への対応

などは、人間による判断が重要になります。

AIには「標準的な問い合わせ」を処理させ、複雑な案件や判断が必要なケースだけを人間へエスカレーションする設計が考えられます。

これは、AIにすべてを任せるのではなく、AIと人間で業務を分担する考え方です。

3．人事・採用など、人に直接影響する業務

採用候補者の情報整理や面接スケジュールの調整などはAIで効率化できます。

しかし、

• 採用・不採用の最終判断

• 人事評価

• 配置転換

• 解雇

• 重要な労務判断

など、人の人生やキャリアに大きく影響する判断については、AIだけで完結させない設計が重要です。

AIは大量の情報を整理できますが、組織文化、本人との対話、将来性など、数値化しにくい要素まで完全に判断できるとは限りません。

4．法務・コンプライアンスに関わる業務

AIによる契約書レビューや規程検索は、高い効率化が期待できる領域です。

一方、

「この契約を締結してよいか」

「この対応は法的に問題ないか」

といった最終判断には、人間の専門家による確認を残すことが重要です。

AIには「チェック・整理・論点提示」を担当させ、最終的な判断は担当者や専門家が行うという分担が適しています。

5．取り消しが難しい操作

AIエージェントの設計では、

「間違えた場合に元へ戻せるか？」

という視点も非常に重要です。

例えば、

• データ削除

• 本番環境への設定変更

• 大量メール送信

• 契約締結

• 外部公開

• 顧客情報の変更

などは、誤操作による影響が大きくなります。

このような処理では、承認フローや実行前チェック、ロールバック、停止ボタンなどを設計段階から組み込む必要があります。

オーストラリア政府のAgentic AIに関するガイドラインでも、重大な影響や取り消しが難しいアクションについて、人間による監督・承認を重要なコントロールとして位置づけています。

「Human-in-the-Loop」だけが正解ではない

AIエージェントの導入では「Human-in-the-Loop（HITL）」という考え方がよく使われます。

これは、AIが処理を行い、重要なポイントで人間が確認・承認する仕組みです。

しかし、すべての処理で人間の承認を求めると、今度はAIエージェントのメリットが失われます。

例えば、1日に数千件の定型処理をAIが行う場合、そのすべてを人間が確認するのは現実的ではありません。

そのため、

低リスク → AIが自律実行

中リスク → AIが実行案を作成し、人間が承認

高リスク → AIは分析・提案まで、人間が判断

というように、リスクに応じて人間の関与レベルを変える設計が重要になります。

つまり、目指すべきなのは「人間を常にループに入れること」ではなく、

「人間が本当に判断すべきポイントに集中できる状態」

です。

AIエージェント導入で重要なのは「自律化率」ではない

AI導入を検討するとき、

「何％の業務をAIに任せられるか？」

という視点だけで考えるのは危険です。

重要なのは、

「どの業務を、どの条件で、どこまでAIに任せるのが最適か？」

という問いです。

そのためには、まず業務を以下の観点から整理します。

このような観点から業務ごとに自律化レベルを設計することで、AIエージェントを「便利なAIツール」から「安全に業務を担う仕組み」へ発展させることができます。

Hatonetが考えるAIエージェント導入

AIエージェントを本番業務へ導入する際には、AIモデルを選ぶだけでは十分ではありません。

業務フロー、既存システム、データ、権限、セキュリティ、運用体制まで含めて設計する必要があります。

Hatonetでは、AI戦略の策定からAIエージェントの設計・開発、既存システムとの連携、運用、内製化まで、End-to-Endで支援しています。

特にFDE（Forward Deployed Engineer）が企業の現場に入り込み、

業務理解 → AI活用領域の特定 → 自律化レベル設計 → AIエージェント開発 → 現場導入 → 運用改善

まで伴走することで、PoCだけで終わらないAI活用を目指します。

AIエージェントは、「人間の仕事をすべて置き換えるための技術」ではありません。

むしろ、AIに任せるべき仕事をAIに任せ、人間にしかできない判断に人間が集中する。

その役割分担を設計することこそ、AIエージェント活用の本質です。

まとめ：AIエージェントの価値は「自律化の設計」で決まる

AIエージェントの導入では、「どこまで自動化できるか」だけを見るのではなく、「どこまで自律化させるべきか」を考えることが重要です。

特に、金銭、人事、顧客、契約、コンプライアンス、重要システムなどに関わる業務では、人間による判断や承認を残すことが重要になります。

一方、情報検索、定型処理、データ入力、レポート作成など、ルールが明確でリスクの低い業務は、AIエージェントによる自律化との相性が良い領域です。

これからのAI活用で重要になるのは、

「AIに何をさせるか」だけではなく、「AIに何をさせないか」を設計すること。

AIと人間、それぞれの強みを活かした適切な自律化レベルを設計することで、安全性と業務効率を両立したAIモダナイゼーションを実現できます。

AIエージェントの導入を検討しているものの、「どの業務から自動化すべきか」「どこに人間の判断を残すべきか」が明確になっていない企業様は、まず現在の業務フローを整理するところから始めてみてはいかがでしょうか。