Velcore Consulting
Insights
論考

AIエージェントという言葉の元にある、自律性とそのコスト

AIエージェントという言葉の元にある、自律性とそのコスト

1. はじめに

Gartner社が2026年に実施したCIO/テクノロジ・エグゼクティブ・サーベイによれば、AIエージェントを導入済みの組織は17%にとどまります。一方で、60%超が今後2年以内の導入を計画しており、これは同調査で測定された先進テクノロジの中で最も急峻な導入曲線だという結果が出ています[1]。ところが同じGartner社は、2027年末までにエージェント型AIプロジェクトの40%以上が中止されるとも予測しています。その理由として挙げられているのは、「コストの高騰」「ビジネス価値の不明確さ」、そして「不十分なリスク・コントロール」です[2]。

これら三つは別々の問題に見えます。しかし、その背景には共通する要因があります。それは、業務フローの複雑性や必要な自律性を十分に検討しないまま、「AIエージェント」という一つの言葉でシステムを捉えてしまうことです。本稿では、まずAIエージェントを定義し、そのうえで自律性という観点からコスト構造を整理します。

2. AIエージェントの定義

AIエージェントという言葉は、「AIエージェント元年」とも呼ばれた2025年以降、ビジネスの世界では一気に拡がりました。その一方で、技術的には異なるシステムであっても、LLMによる業務の自動化が少しでも絡んでいれば一律に「AIエージェント」と呼んでしまうケースも増えたように思えます。

このような状況が生まれる背景には、Gartner社が「AIエージェント・ウォッシング」と呼ぶ動きがあると考えられます。これは、技術的にはAIエージェントではないシステムであっても、「AIエージェント」という名称を用いることで、実態以上の期待を生み出してしまうマーケティング上の現象です。その結果、本来は設計思想もコスト構造も異なるシステム同士が、同じ「AIエージェント」として語られるようになっています。

では、「AIエージェント」と一括りに呼ばれるシステムには、実際にはどのような違いがあるのでしょうか。 AIエージェントにはさまざまな定義がありますが、本稿では「実行時の判断をどこまでLLMへ委ねているか」という自律性の観点から整理します。より具体的には、次の二つの条件で定義できます。

条件① LLMに道具の主体的な呼び出し/選択権があるか

条件② 特定の目的に向かって、LLMが処理の継続/停止を決定できるループ（繰返し処理）があるか

この定義は、AnthropicがAIエージェントを「LLMs autonomously using tools in a loop(道具をループの中で自律的に使うLLM)」だと表現していることとも整合します[3]。

なお、ここで「道具(tools)」とは、LLMがテキスト生成以外に、外部システムを観測したり操作したりするために呼び出せる機能の総称のことをいいます。Web検索、データベースへの問い合わせ、社内APIの呼び出し、コードの実行、メールの送信などがこれにあたります。LLM単体の出力は本質的にはテキスト生成にとどまり、それ自体は外部システムに何の副作用も及ぼしません。道具は、この閉じたテキスト生成を、外部システムの観測と行動につなぐ接点とも言えます。LLMが道具を持って初めて、システムは「答える」だけでなく「動く」ことができるようになります。そして、その道具を誰が選び(条件①)、呼び出した結果を踏まえて次の一手を誰が決めるのか(条件②)という二点が、「AIエージェント」とそうではないシステムの大きな違いになります。

この見方に立つと、現在「AIエージェント」と呼ばれているシステムの実態は、「道具を誰が選ぶのか」と「処理を誰が継続・終了するのか」という二つの判断を、どこまでLLMへ委ねているかの違いに過ぎないことが分かります。本稿では、この委ねている度合いを「自律性」と呼びます。

AIエージェントの基本構造を示す図。LLMが道具（tool）を選択し、Web検索ツール・DB検索ツール・外部API実行ツールなどを通じて外部システムを観測・操作し、その結果を踏まえて次の判断へ戻るループを繰り返すことを示す。

「AIエージェント」と呼ばれるシステムの内訳

自律性が最も低いのは、RPAやワークフローに代表される決定論的な自動化処理です。どの道具をどの順序で呼び出すかは人間が設計時に書き切り、実行時のシステムに判断の余地を残しません。例えば、毎朝決まった時刻に販売管理システムから前日の受注データを抽出し、フォーマットを整えて経理システムへ登録する、といった処理です。手順はすべて事前に固定されており、いつ動かしても同じ経路をたどります。

この大枠を保ったまま、処理フローの一部にLLMを埋め込んだのがワークフロー+LLMの構成です。例えば、届いた問い合わせメールの本文をLLMに読ませて「請求」「解約」「技術的な質問」のいずれかに分類させ、その結果に応じてあらかじめ定めた担当部署へタスクを振り分ける、といった構成です。LLMは分類や抽出といった解釈を担いますが、その先の「担当部署へのタスクの振り分け」を実行するのはLLMではなく処理フローそのものです。道具の選択権はフローに残ったままであり、条件①を満たしません。したがって、これらはAIを使ってはいるものの、AIエージェントとは呼べません。

LLMを用いたチャットアシスタントは、生成・要約・整理といった作業をLLMが担いますが、道具を選んで実行するのも、出力を見て次の指示を出すのも人間に残す使い方です。そもそもLLMには外部システムを操作する手段が与えられておらず、例えばメールの文面案を提案することはできても、実際に送信するのは人間です。LLMが返した下書きや要約を人間が読み、採用するか、直すか、次に何を頼むかを決めるという繰り返しを回しているのは人間であり、条件①も条件②も、主体は人間の側にあります。

ChatGPTやClaudeのような製品は、常にAIエージェントとして動作しているわけではありません。文章生成だけを行う場合はアシスタントですが、Web検索やコード実行などの道具を自律的に選択し、その結果を見ながら処理を繰り返す場合には、本稿でいうAIエージェントとして動作しています。重要なのは製品名ではなく、その時点で条件①・②を満たしているかです。

これらに対してAIエージェントは、道具の選択(条件①)とループ(条件②)の両方を実行時のLLMに委ねる設計です。

実装上は、LLMに、関数名、引数の型、機能の説明の一覧が渡され、LLMは推論の過程で、どの道具（関数）をどのような引数で呼び出すかを判断し、呼び出しの結果を踏まえて次の行動を決めます。関数の結果等を踏まえて、終了とLLMが判断したら行動を止めます。この「思考 → 道具の呼び出し → 結果の観察 → 次の思考」の反復がAIエージェントの本質です。反復を続けるか、目的を達したとして終えるかを決めるのもLLM自身です。だからこそ、想定外の入力に対しても、その場で状況を解釈し、道具を呼び出しながら処理を進めることができます。

これらから分かることは、LLMを使っていることと、自律性が高いことは別だ、ということです。LLMを使いながら自律性がほとんどない設計はあり得ます。非定型書類の項目抽出、問い合わせの分類、要約といった「解釈」だけをLLMノードに任せ、次にどのノードへ進むかは、人間が設計時に記述したフローが決める処理は、LLMを使ってはいますが自律性が高いわけではありません。LLMは実行時に判断していますが、その後に選べる行き先は事前に列挙された分岐の中に閉じており、開いた行動空間を持つAIエージェントとは性質が根本的に異なります。つまり、「LLMを使っているかどうか」は指標になりません。見るべきは、道具を呼び出す主体がフロー側にあるのかLLM側にあるのか(条件①)、そしてその呼び出しが目的に向かって連鎖するのか(条件②)です。自律性という尺度の実体は、この二点に集約されます。

AIエージェントは、自律性を高めることで、ルールとして書き切れない多様な入力への適応、未知ケースへの一般化、そして判断のたびに人間の応答を待たない高速な処理を実現できます。一方で、それらが不要な業務では、自律性を高めること自体がコストになります。つまり、必要以上に自律性を持たせる理由はありません。

自律性の低い順にRPA/ワークフロー、ワークフロー+LLM、AIチャットアシスタント、AIエージェントを並べた図。道具の選択・実行とループの主体が、人間による事前設計からLLMによる実行時の選択へ移るほど、自律性が高くなることを示す。

一括りにすることで生じる三つの弊害

このように、技術的に異なるシステムが同じ「AIエージェント」という名前で流通すると、導入側の意思決定に三つの弊害が生じます。

第一に、比較検討が成立しなくなります。あるベンダーの「AIエージェント」は多少AIが搭載されているとはいえ、実質的にルールベースのRPAであり、別のベンダーのそれは真の意味でのAIエージェントである、ということが実際に起こりえます。両者はコスト構造も、処理が失敗したときの対応も、必要となるガバナンスの水準もまったく異なります。しかし名前が同じである以上、提案書の上では同じ土俵で価格や機能が比較され、本来比べるべき「システムがどこまで自律的に判断するか」という違いは見えなくなります。

第二に、コストとリスクの見積もりが実態から乖離します。AIチャットボット程度のシステムを想定した予算のまま、実際にはAIエージェントが必要とする評価基盤・監査ログ・権限管理を要するシステムを導入すれば、コストは計画を大きく超過します。逆に、実態はワークフロー自動化に過ぎないシステムに「AIエージェント」としての成果を期待すれば、コストに対するビジネス価値は得られないという評価に終わります。リスクのガバナンスも同様で、システムの実態がわからないままでは、自律性の低いシステムに過剰な統制をかけて無駄なコストを生むか、自律性の高いシステムに従来並みの統制しか敷かずにガバナンス不足に陥るか、いずれかになりがちです。

そして第三に、議論の粒度が崩れます。本来検討すべきは、「問い合わせ対応全体をAIエージェント化するか」ではなく、「問い合わせ分類だけをLLMへ委ねるのか」「一次回答まで自律化するのか」「契約変更のような重要操作まで委ねるのか」というように、業務工程ごとに必要な自律性を設計することです。しかし、性質の異なるシステム群が一つの言葉に束ねられている限り、このような議論は難しくなります。

この状況から抜け出すには、「AIエージェントを導入するか、しないか」ではなく、「どれだけの自律性を、どのようなコストと引き換えに持たせるか」を問う必要があります。次章では、このコストの中身を見ていきます。

3. 自律性のコスト

AIエージェントに求められる自律性を一段高めるごとに、どのようなコストが増えるのでしょうか。構造的なコストは三つあります。

第一に、非決定論性です。道具の呼び出しフローが実行時に組み立てられる以上、同じ依頼でも実行経路と出力が毎回変わりえます。

第二に、監査性の低下です。レビューの対象が静的な手順書ではなく、実行のたびに異なる呼び出し履歴になります。

第三に、処理失敗の状態のばらつきです。自律性の低い自動化は、想定外の状況に直面すると止まります。止まれば異常に気づき、原因を調べて修正できます。一方、自律性の高いシステムは、外部システムへの実操作権限をLLMが持つため、誤った解釈に基づく誤った行動を最後まで実行してしまう可能性があります。

この構造的なコストの上に、さらに運用コストが積み上がります。ループが深くなるほど増える推論コスト、品質を継続的に測り続けるための評価基盤、判断の根拠を追跡するための監査ログ、人間以上に慎重な最小権限管理、誤りを検知し、影響範囲を限定し、処理を巻き戻すための仕組み等です。

ここから導かれる設計原則は一つです。それは、「目的を達成できる範囲で、最も低い自律性を選ぶ」ことです。

本稿では、この考え方を「最小自律性の原則（Principle of Minimum Autonomy）」と呼びます。セキュリティにおける「最小権限の原則」が、必要最小限の権限だけを与える設計思想であるように、自律性もまた、目的を達成できる範囲で必要最小限にとどめることが基本になります。

4. おわりに

もちろん、自律性の適正水準は、一度決めれば終わりではありません。LLMの能力が向上して失敗率が下がれば、これまで失敗コストを許容できなかった業務にも自律性を持たせられるようになります。自社の側でも、操作を可逆にする、権限を絞る、不可逆な操作の直前に人間の承認を挟むといった設計で失敗コストを引き下げれば、安全にAIエージェント等のシステムに配分できる範囲は増えていきます。この配分の多寡は、LLMの進化と自社の設計能力の両側から変化します。

したがって、この見積もりは机上の一回で終わらせず、実測に基づいて更新し続ける必要があります。どの入力で失敗したか、どの道具の呼び出しでリスクが生じたか、どの工程で人間のレビューが過剰だったか、これらを測る評価基盤がなければ尺度は調整できず、「ビジネス価値が不明確」という問題も解消されません。評価の運用設計については過去記事「Living EvalOps」で詳しく述べました。Living EvalOpsは単にAIの品質を測る仕組みではありません。どの業務へどこまで自律性を委ねられるかを継続的に判断し、「最小自律性の原則」を更新し続けるための運用基盤でもあります。

「AIエージェント」は、マーケティング上の言葉です。設計の観点から分解すれば、その中には自律性の異なる複数の構成が含まれています。すなわち、判断を固定したワークフロー、その一部にLLMを埋め込んだハイブリッド、人間を支援するアシスタント、単発のツール呼び出し、そして道具の選択とループの両方をLLMに委ねた真の意味でのAIエージェントです。重要なのは、この言葉のまま導入を決断することではなく、言葉を分解し、どの業務のどの工程にどの設計を、どれだけの自律性とともに持たせるかを見積もることです。その見積もりは製品カタログからは得られません。業務の現場で、入力の多様性と予測されるコストを実際に推し量ることによってのみ得られます。

AI時代の真の意味での設計とは、システムをAIによってどこまで賢くするかを競うことだけではありません。人間がどこまで判断を委ね、その代わりにどれだけのコストと責任を引き受けるのかを設計することです。「AIエージェント」という言葉は、その設計を隠してしまいます。だからこそ私たちは、その言葉を鵜呑みにするのではなく、自律性という観点で分解し、業務ごとに最適なバランスを見極める必要があります。

AIエージェントを導入するかどうかではなく、どの業務のどの工程へ、どれだけの自律性を与えるのかが、これからのAIシステム設計における本質的な問いなのです。

参考文献

AIエージェントの評価・監督・説明責任まで含めた設計・実装・運用支援について、Velcore Consulting がご相談を承っています。

お問い合わせ
論考・レポート一覧へ戻る