AIエージェントにとって、今まさに大きな期待が寄せられている時期です。人間の介入を最小限に抑えつつ、タスクを遂行し、ワークフローを調整し、意思決定を行い、業務を円滑に進めることのできるシステムに対する需要が膨大にあります。
自律性への期待は明らかですが、それを認めるために必要な信頼は、まだ形成されつつある段階です。
Stibo Systemsの新たな調査によると、米国のビジネスリーダーの37%は、人間によるレビューのチェックポイントが設けられている場合にのみ、AIの自律的な行動を許可しています。また、26%は、ビジネス上重要な特定のワークフローにおいてのみ自律的な行動を許可しています。コアプロセス全般にわたって広く許可しているのは、わずか12%にとどまっています。
これらの調査結果は、「自律性のギャップ」を浮き彫りにしている。組織は主体性を持つAIの可能性を認識しているものの、その大半は、ビジネス全般にわたってAIに自由に行動させる準備が整っていない。
このギャップを埋めるには、有能なエージェントだけでなく、より確かな根拠が必要となる。
企業がAIにより多くの自律性を認めるようになるには、何が必要でしょうか?
AIにより大きな自律性を与える意欲を高める要因について尋ねられた際、経営幹部たちは以下の3つの分野に焦点を当てました:
- 42%は、AIの精度に対する信頼性の向上を望んでいる
- 36%は、データ品質の向上を求めている
- 31%は、説明可能性と追跡可能性の強化を求めている
これらの調査結果を総合すると、企業の自律性が何に依存しているかが明らかになります。リーダーたちは、エージェントが信頼できる情報に基づいて動作し、関連するビジネスコンテキストを理解し、結論に至った経緯を示せるという確信を必要としています。そのためにはまず、特にエージェントが回答の生成から実際の行動に移行する際、マスターデータ管理が信頼性の高いAIエージェントにとってなぜ不可欠なのかを理解することから始めなければなりません。
この事実は重要である。なぜなら、企業の意思決定が単一の孤立したデータに依存することはめったにないからだ。
商品を推奨するエージェントには、正確な商品属性、サプライヤーの条件、在庫状況、顧客の嗜好、地域固有の要件、規制情報などが必要となる場合があります。また、それら相互の関係性を理解する必要もあるでしょう。
信頼性の高い記録は、不可欠な基盤となります。相互に関連付けられたデータにより、エージェントは、求められている意思決定についてより包括的な視点を得ることができます。
担当者に必要なのは、単なるアクセス権ではなく、文脈です
エージェントにより多くのデータへのアクセス権を与えたからといって、自動的に理解が深まるわけではありません。
企業データは、関係性、階層、定義、ポリシー、およびルールを通じて意味を持ちます。ある製品は、ある市場では承認されている一方で、別の市場では制限されている場合があります。あるサプライヤーは、あるカテゴリーでは優先的に採用されているものの、特定の地域では利用できない場合があります。顧客は、取引履歴、所在地、同意、契約条件の組み合わせに基づいて、オファーの対象となる場合があります。
エージェントが情報を正しく解釈するには、こうした関連性が必要となります。
ここで、マルチドメインデータの重要性が特に高まります。この課題は、エージェント間の引き継ぎのたびにデータガバナンスが維持されなければならないマルチエージェントプロセスにおいて、さらに大きくなります。製品、顧客、サプライヤー、所在地、資産のデータは、それぞれ異なる部門によって管理されている場合がありますが、AIが支援する意思決定は、多くの場合、それらの複数の部門にまたがっています。
これらのドメインが相互に連携していない場合、エージェントは個々の事実にはアクセスできても、ビジネス全体の状況を把握できない可能性があります。その結果、チームは、誰かがそれに基づいて行動を起こす前に、欠落している文脈を収集し、矛盾する情報を調整し、結果を検証しなければならなくなります。
相互に関連付けられ、文脈が明確化されたデータは、エージェントにより強力な根拠を提供します。また、エージェントにどの程度の権限を与えるべきかを決定するための、より明確な根拠を人々に与えます。
自律性を段階的に構築する
AIの自律性については、すべてか無かの二者択一で決める必要はありません。組織は、ユースケースに関する根拠、管理体制、信頼性が向上するにつれて、自律性を段階的に拡大していくことができます。
具体的な進め方の例としては、次のようなものが考えられます:
1. 推奨
エージェントが情報を分析し、行動を推奨します。人がその根拠を検討し、決定を下します。
このレベルでは、組織は人間による直接的な管理を維持しつつ、エージェントの推論の質や有用性を検証することができます。また、欠落しているデータ、不明確なビジネスルール、あるいは繰り返し発生する例外を特定する機会も提供します。
2. 人間による承認を要するアクション
エージェントがアクションを提案し、次のステップの準備を行いますが、実行前には人間による承認が必要です。
ワークフローにおいて、人間の承認は依然として明確な役割を担っており、一方でエージェントは分析や準備の負担をより多く引き受けている。ここでは、審査担当者が推奨の根拠となるデータ、文脈、ルールを理解する必要があるため、トレーサビリティが特に重要となる。
3. 限定された自律的行動
エージェントは、定義された一連の条件の範囲内で自律的に行動します。その境界には、特定のワークフロー、データドメイン、取引額、信頼度閾値、ユーザーグループ、または例外ルールなどが含まれる場合があります。
人間は、権限設定、監視、エスカレーション手順、および例外のレビューを通じて、引き続きプロセスを管理します。エージェントは、組織が説明および制御可能な環境の中で、より大きな自由度を得ることができます。
この段階的なアプローチにより、組織は実際の運用経験を通じて信頼を築くことができます。各ステップにおいて、エージェントが確実に機能する箇所、人間の判断が付加価値をもたらす箇所、そして基礎となるデータや統制の改善が必要な箇所に関する証拠が得られます。
すべてのアクションを追跡可能にする
エージェントがより多くの責任を担うにつれて、組織はその行動の根拠を理解する必要があります。
これには、次のような質問に答えられることが含まれます:
- どの記録や情報源が意思決定の根拠となったのか?
- データは最新で、完全であり、承認されていたか?
- 担当者はどのような関係性や業務ルールを適用したか?
- 担当者はどのような措置を講じたか?
- 誰が、あるいは何がそれを承認したのか?
- どのような場合に、その決定を人的審査のためにエスカレーションすべきか?
トレーサビリティにより、チームは予期せぬ結果を調査し、コンプライアンスを証明し、エージェントの挙動を最適化し、重大な決定を正当化することが可能になります。また、人間によるレビューの効率化にもつながります。
トレーサビリティがなければ、レビュー担当者は自ら推論の過程を再構築しなければなりません。 リネージの欠如は、信頼性の高いAIモデルを信頼できないエージェントに変えてしまう可能性のある5つのマスターデータ障害のうちの1つです。審査担当者はソースレコードを検索し、システム間で情報を照合し、エージェントが適切なコンテキストを適用したかどうかを調査します。こうした調査作業は、「AIトラスト・タックス」を増加させます。これは、AIの出力を安心して利用できるようになるまでに必要な、隠れた準備、照合、検証、および手直し作業のことです。
データと意思決定のトレーサビリティがあれば、人間は、真に専門知識を必要とする例外や判断に注意を集中させることができます。
エージェントにより大きな自由を与える前に、より確かな根拠を提供する
AIエージェントは、企業のワークフローにおいてより大きな役割を果たすようになるでしょう。その拡大のペースは、組織がその結果として生じる行動をどれほど確信を持って支持できるかにかかっています。
正確なデータはその解決策の一部です。エージェントには、関連するビジネスコンテキスト、明確なガバナンス、説明可能な推論、追跡可能な意思決定も必要です。これらの要素が相まって、組織はAIによる推奨事項から、慎重に範囲が定められた自律的な行動へと移行できるようになります。
すべてのプロセスにおいて最大限の自律性を追求するのではなく、ここでは、ビジネス側が理解し、ガバナンスをかけ、信頼できる証拠に裏付けられた、各意思決定にふさわしい自律性のレベルを達成することが目的です。
エージェントにより多くの自由を与える前に、より優れた根拠を提供しましょう。
よくある質問
AIが自律的に行動するためには何が必要ですか?
AIは、信頼できるデータ、関連するビジネスコンテキスト、明確な権限、説明可能な推論、そして追跡可能な意思決定を必要とし、より自律的に行動するためにはこれらが不可欠です。 組織はまた、エージェントが独立して進行できる場合と人間の承認が必要な場合を決定するための明確な境界とエスカレーションルールを必要とします。
組織はどのようにしてAIの自律性を安全に導入できるのでしょうか?
組織は段階的にAIの自律性を導入することができます。 エージェントは、最初に行動を推奨し、人間の承認のために行動を準備し、最終的には定義されたワークフロー、取引制限、信頼度の閾値、または例外ルールの範囲内で独立して行動することができます。 この段階的アプローチは、エージェントがどこで信頼性高く機能し、どこでより強力なデータやコントロールが必要かについて、チームに証拠を提供します。
なぜマスターデータ管理が自律型AIエージェントにとって重要なのですか?
マスターデータ管理は、AIエージェントが信頼できる意思決定を行うために必要な正確で管理された接続された企業データを提供します。 また、製品、顧客、サプライヤー、場所、資産データなどのドメイン全体で、共有された定義、関係、所有権、およびビジネスルールを確立します。 これらの機能は、組織がエージェントの行動を理解し、説明し、管理するのに役立ちます。
