今回の承認は、次回の許可にもなるのか

AIが用意した請求書の処理案を担当者が承認したとする。 翌月、同じ取引先から請求書が届いても、前回の承認だけで処理を続けてよいとは限らない。 金額が変わった、振込先が変更された、前回だけの例外を認めた、といった違いがあり得るからだ。

エージェントに仕事を任せる製品は、この問題の一部を扱っている。 OpenAIのWorkspace Agentsの発表では、組織が道具とデータへのアクセスを設定し、必要な操作に承認を求める仕組みが説明されている。 ただし、一回の承認を別の仕事でも使える業務ルールへ変換する工程まで、この説明から確認できるわけではない。OpenAIの発表

本稿で検討するのは、その間をどう設計するかである。 人の判断を記録し、再利用できる条件を確かめ、責任者が承認したルールだけを次の処理に使う。 この設計案をHuman-Agent Collaboration Workspace（HACW）と呼ぶ。 本稿の作業仮説であり、確立した標準や、効果を実証済みの製品分類ではない。

判断記録と実行ルールの違い

判断記録は「なぜ今回は許可したか」を説明する。 実行ルールは「次の依頼がどの条件を満たせば、誰の権限で何をしてよいか」を決める。 前者を検索できても、後者が定まらなければ新しい操作の許可は決まらない。

OpenAI Agents SDKの人による承認では、道具の呼び出しを中断し、許可または拒否を受けて再開する。 これは実行中の操作を制御する仕組みである。承認の仕様 一方、AWS AgentCore Policyは、Gatewayを通る道具の利用を、エージェントのコードの外で規則に照らして判定する。Policyの仕様

両者を比較すると、人の許可を受け取る機能と、実行条件を繰り返し判定する機能を分けて設計できる。 本稿では、その間に「判断理由から規則の候補を作り、検査して承認する工程」を置くことを提案する。 これらの製品を接続すれば自動的に完成する機能ではなく、業務側で条件と責任者を定める必要がある。

請求書の承認を再利用する想定例

以下は導入実績ではなく、判断を再利用できる場合とできない場合を説明する想定例である。 ある会社が、契約に一致する月額料金の請求を処理しているとする。 担当者は今回の請求について、契約番号、請求期間、金額、登録済みの支払先を確かめて承認した。

その承認を次回へ使うために、責任者は「同じ会社なら許可する」という広い条件を避け、契約が有効で、請求額が契約額に一致し、請求期間が未処理で、支払先に変更がない場合に適用する候補ルールを作る。 記録には、参照した契約と、その版、承認者、適用期限を付ける。 請求書の文章が前回に似ているという理由だけでは、この条件を満たしたことにならない。

  • 契約と各項目が一致し、未処理の請求なら、ルールの対象候補にする。
  • 契約額を超える、支払先が変わる、同じ期間を処理済みなら、自動処理を許可しない。
  • 契約を取得できない、請求期間を読み取れない場合も、推測せず確認へ戻す。

開発者は、この通常例と例外をテストにする。 業務責任者が結果と適用範囲を確認し、ルールの版を承認してから有効にする。 実行時には対象データを再確認し、使用したルールの版と処理結果を残す。 契約が更新されたら再検査し、誤りが見つかった場合はルールを無効化できるようにする。

ここで自動化できるのは、組織がそのルールに委ねた操作までである。 照合に合格しても送金には別承認が必要という組織なら、送金の許可は省略しない。 また、テストに合格したことは、まだ含めていない例外でも正しく判定できる保証にはならない。

人とAIが引き継ぐ記録を絞る

この例で次の担当者に必要なのは、元の請求と契約、今回の照合結果、適用したルール、人に戻した理由である。 会話全文を読むことを前提にせず、対象の記録へ戻れる参照を持たせる。 複数のエージェントに分担させる場合は、担当選択と結果統合を担う役割を置く。 一つの処理で完結するなら、独立した管理用エージェントを追加することは前提にしない。

記憶から経験を取り出すこと自体には研究上の根拠がある。 Reflexionは、試行のフィードバックを文章として保存し、後の試行へ渡す方式を評価している。Reflexion論文 ただし、課題の成績改善は、企業の支払いを許可する根拠とは異なる。 記憶は過去の判断候補を探すために使い、操作の許可は承認済みルールで判定する、という分担がここでは必要になる。

再利用の効果を確かめる

試行では、まずAIに適用ルールを提案させ、人が従来どおり判断する。 両者が一致した件数だけでなく、誤って許可した候補、見落とした例外、調査に必要だった時間を記録する。 その結果から自動化する範囲を決め、運用後も抽出検査とルールの取り消しを行えるようにする。

確認回数が減っても、ルールの作成と維持にそれ以上の時間がかかるなら、この方式の利点は小さい。 前例の少ない交渉や、条件が頻繁に変わる判断では、過去の記録を参考資料として残すだけの方が扱いやすい場合もある。 HACWという提案の評価点は、保存した判断の量ではなく、検査できる条件を持つ判断について、誤適用を増やさず次の仕事へ引き継げるかにある。