AIエージェントはどこまで自動でよいか──Anthropic公式が示した「人が承認する線」
Anthropicが2026年9月2日（米国時間）に、Claudeで買い物客向け・事業者向けのAIエージェントを作るための設計図（ブループリント）を公開しました。中身以上に参考になるのが、その設計方針です。エージェントは提案までで、注文・課金・公開中の掲載の変更は自分では行わない。人が承認して初めて反映される。この「どこまで自動、どこから人」の線引きは、自社でAIを業務に入れるときにもそのまま効きます。
何が公開されたか
Anthropicが公開したのは、商品を売る現場で使うAIエージェント（人の指示を受けて複数の作業を続けて行うAI）の設計図と、その参照実装です。GitHubの「anthropics/commerce-agents」で、Apache License 2.0のもとに公開されています。
- ●買い物客向けの「ショッピングエージェント」— 商品を探す、比べる、条件に合う組み合わせを提案する、カートに入れる
- ●事業者向けの「マーチャントエージェント」— 売上の分析、在庫の把握、価格や販促の提案、販促文の下書き
- ●小売・旅行・通信・チケットの4分野で、動く例が用意されている
- ●動かす基盤は Claude API のほか、Amazon Bedrock / Microsoft Foundry / Google Cloud Vertex AI
ここまでは「よくあるAIエージェントの話」です。読む価値があるのはその先で、Anthropicはこのエージェントに何をさせないかを明示しています。公式のリポジトリには「注文を出すことも、カードに課金することも、公開中の掲載を変更することもしない」と書かれています。
事業者側のエージェントが行う変更は、すべて下書き（staged change）として積まれるだけです。担当者が承認画面で内容を見て承認したときに初めて反映されます。公式ブログの表現では「エージェントが自分から変更を提案したときは、公開される前に人が承認する。最終決定権は利用者側にあり、エージェントは店を見ている役」という位置づけです。買い物客側のエージェントも、価格と商品は実際のカタログのデータに縛られるようになっており、支払いは自社の決済画面など外部に渡す設計になっています。
業務での使いどころ
この設計図をそのまま自社に入れられる中小企業は多くありません。開発が必要な仕組みだからです。ただし「AIが提案、人が承認」という線引きの引き方は、今使っているChatGPTやClaudeにそのまま持ち込めます。ポイントは、作業の種類ではなく「取り消せるかどうか」で線を引いていることです。
- ●AIに任せてよい仕事＝間違えても取り消せるもの。下書き、集計、比較、案出し、社内向けの整理
- ●人が承認すべき仕事＝外に出たら取り消せないもの。支払い、価格の変更、公開中のページや在庫数の書き換え、顧客への配信・送信
- ●境目にあるのは「誰かに届く一歩手前」。AIには送信ボタンの手前まで作らせて、押すのは人
この考え方で自社の業務を仕分けすると、「AIに任せて大丈夫か」という漠然とした不安が、具体的な承認ポイントの一覧に変わります。まず仕分けから始めるためのプロンプトです。
あなたは業務のリスク管理を担当する立場です。 以下の業務について、AIに任せる範囲と、人が承認してから実行する範囲を仕分けしてください。 判断の基準は「取り消せるかどうか」です。 ・実行後に取り消せる、または社外に影響が出ないもの → AIに任せてよい ・社外に出る、お金が動く、公開中の情報が書き換わるもの → 人の承認を必須にする 出力は次の3つの表にしてください。 1. AIに任せてよい作業（作業名／理由） 2. 人が承認してから実行する作業（作業名／承認する人／承認時に見るべき点） 3. 判断がつかなかった作業（なぜ判断がつかないか） ・私が書いていない業務を勝手に足さないでください ・情報が足りず判断できない場合は3に入れてください --- 対象の業務ここから --- （自社の業務を箇条書きで貼り付け）
3つ目の「判断がつかなかった作業」を必ず出させるのがコツです。ここを省くと、AIが無理に二択へ振り分けてしまい、本当は社内で議論すべき作業が「任せてよい」側に紛れ込みます。
仕分けができたら、AIへの依頼文そのものに承認ラインを書き込みます。毎回口頭で注意するより確実です。
【この作業のルール】 ・あなたの成果物は下書きです。送信・公開・確定は行わないでください ・金額、日付、社名、数量は、私が渡した資料に書かれている値だけを使ってください ・資料に無い値が必要になった場合は、推測せず［要確認］と書いて止めてください ・変更を提案するときは、変更前と変更後を並べて示してください 【依頼内容】 （ここに依頼を書く）
「変更前と変更後を並べて示す」の一行を入れておくと、承認する側の確認が数秒で済みます。差分の形になっていない提案は、結局こちらが元の資料を開き直すことになり、承認の工程そのものが形骸化します。
試すときに気をつけること
これは製品ではなく、開発者向けの設計図です
公開されたのはGitHub上のブループリントと参照実装で、申し込めば使えるサービスではありません。自社のECサイトや在庫システムにつなぐには開発が必要です。「Claudeにこの機能が付いた」という話ではない点に注意してください。
示されている効果の数字は、Anthropic側の説明です
公式ブログには「カートが最大35%大きく、購入完了率が60%高い」とあり、ロイターの取材では同社のClaudeプラットフォーム製品責任者が初期パートナーで30〜35%と述べています。いずれも提供元および導入先の説明で、第三者が検証した数値としては公表されていません。日本語・日本市場で計測された値でもありません。判断材料としては割り引いて読むのが安全です。
- ●承認を挟むと必ず手間は増える。全部に承認を付けると誰も見なくなるので、取り消せない作業に絞る
- ●承認する人を決める。「誰かが見るはず」の状態は、実質的に承認が無いのと同じ
- ●AIが出した提案をそのまま承認してしまう癖が付いていないか、月に一度は承認済みの中身を抜き取りで見返す
- ●顧客情報や仕入価格を外部のAIサービスに渡す場合は、社内の情報の扱いルールを先に確認する
出典
この記事に関連するレシピ
「運用」の業務を生成AIで進める手順を、動画で確認できます。
社内で使えるようにしたい方へ
記事の内容を自社の業務に合わせて落とし込む、生成AIの研修も実施しています。 業種・職種に合わせた内容でご相談いただけます。
研修について相談する他のAIニュース
Gemini Notebookの連携アプリとは──設定場所とノートブックごとのオン/オフ、顧客資料での注意点
Gemini Notebookのチャットから外部アプリを使う「連携アプリ」のヘルプが公開されました。設定画面の場所、ノートブック単位でオフにする手順、新しく連携したアプリは全ノートブックでオンになる点を整理します。
ChatGPTの「Slides」とは──提案書をPowerPoint・Googleスライドに書き出す使い方と対象プラン
ChatGPT Spaceに加わった「Slides」は、会話やファイルからスライドを作り、チームで共同編集してPowerPoint・PDF・Googleスライドに書き出せる機能です。対象はPro・Business・Enterpriseで、Plus・無料は対象外。画面に出ない時の確認点も整理しました。
ChatGPTのiPhoneアプリでログインできない──障害の確認方法とWeb版・PCアプリでの代替策
ChatGPTのiPhoneアプリでログインや新規登録ができない問題を、OpenAIがステータスページで調査中と公表しました。自分側の問題か提供元の障害かの切り分け方と、Web版・PCアプリで仕事を止めない手順をまとめます。
Copilotの法務スキルで契約書チェック──任せられる範囲と日本語・ライセンスの注意点
MicrosoftがCopilotに20以上の法務スキルを一般提供。Wordでの契約書レビューと赤入れ、期限・義務の洗い出し、議事録化の使いどころを、法務専任のいない総務担当者の目線で整理。必要ライセンスと日本語対応の確認点も。
