安全なアクション：AIに「ノー」と言う力が必要な理由

エレベーターピッチ

• すべてのエンタープライズはアクションを取るAIを求めています。しかしそれを任せるほど信頼しているものはほぼありません。能力と導入のギャップは広がっています。その信頼の問題はROIの問題です。
• 購買の会話は「あなたのAIはXができますか？」から「やって欲しくないときにXをしないとどう分かりますか？」に変わりました。CISO、CTO、エンジニアリングVPは、エージェンティックAIの導入前に4つの質問をしています。
• DevRevのComputerはこれらの質問を設計制約として構築されました——後付けではなく。「安全なアクション」が組み込まれたAIが、エンタープライズがコントロールを失わずに自動化を解き放つ方法です。

AIのアクション層は速く到着しました…速すぎました。安全層の前に。そしてそれはうまくいっていません。

過去18ヶ月で、AIエージェント構築の障壁は崩壊しました。あらゆるところでチームが実システムに触れるエージェントを立ち上げています——CRMレコードの更新、サポートチケットの解決、顧客アカウントの変更、コードのデプロイ。能力は爆発しています。しかしガバナンスは追いついていません。

しかし制御のない能力は——ただのリスクです。ピカピカのインターフェースを持ったリスク。

いくつかの非常に公になった失敗が購買の会話をリセットしました。コードの全消去から、本番データを上書きする誤設定されたエージェント、アクション中に止められないAIアシスタントまで...これらは仮定の話ではありません。

購買委員会は対応しました。すべてのエージェンティックAIのピッチはCISO、調達、法務を通ります。技術を信じていないからではなく——「信頼して良いのか？」に対して良い答えを出した人がまだいないからです。

4つの（非常に）大きな質問。ほとんどのAIが答えられない。

エンタープライズの購買委員会でエージェンティックAIに期待と多くの疑いを持って向き合っているなら、これらの質問をすべきです：

1. どうやって止めるか？承認を求められるか？実際の損害が出る前に、私の承認なしにAIがアクションを取ることを止められるか？
2. どうやってスコープを制限するか？このAIが触れられるものと触れられないものを、フィールドレベルまで正確に制御できるか？
3. どうやって監査するか？何かがうまくいかないとき——そして何かは必ずうまくいかない、それが人生——正確に何が起きたか、ステップバイステップで見られるか？
4. どうやって元に戻すか？AIが間違いを犯したとき、あるいはヒューマンエラーで何かが漏れたとき、3日間のリカバリ作業なしにクリーンに元に戻せるか？

これらは不合理な質問ではありません。システムアクセスを持つ人間の従業員に期待するのと同じ制御です。

しかしほとんどのAIはこのように動作しません。ほとんどのAIはブラックボックスで動作します。聞かずにアクションを取ります。そして物事が横道にそれたとき…あるいはもっと悪い状況で、クリーンな復帰パスを提供しません。

AI界隈であまりにも多くの人が信頼と安全を退屈だと思っています。もっともっと、速く速くに取り憑かれています。私たちは違います。だから私たちはよりソフトに働くことを信じています。よりハードにではなく。

よりソフトに、そしてより安全に

エージェンティックAIに関して完全に、絶対に譲れないものの短いが非常に（非常に）重要なリストです：

• 意思決定ポイントでの人間の監視——すべてのアクションではなく、重要なものに。あなたのAIはどのアクションに人間のうなずきが必要か知っているべきです。
• 粒度の細かい権限認識——あなたのAIは、代行している人間と同じアクセス制御を尊重すべきです。あなたがそのフィールドを編集できないなら、あなたのAIもできない。
• 設定可能な境界——組み込みの安全レールと、組織のポリシーに基づくカスタム定義の能力の両方。
• 完全な透明性——すべてのアクションが可視、再生可能、監査可能。ダッシュボードに埋もれたログファイルではなく。何が起き、なぜ起きたかを示す明確なセッションリプレイ。
• クリーンな可逆性——何かがうまくいかないとき、単一の「元に戻す」。血と汗と涙のロールバック計画ではなく。元に戻すボタン。

これらすべてにチェックが入らないなら、信頼してください、先に進む方がずっと安全です。

Computerとの出会い：安全性と力の両立

DevRevのComputerはこれらの制約を基盤に組み込んで設計されました——後付けとしてボルトオンされたのではなく。実際、「安全なアクション」はComputerのコアピラーの1つであり、それをエンタープライズスケールで実際にデプロイできるAIにするルールとメカニクスのセットです。

「安全なアクション」を分解すると：

1. アクション前の人間の承認

Computerは許可を仮定しません。重要なアクション——顧客レコードの更新、チケットのエスカレーション、商談の変更——では、一時停止し、聞きます。人間がレビューし、承認するか却下します。AIは承認時のみ進行します。

高インパクトな決定には「ヒューマン・イン・ザ・ループ」の承認が必要。簡単です。

2. フィールドレベルの権限認識

Computerは一緒に働いている人と同じ権限モデルを尊重します。あなたのロールに請求情報を編集するアクセスがなければ、Computerもそれに触りません——たとえアクションが論理的に完全であっても。

これは単なるアクセス制御ではありません。認識です。Computerは自分の限界を知っています。あなたの限界を継承しているからです。

3. 組み込みのカスタマイズ可能なガードレール

すべてのComputer導入には、一般的な障害モードを防ぐガードレールが付属しています——データポリシーに違反するアクション、スコープを超えるアクション、ビジネスルールと矛盾するアクション。しかしすべての組織は異なるので。

だからガードレールはカスタマイズ可能です：あなたのポリシー、コンプライアンス要件、リスク許容度に基づいて独自の境界を定義できます。

4. デプロイ前テストプレイグラウンド

Computerがあなたの環境で稼働する前に、テストできます。プレイグラウンド——サンドボックスとも呼ばれます——で実際のシナリオをシミュレートし、動作を検証し、安全な環境で期待値を確認できます。

もう指を交差させてデモの動作が本番の動作と一致することを願う必要はありません。

5. フルセッションリプレイ

Computerが取るすべてのアクションは可視化されています。フルセッションリプレイで、正確に何が起きたか、どのデータがアクセスされたか、どの決定がなされたか、なぜそうなったかが表示されます。

CISOがデスクに忍び寄って「AIは何をしたの？」と聞いたとき、明確でタイムスタンプ付きの監査可能な答えがあります。

6. ワンクリック元に戻す

車の鍵をどこに置いたか忘れることがあるなら、あるいは子供の誕生日を忘れることがあるなら、はい、複雑なAIシステムでミスを犯すこともあります。でもリラックスしてください——Computerでは粒度の細かいロールバックが可能です。個々のアクションを元に戻せます。すべてをロールバックする必要はありません。

なぜこれが（とても、とても）今重要なのか

市場は速く動いています。速すぎます。Gartnerは2028年までに、エンタープライズソフトウェアの33%がエージェンティックAIを含むと推定しています——2024年の1%未満から。最初にデプロイする企業は効率、応答時間、顧客体験において優位性を複利させます。

しかし…それはデプロイメントが信頼できる場合にのみ真実です。そして信頼には上記で概説したすべてが必要です ^^^

待つことのコストは効率の損失だけではありません。競合がAIを安全に、自信を持って、スケールでデプロイするのを見ている間に、あなたの購買委員会はまだ「でも何かうまくいかなかったら？」で止まっていることです。

では、誰を信頼しますか？

私たちは仕事が火消しのように感じるのではなく、意味あるものを構築するように感じるべきだと信じています：人々がインスピレーションを感じ、ワクワクして働ける職場。

だから私たちはComputerのコアに安全なアクションを組み込んで構築しました——なぜなら本物の安全性こそが、成長し、スケールし、競合を蹴落とす方法だからです。

安全性は制限ではなく、踏み台です。チームと並んで実際に信頼して働けるAIを可能にするもの——境界内でアクションを取り、完全な可視性を持ち、何かあればクリーンに戻れるパスを持つ。

エージェンティックAIを成功裏にデプロイしたいエンタープライズと企業は、重要な人間の新規雇用を信頼するのと同じくらいそのAIを信頼する必要があります。

Computerをチームに迎えてください。最も信頼できるAIと一緒に働くことになります。

「安全なアクション」を実践で見る準備はできましたか？ デモを予約して、Computerがあなたのエンタープライズが必要とするガードレール内でどうアクションを取るかお見せします。コミットメントなし、30分だけ。信頼してください、振り返ることはないでしょう。