AIエージェントが「危険」と言われる理由
OpenClawのようなAIエージェントは、Gmail・Slack・Google Sheetsなどの業務ツールに直接接続し、人間の介在なしで自律的に操作します。これが便利な一方で、「誤動作したら大事故」というリスクもあります。
特に法人では、以下のような不安が導入のハードルになっています。
- 誤送信リスク: AIが誤った内容のメールを顧客に送ってしまう
- 情報漏洩リスク: 社外秘データを誤ってSlackに投稿してしまう
- データ破壊リスク: Google Sheetsの重要データを誤って削除・上書きしてしまう
- 不透明性: 「AIが何をしたか」が分からず、問題時の原因究明ができない
実際、海外では「AIエージェントが顧客データを誤削除」「誤送信で取引先との信頼関係が崩壊」といった事例が報告されています。ただし、これらは「設計が甘い」ことが原因であり、適切な設計をすれば防げます。
典型的な事故パターン
OpenClaw導入企業で実際に起きた事故パターンを紹介します。これらは全て「設計ミス」が原因です。
誤送信事故
事例: 営業問い合わせに自動返信する設計で、「テンプレートの宛名が間違っていた」ため、顧客Aに「顧客B様」と送ってしまった。
原因: AIが「送信ボタンを押せる」権限を持っていた。テスト環境でのチェックが不十分だった。
対策:
- Gmailは「下書きまで」に権限制限（送信は人間が確認）
- テスト環境でダミーデータ100件を流して動作確認
- 送信前に人間が承認するフローを組み込む
権限過大による情報漏洩
事例: 「社内FAQボット」として全Slackチャンネルにアクセス権を与えたところ、AIが「#役員専用」チャンネルの内容を「#全社」に誤投稿してしまった。
原因: AIに「全チャンネル閲覧・投稿」の権限を与えていた。投稿先チャンネルの制限がなかった。
対策:
- Slackは「#質問」「#営業」など特定チャンネルのみに制限
- 「#役員専用」「#人事」など機密チャンネルはアクセス禁止
- 投稿前に「投稿先チャンネル名」を人間が確認する仕組み
ログ未取得による原因不明
事例: ある日突然、Google Sheetsの売上データが消えた。AIのログを確認しようとしたが、「何をしたか」を記録していなかったため、原因が分からなかった。
原因: AIの全操作を記録する仕組みがなかった。バックアップもなかった。
対策:
- 全操作を記録（日時・操作内容・対象データ・結果）
- ログは最低90日保存（推奨180日以上）
- 毎日自動バックアップ（Google Sheetsのコピー、メールのアーカイブ）
- 異常検知（「1日に1,000行以上削除したらアラート」等）
安全に使うための設計
上記の事故パターンは、以下の設計原則を守れば防げます。法人でのOpenClaw導入では必須の考え方です。
下書き運用（送信しない設計）
最も効果的な事故防止策は、「AIには送信させない」ことです。
- Gmailは「下書きまで」作成し、送信は人間が確認してから
- Slackは「投稿前にプレビュー」→人間が承認ボタンを押す
- Google Sheetsは「別シートに結果を出力」→人間が確認してから本シートに反映
この設計なら、AIが誤った内容を作成しても、人間が止められます。「完全自動化」より「半自動化（最後は人間）」の方が安全です。
承認フローの組み込み
「下書き運用」を自動化する仕組みとして、承認フローを組み込みます。
- AIが下書きを作成
- Slackで担当者に通知（「営業メールの返信を下書きしました」）
- 担当者がGmailで確認→「承認」または「却下」ボタン
- 承認された場合のみ送信
この仕組みなら、人間が全件チェックする手間はそのままですが、「下書き作成」はAIが自動化してくれるため、時間短縮になります。
- 承認者は「部長以上」など役職で制限可能
- 承認期限（24時間以内に承認しないと自動却下）を設定可能
- 承認ログを全て記録（誰が・いつ・何を承認したか）
監査ログの設計
AIの全操作を記録し、定期的に人間が確認する仕組みを作ります。
| 項目 | 記録内容 |
|---|---|
| 日時 | 2026-02-16 14:32:15 |
| 操作 | Gmail下書き作成 |
| 対象 | customer@example.com |
| 内容 | 「お問い合わせありがとうございます...」 |
| 結果 | 成功（下書きID: 18f3a2b1） |
ログは以下の観点で定期確認します。
- 週次: 全ログを人間が目視確認（異常な操作がないか）
- 月次: 統計レポート（送信数・エラー率・承認率など）
- 異常検知: 「1日に100通以上送信」「同じ宛先に10通以上」などでアラート
ログ保存期間は最低90日、推奨180日以上です。法的トラブル時の証拠にもなります。
オンプレミスが強い理由
OpenClawを法人で安全に使うには、オンプレミス（自社サーバー・VPS）での運用が強く推奨されます。
| 項目 | クラウド型（SimpleClaw等） | オンプレミス（自社管理） |
|---|---|---|
| データ保護 | 外部クラウドに送信される | 自社サーバー内で完結 |
| ログ管理 | サービス提供者が管理 | 自社で完全管理 |
| カスタマイズ | 提供機能のみ | 自社業務に合わせて自由に |
| コンプライアンス | 利用規約に依存 | 自社ポリシーで完全制御 |
| 初期費用 | 安い（無料〜数万円） | 高い（30〜80万円） |
| 月額費用 | 高い（数万〜数十万円） | 安い（VPS 3,000円程度） |
特に、顧客情報・社内メールを扱う業務では、オンプレミスが必須です。クラウド型では、データが外部サーバーに送信されるため、個人情報保護法・社内規定に抵触するリスクがあります。
オンプレミス運用の追加メリット:
- バックアップを自社で完全管理（Google Drive・外付けHDD等）
- ログ保存期間を無制限に設定可能（クラウド型は90日制限が多い）
- API課金の最適化（Claude APIを直接契約し、中間マージンなし）
- サービス終了リスクなし（クラウド型は提供者都合で終了する可能性）