AI エージェント型サービス

1. AI エージェントとは?

通常のチャット型AIが「質問に答える」「文章を作る」のに対し、AIエージェントはメール、カレンダー、文書、ブラウザ、社内システム、開発環境などと連携して「複数手順の作業を自律的に進める」サービスです。

非常に便利な反面、各種サービスへの「アクセス権限」を与えるため、社内利用では「どこまで権限を与えるか」「実行前に人間が確認するか」という管理が極めて重要になります。

2. 通常のチャット型 AI との違い

種類 主な使い方 注意点
チャット型 AI 質問する、相談する、要約する、文章を作る 回答が間違うことがある。機密情報は入力しない。
AI エージェント AI に作業手順を考えさせ、Web・ファイル・アプリを使って実行させる 権限を与えすぎると、情報漏洩、誤操作、意図しない送信・変更につながる恐れがある。

3. 主な AI エージェントサービス

サービス名 特徴・主な用途 初心者向けノウハウ・注意点
Gemini Spark
(Google)
Google Cloud上で継続稼働するエージェント。Gmailの整理、Docs生成、カレンダー管理など。 強力な連携が魅力だが、対象プランの制限があるため、まずは通常のGeminiで慣れるのが無難。
ChatGPT Agent
(OpenAI)
Web閲覧、ファイル処理、データ連携などでオンライン作業を進めるモード。 ログイン、送信、削除などの操作は必ず人間が最終確認すること。
Claude Code / Codex 開発者向けコーディングエージェント。ソースを読み、複数ファイルを修正・テストする。 社内コードや認証情報を不用意に渡さない。個人の練習用や公開コードから試す。
Manus 仮想環境で調査から資料作成、Web作成まで複数作業を進める。 自律性が高いため、何を参照しどこへ送るかを必ず確認。社外秘資料は扱わせない。
Cursor AI機能を組み込んだコードエディタ。プロジェクト全体を参照し、コード生成・修正・補完を支援する。 社内コード、秘密鍵、.env等を開いたまま使わない。Privacy Modeやコード送信範囲を確認してから試す。

4. 社内で試す場合の安全な順序

  1. まずは機密性のない題材で試す。
  2. 最初は「調べる」「表にする」「下書きを作る」だけにとどめる。
  3. メール送信、ファイル共有、購入、予約、削除、設定変更などは AI に任せない。
  4. 外部サービス連携は、必要最小限の権限だけ許可する。
  5. AI が作った結果や変更差分(diff)は、必ず人間が確認してから使う・適用する。

5. 金銭奪取が可能なセキュリティ的脅威について

5.1 この攻撃は既存の脅威カテゴリに属するが、ブラウザ設定環境の読取り可能性という前提条件の重要性は、まだ十分には認知されていない可能性がある。

Q. AI エージェントが、ユーザのブラウザの設定環境の読み出し権限があるものとする。この仮定は妥当か?

A. 強すぎる仮定である。

Q. ユーザは利便性を追求するあまり、そのような権限を AI に与える場合がありうることは妥当と言えるか?

A. 妥当である。

Q. では、その前提のもと、金融サイト、ショッピングサイト等、金銭が絡むサイトの金銭の振込を AI を誘導することにより、任意の振込を実施することは可能に思えるが、この判断は妥当か?

A. 妥当である。(著者注:ブラウザの設定環境には保存済みパスワードやログイン ID が記録されている)

Q. この攻撃手法は、妥当か?

A. 高レベルのリスク評価としては妥当である。

この件に関する話題 → ../ai-security/