生成AIの利用が、企業や団体の中で急速に広がっています。
ChatGPT、Copilot、Geminiなどを使えば、文章作成、メール文案、議事録の要約、マニュアル作成、研修資料のたたき台作成など、多くの業務を効率化できます。
一方で、AIのセキュリティリスクも話題になっています。
「生成AIは危険なのか」
「無料のAIサービスは業務で使ってよいのか」
「ChatGPTやCopilotなら安全なのか」
「社内ではAIを禁止した方がよいのか」
このように考える方も多いと思います。
しかし、AIのリスクを考えるときに大切なのは、AIそのものだけを見ることではありません。
本当に重要なのは、AIをどのような業務で使うのか、どの情報を入力するのか、どのシステムと連携するのか、どこまで権限を与えるのか、という「使い方」です。
つまり、危険なのはAIそのものだけではありません。
管理されていないAI利用や、AIに与えすぎた権限、個人情報を入力してしまう運用こそが大きなリスクになります。
この記事では、AIセキュリティを考えるうえで重要な「AIそのものではなく、使い方や権限まで見る」という考え方を、小規模の法人や中小企業の実務に置き換えて解説します。
AIそのものだけを見ても安全性は判断できない
生成AIのニュースでは、よく「どのAIが高性能か」という話が出てきます。
たとえば、次のような比較です。
- ChatGPTとGeminiのどちらが便利か
- Claudeは文章作成に強いのか
- Copilotは業務利用に向いているのか
- 最新のAIサービスはどこまで使えるのか
もちろん、どのAIサービスを使うかは重要です。
法人で利用するなら、データの取り扱い、学習利用の有無、管理者機能、ログ確認、契約条件などを確認する必要があります。
しかし、AIサービスの種類だけを見ても、安全性は判断できません。
なぜなら、AIは単体で使われるとは限らないからです。
AIは、次のような仕組みと組み合わせて使われることが増えています。
- Web検索
- ファイル読み取り
- メール作成
- クラウドストレージ連携
- チャットツール
- 業務システム
- RPA
- API連携
このように、AIが外部システムや社内情報にアクセスできるようになると、リスクは大きく変わります。
単に質問に答えるだけのAIと、メールを送信できるAI、ファイルを読めるAI、業務システムを操作できるAIでは、危険性がまったく違います。
AIは外部ツールと連携するとリスクが大きくなる
AIというと、ChatGPTやGeminiのように、画面に質問を入力して回答をもらう使い方をイメージする方が多いと思います。
この使い方であれば、AIは主に文章を作成したり、質問に答えたりする存在です。
しかし、今後はAIがさまざまな外部ツールと連携する場面が増えていきます。
たとえば、次のような使い方です。
- AIがWeb検索を行う
- AIがメールの内容を確認する
- AIが共有フォルダ内の資料を探す
- AIが議事録を要約する
- AIがExcelデータを分析する
- AIが問い合わせ文面を作成する
- AIがチャットツールに投稿する
- AIが業務システムへ入力する
このように、AIが外部ツールや社内情報にアクセスできるようになると、リスクは一気に変わります。
単に質問に答えるだけのAIと、メールを送信できるAI、ファイルを読めるAI、業務システムを操作できるAIでは、危険性がまったく違います。
便利になる一方で、設定を誤ったり、AIに必要以上の権限を与えたりすると、情報漏えいや誤送信につながる可能性があります。
つまり、AIの性能だけではなく、AIに何を見せるのか、AIに何をさせるのか、どこまで自動化するのかが重要になります。
保育園や社会福祉法人で特に注意すべき理由
保育園や社会福祉法人では、一般企業以上に慎重な情報管理が求められます。
なぜなら、扱う情報に個人情報や要配慮個人情報が多く含まれるからです。
たとえば、次のような情報です。
- 利用者の氏名
- 住所
- 生年月日
- 電話番号
- 障害名
- 病名
- 服薬情報
- 支援記録
- 相談内容
- 家族構成
- 生活状況
- 園児や利用者の写真
- 事故報告
- 苦情対応記録
これらの情報をAIに入力すると、外部サービスへ情報を送信することになります。
もちろん、法人契約のAIサービスや、データ保護設定が整った環境であれば、一定の管理は可能です。
しかし、職員が個人アカウントでAIを使ったり、無料版のAIサービスに業務情報を貼り付けたりすると、法人として管理できません。
特に危険なのは、本人に悪意がないケースです。
職員は、業務を効率化したいだけかもしれません。
文章を分かりやすくしたいだけかもしれません。
家族向けの案内文を丁寧にしたいだけかもしれません。
しかし、その過程で利用者情報や内部情報をAIに入力してしまうと、情報漏えいリスクになります。
これが、いわゆるシャドーAIの問題です。
シャドーAIは「AIの種類」ではなく「管理できない使い方」が問題
シャドーAIとは、法人が把握していない状態で、職員が業務にAIを使っている状態のことです。
重要なのは、特定のAIサービスだけが危険という話ではないことです。
問題は、法人が次のことを把握できない点にあります。
- 誰が使っているのか
- どのAIサービスを使っているのか
- どんな情報を入力しているのか
- 出力結果を何に使っているのか
- 外部公開しているのか
- 事故が起きたときに追跡できるのか
この状態では、どれだけ高性能で安全性の高いAIサービスを選んでも、組織全体としては安全とは言えません。
AIセキュリティで見るべきなのは、「どのAIを使うか」だけではありません。
「どの業務で、誰が、何を入力し、何を出力し、誰が確認するのか」まで含めた運用です。
AIに権限を与えるほどリスクは大きくなる
生成AIを文章作成だけに使う場合、リスクは比較的限定的です。
もちろん、個人情報を入力しないなどの注意は必要ですが、AIが勝手に何かを実行するわけではありません。
しかし、AIに次のような権限を与えると、リスクは大きくなります。
- メールを送信する
- ファイルを読み取る
- ファイルを編集する
- チャットに投稿する
- 予定表を変更する
- 顧客情報を検索する
- 業務システムへ入力する
- 外部サービスへデータを送る
- Web上で操作を実行する
このようなAIは、単なる相談相手ではなく、業務を実行する存在になります。
今後、AIエージェントと呼ばれる仕組みが広がると、このような使い方はさらに増えていくはずです。
ここで重要なのは、人間の確認をどこに残すかです。
AIが文章を作るだけなら、職員が確認して修正できます。
しかし、AIが自動でメールを送信したり、ファイルを移動したり、システムに入力したりする場合、誤操作の影響は大きくなります。
そのため、保育園、社会福祉法人、中小企業では、AIに実行権限を与える場合、必ず承認フローを設けるべきです。
「AIに見せる情報」を制限する
AIセキュリティで最初に考えるべきなのは、AIに何を見せるかです。
人間でも、担当業務に関係のない個人情報や機密情報を自由に閲覧できる状態は危険です。
AIも同じです。
むしろAIは、大量の情報を短時間で読み取り、要約し、組み合わせることができます。
そのため、AIに広すぎるアクセス権を与えると、意図しない情報の組み合わせや漏えいが起こる可能性があります。
たとえば、次のような状態は危険です。
- AIが共有フォルダ全体を読める
- AIが利用者記録を検索できる
- AIが人事フォルダにアクセスできる
- AIが全職員のメールを読める
- AIが機密資料を含むチャット履歴を参照できる
- AIが退職者のアカウント権限を引き継いでいる
AIを導入する前に、まず共有フォルダやクラウドストレージの権限を見直す必要があります。
人間に見せてはいけない情報は、AIにも見せてはいけません。
「AIにさせる操作」を制限する
次に考えるべきなのは、AIに何をさせるかです。
AIに許可する操作は、段階的に分けて考えると分かりやすくなります。
レベル1：文章作成だけ
AIに文章案や見出し案を作らせる使い方です。
比較的リスクは低いですが、入力情報に注意が必要です。
レベル2：要約・分析
AIに資料や議事録を要約させる使い方です。
個人情報や機密情報が含まれる場合は注意が必要です。
レベル3：下書き作成
AIにメールや通知文の下書きを作らせる使い方です。
人間が確認してから送信するなら、管理しやすい使い方です。
レベル4：外部送信の補助
AIがメール送信やチャット投稿を補助する使い方です。
必ず人間の承認を挟むべきです。
レベル5：自動実行
AIが人間の確認なしで、メール送信、ファイル操作、システム入力などを行う使い方です。
導入初期の中小企業や保育園、社会福祉法人では、原則避けた方がよい領域です。
このように、AI利用をレベル分けすると、法人内ルールを作りやすくなります。
AIに入力してはいけない情報
AI利用ルールに「入力禁止情報」を具体的に書くことが重要です。
単に「個人情報を入力しない」と書くだけでは、現場で判断に迷います。
たとえば、次の情報はAIに入力しないルールにすることをおすすめします。
- 利用者、児童、家族、職員の氏名
- 住所、電話番号、生年月日
- 顔写真、音声、動画
- 障害名、病名、服薬情報
- 支援記録、ケース記録
- 相談内容、苦情内容
- 事故報告書
- 虐待防止に関する記録
- 職員の人事評価
- 懲戒や労務トラブルに関する情報
- 法人の未公開経営情報
- 契約書や内部資料の全文
また、氏名を消しただけでは安全とは限りません。
地域、年齢、家族構成、利用サービス、具体的な出来事などが組み合わさると、本人が推測できる可能性があります。
そのため、「名前を消せばよい」ではなく、「個人が推測できる内容は入力しない」という考え方が必要です。
AIの出力をそのまま使わない
AIの回答は、とても自然な文章に見えます。
しかし、内容が正しいとは限りません。
特に、次の分野では注意が必要です。
- 法律
- 労務
- 会計
- 福祉制度
- 医療
- 障害福祉
- 個人情報保護
- 情報セキュリティ
- 行政手続き
AIは、間違った内容でも自信ありげに回答することがあります。（ハルシネーション）
そのため、AIの出力は「完成品」ではなく「下書き」として扱うべきです。
外部に出す文章や、利用者・家族・行政に関係する文書は、必ず担当者が確認する必要があります。
AIに任せるのは文章のたたき台まで。
最終責任は法人と人間が負う。
この原則を明確にしておくことが重要です。
AIセキュリティは従来のセキュリティ対策とつながっている
AIセキュリティというと、新しい特別な対策が必要に見えるかもしれません。
もちろん、AI特有のリスクはあります。
しかし、基本は従来のセキュリティ対策と大きく変わりません。
重要なのは、次のような基本対策です。
- アカウント管理
- 多要素認証
- アクセス権限の最小化
- 退職者アカウントの削除
- 共有フォルダ権限の見直し
- ログ確認
- 職員教育
- 情報持ち出しルール
- バックアップ
- インシデント時の報告ルート
AI時代になっても、基本対策の重要性は変わりません。
むしろAIによって、基本対策の不備がより大きなリスクになります。
たとえば、共有フォルダの権限が広すぎる状態でAIを導入すると、AIが本来不要な情報まで参照してしまう可能性があります。
退職者アカウントが残っている状態でAI連携を行うと、不要な権限が残り続けるかもしれません。
多要素認証がない環境では、AIを使ったフィッシング攻撃でアカウントを奪われる危険性が高まります。
AI対策は、まず足元のセキュリティ対策を見直すところから始まります。
中小企業・小規模法人が最初にやるべきこと
AIセキュリティ対策として、いきなり高度なシステムを導入する必要はありません。
まずは、次の5つから始めるのが現実的です。
1. AI利用ルールを作る
使ってよいAIサービス、使ってよい業務、入力禁止情報、確認方法を決めます。
2. AI利用を申告制にする
業務でAIを使う場合は、どのサービスを何に使うのかを申告してもらいます。
これだけでもシャドーAI対策になります。
3. 個人情報を入力しないルールを徹底する
特に利用者情報、支援記録、相談内容、写真、事故報告、職員情報は入力禁止にします。
4. AIの出力は人間が確認する
外部に出す文章、制度や法律に関わる内容、利用者・家族に関係する文書は必ず人間が確認します。
5. 共有フォルダとアカウント権限を見直す
AI導入前に、誰がどの情報にアクセスできるのかを整理します。
AIに見せてはいけない情報は、人間の権限設定から見直す必要があります。
職員向けチェックリスト
生成AIを使う前に、次の項目を確認すると安全です。
- 利用してよいAIサービスか
- 業務で使ってよい用途か
- 利用者、児童、家族、職員の名前が入っていないか
- 住所、電話番号、生年月日が入っていないか
- 障害名、病名、服薬情報が入っていないか
- 支援記録や相談内容をそのまま入力していないか
- 写真、音声、動画をアップロードしていないか
- 法人の未公開情報が入っていないか
- AIの回答を人間が確認する予定になっているか
- 外部に出す文書は承認を受けるか
このようなチェックリストがあるだけでも、職員が立ち止まって考えるきっかけになります。
まとめ：AIセキュリティは「どのAIを使うか」より「どう使うか」が重要
AIセキュリティを考えるとき、つい「どのAIサービスなら安全か」という話になりがちです。
もちろん、AIサービスの選定は重要です。
しかし、それだけでは十分ではありません。
本当に重要なのは、AIをどの業務で使うのか、何を入力するのか、どの情報にアクセスさせるのか、どこまで実行権限を与えるのか、誰が確認するのかという運用設計です。
危険なのはAIそのものではなく、次のようなものです。
- 権限を与えすぎたAI
- 管理されていないAI利用、つまりシャドーAI
- 人間の確認なしに実行するAI
- 個人情報や機密情報を入力してしまう運用
いきなり高度なAIガバナンスを作る必要はありません。
まずは、次の3つから始めるのが現実的です。
- 入力してはいけない情報を決める
- 使ってよい業務を限定する
- AIの出力は必ず人間が確認する
AIは、正しく使えば職員の負担を減らし、業務効率化に役立つ強力な道具です。
しかし、ルールなしに使えば、情報漏えいや誤情報、責任所在の不明確化につながります。
これからのAIセキュリティでは、「どのAIを使うか」だけでなく、「どう使うか」を見ることが大切です。
