その他 – とれまがニュース

[レポート公開] そのAIが事業を止める。実攻撃で判明した内製AIの脆弱性 5選

• ツイート
• 
• 

株式会社MONO BRAIN

セキュリティエンジニアが実証。RAGやAIエージェントに共通する「致命的な設計ミス」と防衛策を特定。


AIセキュリティプラットフォーム「MODEL SAFE」を開発する株式会社MONO BRAIN（本社：東京都渋谷区、代表取締役：加藤 真規）は、企業が実運用するAIアプリケーションの安全性を検証した最新レポート「実攻撃で判明した、内製AIの脆弱性 5選（2026年4月版）」を公開しました。本レポートは、本番環境での3,000件超の攻撃検知知見に基づき、事業継続を揺るがす「Critical」判定の脆弱性と、その具体的な防衛策を詳説するものです。
[画像1: https://prcdn.freetls.fastly.net/release_image/118521/66/118521-66-7b5b23d3a59baab3b11b365c6fb48e44-3900x2194.jpg?width=536&quality=85%2C75&format=jpeg&auto=webp&fit=bounds&bg-color=fff ]


▼ 実証レポートをダウンロード（無料）
https://modelsafe.jp/download/ai_vulnerability_report_202604


■ 背景：AIの性能問題ではなく、設計と運用の「不備」がセキュリティリスクに
多くの企業がAIの内製化を進める中、セキュリティ設計の不備が「見えない撤退リスク」として顕在化しています。本実証テストでは、Google製のオープンソースLLM「Gemma 3:4B」を使用しました。高度な専用モデルではなく、一般的な業務AIとして広く利用されているクラスであるにもかかわらず、設計上の盲点を突くことで、機密情報の漏洩やデータベースの破壊が容易に成立することが明らかになりました。

■ 実証された5つの脆弱性
本レポートでは、一般的な業務AI（Gemma 3:4B）を用いた標準的な構成において、以下の致命的な欠陥を暴いています。

Prompt Injection（機密漏洩）:
役割変更指示により、秘匿された内部コストや顧客戦略が平文で流出。

Tool Privilege Abuse（データ破壊）:
認証不備と権限設計の甘さを突き、顧客データベースを外部から全件削除。

Indirect Prompt Injection（ガードレール突破）:
取引先メール等を介したデータ汚染により、AIに偽の個人情報を生成・出力させる。

Supply Chain Vulnerability（判断の乗っ取り）:
精度評価を完璧にすり抜け、特定の申請者のみ信用スコアを不正操作するバックドア。

Data Poisoning（フィルタ無効化）:
わずか1件の偽フィードバックで、システム全体の判断ロジック（スパム判定等）を反転。

[画像2: https://prcdn.freetls.fastly.net/release_image/118521/66/118521-66-bda03060590d34e45e67c211f6b3f85b-3900x2194.jpg?width=536&quality=85%2C75&format=jpeg&auto=webp&fit=bounds&bg-color=fff ]


■ 改善ロードマップ：ガバナンス基盤の構築へ
実証結果に基づき、組織が直ちに取り組むべき改善ステップを提示しています。
[表: https://prtimes.jp/data/corp/118521/table/66_1_3f283dc8366ab8590b5713007edd6d8d.jpg?v=202604271215 ]

■ AIセキュリティプラットフォーム「MODEL SAFE」について
「MODEL SAFE」は、プロンプトインジェクションやサプライチェーン攻撃から企業のAIシステムを保護する統合プラットフォームです。単なる防御に留まらず、本番環境での膨大な検知実績に基づいたモニタリングとポリシー違反検知を提供し、将来の規制対応や社内ガバナンスを支える強固な基盤（ガバナンス基盤）を提供します。
【株式会社MONO BRAIN 会社概要】
代表者：代表取締役 加藤 真規
事業内容：AIセキュリティ・ガバナンスプラットフォーム「MODEL SAFE」の開発・運営
AIガバナンス協会 正会員

▼ お問い合わせ
https://modelsafe.jp/contact
▼ MODEL SAFE サービス紹介
https://modelsafe.jp/

プレスリリース提供：PR TIMES

記事提供：PRTimes