[画像1: https://prcdn.freetls.fastly.net/release_image/84506/14/84506-14-dc1807231847154da5878c315b3a871e-1200x630.png?width=536&quality=85%2C75&format=jpeg&auto=webp&fit=bounds&bg-color=fff ]
株式会社リチェルカセキュリティ（代表取締役：木村 廉）は、生成AIを活用した脆弱性診断プロジェクトを実施し、2025年10月中の1週間にわたり脆弱性13件を発見、報告しました。
最新のAI技術をセキュリティ診断サービスに統合することで、お客様は個別にツールを導入・習熟する必要なく、診断サービスを通じてAI活用のメリットを受けられます。本プロジェクトを通じて、AIによる脆弱性検出の可能性と限界の両方を分析し、人間の専門家と組み合わせたハイブリッドな診断体制を構築しています。
発見した脆弱性
今回のプロジェクトで発見した脆弱性の一部をご紹介します。これらの脆弱性は、実環境での再現性を確認した上で、製品開発元へ責任ある開示を行っています。
なお、今回の総計には開発元での修正対応中の脆弱性や軽微な脆弱性も含まれていますが、本リリースでは影響度の高い代表的な事例のみを掲載しています。 今回発見した脆弱性の中には、他社が公開しているAI診断ツールの脆弱性リサーチプロジェクトが同一製品を対象としていたにもかかわらず検出されなかった脆弱性も含まれています。これは、弊社が「人間の専門家によるコンテキスト理解」と「AIによる効率的な脆弱性探索」の適切な組み合わせを運用方針として確立していることの証左といえます。
以下に、修正対応が完了し、CVE（共通脆弱性識別子）が複数登録された事例として、動画配信用OSS「ClipBucket V5」から発見した脆弱性をご紹介します。
[表: https://prtimes.jp/data/corp/84506/table/14_1_db74329de63c8fc884c302ff95fd0238.jpg?v=202512050746 ]
この事例での大きな成果は、ログイン後にしか見つからない脆弱性を多数発見できたことです。
通常のDASTやSASTといったセキュリティ検査ツールは、ログインの前後でシステムの内部状態がどう変わるかをうまく認識できません。そのため、認証後の深い部分に潜む欠陥を見逃してしまいがちです。今回はこの壁を突破するため、AIに「認証によってユーザーの権限や操作可能な範囲がどう変化するか」という状態遷移を理解させる調整を行い、さらに人間側が「どの状態で何がバグとなるか」の判定基準を精密に設計しました。その結果、AIは認証前後の境界を正しく認識しながら検査を進め、従来の自動ツールでは到達できなかったログイン後の複雑な処理に潜む欠陥を確実に発見することができました。
他にもチャットアプリ、メディア管理系OSS、そしてハイパーバイザなど他の製品でも複数の脆弱性をすでに発見し、現在開発元と調整を進めています。
脆弱性診断をご検討中の方へ：AI診断ツールとサービスの違い
AI診断ツールを自社で導入する場合、以下のような課題に直面します。
- AI診断ツールを使いこなすには、プロンプト設計などの専門スキルを持つ人材の育成が必要
- AI診断結果には誤検知・過検知や情報提供のみのケースが含まれるため、精査・検証にセキュリティエンジニアの工数を要する
- 自社システムへの影響評価、修正優先度の判断、経営層への報告など、ビジネスコンテキストに基づいた判断が求められる
弊社では生成AIを脆弱性診断サービスに組み込んでいます。お客様はAI導入コストを負担することなく、以下のメリットを受けられます。
- 導入不要ですぐに利用可能：新たなツール調達、社内稟議プロセス、システム統合作業は不要です。弊社では、既存の診断サービス契約の枠組みで、次回診断から即座にAI技術を活用した診断を提供します。これによりお客様は、AI診断ツールの使い方やプロンプト設計スキルを社内で育成する必要なく、弊社が蓄積した運用ノウハウにより導入初日から効果を実感いただけます。
- 専門家による品質保証：AIによる診断結果には誤検知や過検知が含まれる可能性がありますが、弊社では必ずセキュリティ専門家による段階的なレビューを経てお客様に報告いたします。誤検知の除去、実際の悪用可能性の検証、ビジネスインパクト評価、修正の優先順位付けなど、実務で必要な判断をすべて提供します。
- 継続的な技術進化：最新のAI技術や脆弱性検出手法を弊社が継続的にサービスへ統合します。お客様側で技術動向を追い続ける投資は不要です。
このように、ツールベンダーが「AI技術」を提供する一方、弊社は「AIを統合したサービス価値」を提供します。お客様は限られたセキュリティ予算と人材を、より重要な課題に集中していただけます。
セキュリティエンジニア・研究者の方へ：AI脆弱性検出の現状と課題
本プロジェクトを通じて、AI脆弱性検出の得意な領域と課題のある領域を評価しました。
■ 高精度な検出が可能な領域
・Webアプリケーション脆弱性：SQLインジェクション、XSS、SSRF、認可の不備等、高レイヤのWebアプリケーション脆弱性では高い検出精度を確認しました。HTTPリクエスト/レスポンスのパターン解析が有効であり、AIの強みを活かせます。
・アンチパターン実装の検出：ハードコードされた認証情報、安全でない暗号化アルゴリズム（MD5/SHA-1等）、不適切なエラーハンドリング等、コードレビューで見落としがちなパターンを機械的に指摘できます。
・大規模コードベースの高速スキャン：数十万行規模の大規模コードベースでも、AIは一貫した品質で短時間にスキャンでき、マイクロサービスアーキテクチャやレガシーシステムなど人手での全量レビューが現実的でないケースで有効です。
■ 人間の専門性が必要な領域
・低レイヤのメモリ安全性：C/C++におけるバッファオーバーフロー、Use-After-Free等の検出は困難です。これは、メモリ状態の正確な追跡や実行時構造の解析が複雑であることに起因します。従来型の解析ツールとの併用が推奨されます。
・ビジネスロジック脆弱性：複数のコンポーネントが連動するシステムにおいて、単一の機能では問題が顕在化せず、システム全体として初めて脆弱性となるケースでは、AIによる検出が困難です。たとえば、ECサイトで注文ID「order=12345」を「order=12346」に変更すると他ユーザーの注文情報が閲覧できるIDOR脆弱性では、各APIエンドポイントは正常動作しHTTPステータス200を返すため、AIには「どこが異常か」の判断が困難です。ショッピングカートで数量「-1000」を入力すると価格が逆転するような問題、支払いステップをスキップして予約を確定させるワークフロー順序の破壊なども、「正常に動作するコード」が「ビジネス的に不適切な動作」をする典型例であり、ビジネスコンテキストの理解を要します。
この課題に対して、弊社ではセキュリティ専門家が事前にシステム仕様や要件定義を読み込み、「何が正常な動作で何が脆弱性となり得るか」の判断基準をAIに与える運用を行っています。このプロセスは「グラウンディング」と呼ばれ、AIエージェント研究において精度向上の鍵とされています。例えば、専門家が仕様を理解した上で「このシステムのユーザー認証機能において、ロールAはリソースXにアクセスできないはずだが、実装は正しいか」のように診断スコープと期待動作を明確化します。これにより、AIは効率的に探索を行い、人間の専門家は検証と判定に注力するという役割分担を実現しています。
今後の展望
AIによる脆弱性検出技術は急速に進化していますが、弊社では過度な期待ではなく、技術の本質的な特性を理解した上でサービスに組み込んでいます。
動的検証の完全自動化は実用段階に入りました。弊社ではDockerコンテナを起動し、サンドボックス環境でPoCコードを実行して悪用可能性を検証するパイプラインを運用しています。これにより理論上の脆弱性と実際に悪用可能な脆弱性を自動的に区別でき、誤検知・過検知を大幅に削減できます。
ビジネスロジック理解については、AIがコードベースやAPI仕様から一定の構造を推論できるようになりましたが、「正常な仕様か脆弱性か」を見分けるという根本的な課題が残ります。管理者ロールが全ユーザーのデータにアクセスできる実装が「要件定義で意図された管理機能」なのか「権限昇格の脆弱性」なのかの判断は、要件定義書や運用ポリシーの理解が必要です。このため、弊社ではAIによる検出結果を必ずセキュリティ専門家がレビューする体制を整えています。
弊社ではこれらの技術特性を正確に把握し、AIの強みを活かせる領域に適用しつつ、人間の専門性が必要な領域では従来の診断手法をを組み合わせています。今後も技術進化を継続的に追跡し、実用段階に達した技術から順次サービスへ統合して参ります。
セキュリティとプライバシーへの配慮
弊社は生成AIを活用した診断でも、お客様の機密情報保護を徹底しています。 生成AIの利用にあたっては、ChatGPT・Claudeのエンタープライズプランを使用しています。このプランでは、お客様のコードやシステム情報がAIの学習データに利用されることはなく、知的財産や機密情報の漏洩リスクを排除しています。 また、システム要件やセキュリティポリシー上、生成AIの利用に制約がある場合でも診断サービスの提供は可能です。弊社では従来の診断手法も保持しており、お客様の組織要件に応じた診断方法をご提案いたします。
まとめ
生成AIの登場により脆弱性検出技術は急速に進化しています。本プロジェクトを通じて、弊社はAIの強み（大規模コード高速スキャン、アンチパターン網羅的検出）と人間の専門性が必要な領域（低レイヤのメモリ安全性、ビジネスロジック判断）を正確に見極めました。この知見により、AIを適切に診断プロセスに組み込み、従来手法と組み合わせた高度な診断サービスを実現しています。 弊社ではこれらの知見をもとにAIと人間の専門家を最適に組み合わせたハイブリッド診断体制を構築しています。お客様はツールの個別導入や専門人材の育成なしに、診断サービスを通じてAI活用の効果をご利用いただけます。 今回発見した脆弱性13件はすべて製品開発元へ責任ある開示を行っています。弊社は今後も最新技術を活用し、より高度なセキュリティ診断サービスを提供して参ります。
会社情報
リチェルカセキュリティは、オフェンシブセキュリティのプロフェッショナルチームです。防衛セクターを含む政府機関、フォーチュン500企業、国内外のクライアントに対するサービス提供実績を有します。当社には、ゼロデイ脆弱性の発見者、サイバーセキュリティ関連書籍の著者、海外トップスクールや大手研究機関での研究経験を有するセキュリティリサーチャー、DEFCON CTFやGoogle CTFのファイナリストらが所属しています。
[画像2: https://prcdn.freetls.fastly.net/release_image/84506/14/84506-14-4aa502150d069f15e800c65a8857f418-501x251.png?width=536&quality=85%2C75&format=jpeg&auto=webp&fit=bounds&bg-color=fff ]
会社名: 株式会社リチェルカセキュリティ
所在地：〒101-0061 東京都千代田区神田三崎町3丁目2番14号GLORKS水道橋5階
設立日：2019年12月4日
代表取締役社長：木村 廉
URL：https://ricsec.co.jp/
Blog：https://ricercasecurity.blogspot.com/
