株式会社Citadel AI（本社：東京都渋谷区、代表取締役：小林裕宜）は、AIシステムの課題や改善すべきポイントを、一言で簡潔に提示する自動診断サービス「Eval Insight（イーバル・インサイト）」の機能を大幅に拡充します。
これまで生成AI向けに提供していた本機能を、与信審査や画像分析など、業務で幅広く活用されている予測型AIにも展開することで、社内に点在する多様なAIシステムの全体像を、短時間で一元的に把握することが可能となります。
生成AI時代の経営を支援し、AIガバナンスを強化する画期的なサービスです。
[画像1: https://prcdn.freetls.fastly.net/release_image/75720/38/75720-38-3a7d490a1ac4394c1b0ffc5849a33de2-2386x1046.png?width=536&quality=85%2C75&format=jpeg&auto=webp&fit=bounds&bg-color=fff ]
求められる国内外の法規制や業法対応
生成AIや予測型AIなど、AIの導入は今や経営企画・研究開発・製造・営業・コンタクトセンターといった、企業のあらゆる部門に広がりつつあります。AIを積極的に活用すると同時に、そのセキュリティリスクやレピュテーションリスクから、いかに会社を守るかという「攻めと守り」のバランスが非常に重要です。AIガバナンス体制の構築に向けた検討が、大手企業を中心に急速に進んでいます。
EU AI法や、日本のAI事業者ガイドラインなど、AIシステムの品質やセキュリティに対する横断的な国内外の法規制への対応が求められます。
また、AIを与信審査や診断支援、運転制御などに組み込むことで、従来想定していなかったような法的リスクが新たに発生していないか、金融・医療・自動車など個別の業法に照らして、改めて検証を行うことも必要になります。
さらに、説明可能性、ロバスト性、バイアスといった技術的観点においても、生成AIに対する評価手法と、従来の予測型AIに対する評価手法では大きく異なり、多岐にわたる専門知識も必要となります。
安全安心な信頼できるAIを実現することは、社内のみならず、社外のお客さまやステークホルダーからも求められる、重要な経営課題の一つになっています。ただし、その実現には、多くの時間と労力を要し、すべてのシステムを人手で管理することは非常に困難です。
全体像を短時間で一元的に把握、安全安心なAIシステムを実現
Citadel AIが提供する「Citadel Lens（シタデル・レンズ）」は、生成AIから従来の予測型AIまで、企業内で稼働するあらゆるAIシステムを、自動で評価・モニタリングできる統合プラットフォームです。エンジニア向けには「テクニカルレポート」で、モデルの性能・信頼性・バイアス等を詳細に可視化。経営層・監査部門には「ガバナンスレポート」で、ISOなど各種規制への適合性を一目で確認いただくことが可能です。
Citadel AIでは、こうした詳細なテクニカルレポートやガバナンスレポートに加え、それらのレポートを当社独自のLLMアプリケーションが自動で読み解き、重要なポイントを簡潔に取りまとめて提示するサービス「Eval Insight（イーバル・インサイト）」を提供しています。
今回、そのEval Insightの機能が大幅に進化しました。
[画像2: https://prcdn.freetls.fastly.net/release_image/75720/38/75720-38-44e6c3d1c1cbd07bc281e3c2d760fe0e-2478x1194.png?width=536&quality=85%2C75&format=jpeg&auto=webp&fit=bounds&bg-color=fff ]
今回の機能拡充に伴い、生成AIアプリケーションに加え、多くの企業で従来から活用されている与信審査のような表形式モデルや、画像診断モデルなどの予測型AIにも対応できるようになりました。
Eval Insightでは、以下のようなAIシステムの脆弱性や評価結果を抽出し、分かりやすい言葉で解説します。
- 総合的なパフォーマンス評価
- データセグメントごとのモデルバイアス
- インプットデータの偏移に対するモデルのロバストネス（堅牢性）
- モデルのキャリブレーションエラー 等
Eval Insightを導入することで、生成AIから予測型AIまで、企業で導入されている多様なAIシステムの全体像を、短時間で一元的に把握し、効率的に的を絞って品質改善やモニタリングを進めることができるようになります。システム開発をされるエンジニアの方々のみならず、マネジメントの方々、あるいは管理部門・内部監査部門の方々にとっても、非常に便利なサービスです。
【関連情報】
- AI時代の防衛戦、次世代ファイアウォール提供開始
- NEDO「AIセーフティ強化に関する研究開発」の採択について
【株式会社Citadel AIについて】
Citadel AIは「信頼できるAI」の社会実装を実現する、日本発のグローバルスタートアップです。ハイリスクAIの課題と実戦で闘って来た世界のエンジニアが結集し、開発をリードしています。弊社製品は、AIのモデルやフォーマットに依存することなく、統一化されたテストとモニタリングを、汎用的に適用することが可能です。国際標準業界を代表するBSI等に採用され、グローバル市場で高い評価をいただいています。
代表取締役 小林裕宜
設立 2020年12月10日
企業URL https://citadel-ai.com/ja/
X (Twitter) https://twitter.com/CitadelAI
お問合せ info@citadel-ai.com
