伊藤忠テクノソリューションズ株式会社（代表取締役社長：新宮 達史、本社：東京都港区、略称：CTC）は、金融機関向けのアプリケーション、システム基盤、AIサービス群を提供する「C-NOAH（シー・ノア）」に、AIガバナンスを強化する機能を追加しました。Dynamo AI（本社：米カリフォルニア州、CEO:Vaikkunth Mugunthan）のAI監査ツール「Dynamo Guard」を活用して、AIが誤った情報を生成する「ハルシネーション（幻覚）」を抑制し、C-NOAHのAIチャットボットの信頼性の向上につなげます。
近年、業務の高度化や効率化を目的に、生成AIを活用する企業が増えている中、事実に基づかない誤った情報をAIが生成するハルシネーションと呼ばれる現象が課題となっています。生成AIは、不適切なプロンプトの内容や、質・量が不十分な学習データを要因としてハルシネーションが発生することがあり、企業は、プロンプト作成の教育や学習データの定期的な見直し、業務で利用する範囲を制限するなどの対策を講じています。
今般CTCは、Dynamo Guardを活用して、C-NOAHの生成AIチャットボットにおけるハルシネーションを抑制する機能を追加しました。金融機関においては、誤った情報の提供が、顧客や行員の不適切な投資判断や、顧客情報の漏洩などにつながる可能性があるため、AIチャットボットの回答精度を高めることにより、インターネットバンキングやFAQシステムにおける、お問い合わせ対応の精度と信頼性の向上につなげます。
Dynamo Guardは、入力したプロンプトと企業のコンプライアンスポリシーとの整合性をリアルタイムで検証するAI監査ツールです。コンプライアンス上、不適切と判断される内容が入力された場合、当該プロンプトをAIの学習データとして使用せず、回答の生成も自動的に停止します。また、生成した回答、公的機関や業界団体、企業の公式データなどの信頼性が高い情報と照合し、回答の正確性を数値化して評価します。評価結果が一定水準を下回った場合には、画面上にアラートを表示して利用者に注意を促します。
今後もCTCは、ハルシネーション抑制を含むAIガバナンスの強化をはじめ、お客様の業務に合わせてC-NOAHのカスタマイズや新たなアプリケーションの開発を行いながら、生成AIの信頼性向上と安全な活用を通した、金融業界の業務の高度化、効率化を支援していきます。
＜生成AIチャットボットにおけるハルシネーションを抑制する機能のイメージ＞
[画像: https://prcdn.freetls.fastly.net/release_image/108377/148/108377-148-8ad707f61305351da278354b8d9cc4dc-899x719.png?width=536&quality=85%2C75&format=jpeg&auto=webp&fit=bounds&bg-color=fff ]
※記載されている商品名などの固有名詞は、各社の商標または登録商標です。
※掲載されている情報は、発表日現在の情報です。最新の情報と異なる場合がありますのでご了承ください。
以上
伊藤忠テクノソリューションズ株式会社（CTC）
https://www.ctc-g.co.jp/
