パフォーマンスエンジニアリング技術のリーディングカンパニーである株式会社フィックスターズ（東証プライム：3687、代表取締役社長 CEO：三木 聡）は、AI処理高速化プラットフォーム「Fixstars AIBooster（以下、AIBooster）」の最新版をリリースしました。最新版のAIBoosterでは、AIモデルの最適化実行結果の診断機能や、モニタリング条件や収集データの分類機能が追加されており、AI学習や推論の高速化改善サイクルをさらに加速することができます。
フィックスターズは、AI処理の高速化・最適化ソリューションを提供し続け、お客様のAI投資の価値を最大化できるよう支援してまいります。
Fixstars AIBooster： https://www.fixstars.com/ja/ai/ai-booster
[画像1: https://prcdn.freetls.fastly.net/release_image/27784/82/27784-82-64c897c6cc215e4a3a0a6794d60a4499-1999x1091.png?width=536&quality=85%2C75&format=jpeg&auto=webp&fit=bounds&bg-color=fff ]
最新版AIBoosterの新機能
1. AI推論の自動最適化結果に関する診断レポート
AIBoosterには、AI推論処理を実行するハードウェアに合わせて、AIモデルを自動で変換・最適化する機能「AcuiRT」があります。
今回のアップデートで、AcuiRTの実行結果を診断する機能が大幅に強化されました。AIモデル変換の成功・失敗状況を詳細に把握できる、下記の機能が追加されています。
- 変換結果の可視化：AIモデルのレイヤーごとの変換成功率、失敗したレイヤーに対する具体的なエラーメッセージなど
- パフォーマンス・プロファイリング：推論処理時間の測定や、ボトルネックを特定するために役立つレイヤーごとの処理時間の内訳など、変換後の性能特性の分析
- 認識精度：変換前後での推論精度の測定
2. ユーザー環境に合わせた、カスタマイズ可能なパフォーマンス観測
AIBoosterのパフォーマンス・オブザーバビリティ（Performance Observability : PO）は、計算環境を構成するノードおよびデバイスレベルでのハードウェア効率を監視しながら、クラスタ全体のパフォーマンス傾向についても可視化します。
今回のリリースでは、以下のパラメータを簡単にカスタマイズできるようになり、より柔軟な観測が可能になりました。
- メトリクス収集間隔: データの収集粒度を調整し、オーバーヘッドを最小限に抑えることができます。長期的な傾向分析を行う場合、間隔を広げることでリソース消費を削減でき、多様な環境への導入が容易になります。
- ユーザー定義タグの付与: モデルタイプ、実行設定、特定のデータセットなど、独自の基準に基づいてワークロードを分類するためのタグ付けが可能となりました。これにより、お客様の利用状況に合わせた、より深いパフォーマンス分析が実現します。
[画像2: https://prcdn.freetls.fastly.net/release_image/27784/82/27784-82-dba1f4315d457a6b028d394fc8be4e3e-929x453.png?width=536&quality=85%2C75&format=jpeg&auto=webp&fit=bounds&bg-color=fff ]
エラー発生箇所の出力例
[画像3: https://prcdn.freetls.fastly.net/release_image/27784/82/27784-82-c26c5f3a2d02701d3550cf64af99872b-921x515.png?width=536&quality=85%2C75&format=jpeg&auto=webp&fit=bounds&bg-color=fff ]
各レイヤーの実行時間プロファイリング例
活用例：NVIDIA GPU向けモデル変換の高速化と信頼性向上
2次元物体の検出モデルについて、学習済みのPyTorchモデルからNVIDIA GPU向けフォーマット（TensorRT）への変換を、AcuiRTを使用して実行しました。
最初の変換試行では、モデルのレイヤー中16%しか正常に変換されなかったため、推論パフォーマンスは変換前よりも悪化していました。しかし、新しい診断レポート機能を活用して失敗したレイヤーと根本的なエラーを特定し、リファクタリングを行った結果、わずか4時間のリファクタリングで100%のレイヤー変換を達成しました。さらに、変換後のモデルは推論速度において約1.25倍の向上を実証しました。
詳細：https://doc.aibooster.fixstars.com/how_to_guides/intelligence/acuirt/tutorial/tutorial_detr/
株式会社フィックスターズについて
フィックスターズは、“Speed up your AI”をコーポレートメッセージとして掲げるテクノロジーカンパニーです。計算資源を最大限に活用するソフトウェア最適化技術を駆使し、AIモデルの推論処理と学習プロセスの両面で圧倒的な高速化を実現します。医療、製造、金融、モビリティをはじめ様々な分野で、次世代AI技術の進化を推進しています。
https://www.fixstars.com/
