信頼できる AI をターゲットとしたソフトウェア プラットフォーム

セーフティ クリティカルな領域で AI の導入が加速するにつれ、インテリジェント システムが予測どおりに動作し、長期にわたってコンプライアンスを維持できるようにすることが、エンジニアリング上の大きな課題となっています。Keysight Technologies が新たに発表したソフトウェア ソリューションは、規制された環境で AI システムを検証、導入し、継続的に監視するためのエンドツーエンドのフレームワークを提供することで、この問題に対処します。

個別の開発段階に焦点を当てた従来の AI テスト ツールとは異なり、このプラットフォームは、データセットの準備、モデルの検証、現実世界での推論テスト、展開後のモニタリングに及ぶライフサイクル アプローチに従います。目標は、規制当局やシステム インテグレーターから同様にますます提起される基本的な質問、つまり AI システム内で何が起こっているのか、導入後のその動作は信頼できるのか、という基本的な質問にエンジニアリング チームが答えるのを支援することです。

主な機能は次のとおりです。

統計的手法を使用したデータセットの品質とバイアス分析
隠された相関関係と限界を明らかにするモデルの説明可能性
トレーニング条件を超えた現実世界の推論テスト
データドリフトとパフォーマンスの変化を継続的に監視
規制上の証拠と監査をサポートする統合ワークフロー
自動車 AI に関する ISO/PAS 8800 や EU AI 法などの規制により、説明可能性、トレーサビリティ、証拠に基づく検証が求められるため、このようなツールの必要性が高まっています。これらのフレームワークは何を達成しなければならないかを定義しますが、コンプライアンスを証明する方法についてはほとんどガイダンスを提供しません。その結果、開発者は断片化されたツールチェーンに依存することが多く、トレーニングと実際の運用の間に死角が生じます。

新しいソフトウェア プラットフォームは、データ分析、モデルの説明可能性、および推論テストを単一のワークフローに組み合わせることで、このギャップを埋めることを目指しています。これにより、チームはデータセットのバイアスやギャップを早期に特定し、モデルがどのように意思決定に至るかを理解し、現場でのパフォーマンスがトレーニング中に設定された期待と一致しているかどうかを検証できます。さらに、継続的なモニタリングにより、エンジニアは、運用環境とともに進化する AI システムに対するますます重要な要件である、導入後のデータ ドリフトやパフォーマンスの低下を検出できるようになります。

このソリューションは、AI の検証と保証のアクティビティを統合することにより、より透明性が高く、監査可能で保守可能な AI 導入をサポートします。これは、先進運転支援システム、自動運転機能、その他の組み込み AI のユースケースなど、障害が安全性に重大な影響を与える可能性がある高リスクのアプリケーションに特に当てはまります。

AI システムがより複雑になり、規制の監視が強化されるにつれ、このようなライフサイクルベースの AI 保証ツールが、インテリジェント システムを実験的な導入から信頼できる運用グレードのインフラストラクチャに移行する上で中心的な役割を果たす可能性があります。