ディジタルメディアプロフェッショナル（DMP）のエッジAI SoC「Di1」に搭載された、FP4対応NPUの特長をご紹介します。
本デモでは、FP4版AIモデルとFP16版AIモデルをDi1上でそれぞれ動作させ、メモリアクセス量を比較することで、低ビット量子化による推論効率向上の効果を可視化しています。
近年、AIモデルの高度化に伴いモデルサイズは急速に拡大しており、エッジデバイスにおいてはメモリ帯域や消費電力が大きな制約となっています。
Di1はFP4に対応するNPUを搭載することで、大規模モデルであってもエッジ側での高効率な推論処理を可能にします。
Di1は、進化の速いAI技術をいち早く商業利用につなげるための高効率推論プラットフォームとして、AIカメラ、IoTセンシングデバイス、ロボット、産業機器など、エッジ側で高度な解析が求められる幅広いアプリケーションに適したSoCです。
デモ動画をご覧いただき、ご興味をお持ちいただけましたら、ぜひ下記のお問い合わせフォームよりご連絡ください。
お問合せ先
製品紹介ページ
エッジAI向けSoC「Di1」
音楽素材 BGMer
DOVA-SYNDROME
・ハッシュタグ
#DMP#Di1#エッジAI#AISoC#NPU#FP4#FP16#低消費電力#量子化#メモリーアクセス#EdgeAI#組込み#AI#リアルタイム処理#画像認識#IoT#SoC＃ロボティクス#スマートカメラ#AIカメラ#ロボット＃IoTセンシングデバイス#産業用カメラ
|
