産学研と実用化

湘江実験室・高エネルギー効率異種計算イノベーション研究院

高エネルギー効率異種計算+中国国産オンデバイスAIハードウェア+特化型モデル用アクセラレーター

高エネルギー効率異種計算イノベーション研究院の銘板

湘江実験室・高エネルギー効率異種計算イノベーション研究院

湘江実験室・高エネルギー効率異種計算イノベーション研究院は、中国国産IT計算体系とオンデバイスAIハードウェア構成に注力する先端技術研究機関です。国家の計算産業戦略に応え、エッジAIの高効率化と国産化の課題に取り組み、「AI+」施策を支える計算基盤を提供します。

ハードウェア・ソフトウェア協調、デバイス・クラウド融合、徹底したエネルギー効率を理念に、チップ企業や製造企業と中核技術を共同研究します。専用オンデバイスAIハードウェア設計、中国国産ITへの適応などを研究し、クラウドからエッジへ計算資源を広げ、ローカル機器で大規模モデルを安全かつ円滑に動かすことを目指します。

湘江実験室は湖南省政府が主導する初の省級実験室として2022年7月に設立されました。本部は湖南湘江新区・長沙ハイテク区の北斗産業園にあり、先進計算とAIの重要なイノベーション基盤に位置付けられています。湖南省科学技術庁が設置し、湖南工商大学が設立を主導。「本部+支部+イノベーションセンター」の「1346」構成で、データ知能・高性能計算など4つの重点分野と、スマート製造・医療など6つの応用領域に取り組みます。

研究の位置付け

中国国産チップ向けオンデバイス異種計算体系

中国国産チップ向けオンデバイス異種計算体系

ハードウェア・ソフトウェア協調設計による全スタック技術体系

ハードウェア・ソフトウェア協調設計による全スタック技術体系

技術検証から製品・標準へ

技術検証から製品・標準へ

複数主体による共同研究開発

複数主体による共同研究開発

研究分野

中国国産オンデバイス計算と試作機

中国国産オンデバイス計算と試作機

性能・消費電力のベンチマーク:中国国産チップの演算能力、推論速度、電力、遅延を測定し、選定や組み合わせの根拠となる体系的な評価報告を作成します。

機器の試作・統合:中国国産チップでオンデバイス異種計算の試作機を設計し、ハードウェア・ソフトウェアの統合とスケジューリングを検証。実負荷下の安定性・性能を確認します。

機器の標準体系:性能基準、インターフェース規約、安全要件を中心に、中国国産オンデバイスAI機器の標準案を作成し、消費電力・熱制御の試験方法も整備します。

低消費電力推論のリソース管理:低電力ハードウェアでの資源管理と推論スケジューリングを研究し、消費電力と性能のバランスを改善します。

中国国産AIフレームワークと推論エンジン

中国国産AIフレームワークと推論エンジン

フレームワークの調査・評価:CANN、MUSAなどの機能、性能、適応コストを各種中国国産チップ上で体系的に評価し、調査・比較分析報告を作成します。

推論スケジューリングと演算子最適化:既存フレームワークを基に実行調整システムを設計し、演算子単位で最適化してデバイス・エッジの推論効率を高めます。

SDK・開発ツールの公開:最適化したフレームワークのSDK、サンプルコード、API文書を整備し、外部開発者にすぐ使える開発環境とツール群を提供します。

フレームワーク適応・移行規範:中国国産AI推論フレームワークの演算子インターフェース、スケジューリング、コンパイラー適応手順を定め、国産プラットフォーム間のモデル移行を容易にします。

オンデバイス小規模モデルの構成と高効率推論

オンデバイス小規模モデルの構成と高効率推論

モデル構成の調査・評価:Mamba、グラフニューラルネットワーク(GNN)、異種Transformerなどを追跡し、オンデバイス環境への適合性と性能を分析します。

オンデバイス推論フレームワークの設計:これらの構成特性を基にデバイスに適した推論基盤を設計し、中国国産チップに合わせて演算子と実行調整を最適化します。

小規模で高効率なモデル構成:精度を確保しながら、設計によってメモリ使用量と計算コストを削減する構成を研究します。

量子化・蒸留・圧縮技術:各手法を組み合わせてオンデバイス向け軽量モデルを構築し、対応する評価方法と標準体系を整備します。

業種・領域別オンデバイス小規模モデルの微調整

業種・領域別オンデバイス小規模モデルの微調整

領域別小規模モデルの微調整:業種別タスクに合った小規模モデルの微調整方法を設計・検証し、専門的な用途での精度と応答速度を高めます。

業種別データセットの構築:各業種の高品質データセットを整備し、小規模モデルの学習・微調整を支えます。

評価標準・インターフェース規範:税務・会計・医療・法律などの小規模モデルの評価標準とインターフェースを定め、用途をまたいだ評価基準の一貫性を確保します。

用途適応型推論スケジューリング:推論経路と機器状態に応じた動的なタスク調整を研究し、異なる負荷やハードウェア条件でも安定した性能を維持します。

研究成果

研究報告・技術ホワイトペーパー

研究報告・技術ホワイトペーパー

試作機・ツールチェーン

試作機・ツールチェーン

軽量モデル・業種別小規模モデル

軽量モデル・業種別小規模モデル

標準・特許体系

標準・特許体系

ニュースセンター