Industrie · Université · Recherche · Applications

Laboratoire Xiangjiang · Institut de recherche et d’innovation en calcul hétérogène à haute efficacité énergétique

Architecture de calcul hétérogène à haute efficacité énergétique + matériel d’IA locale chinois maîtrisé + cartes d’accélération de modèles spécialisés

Plaque de l’Institut de recherche et d’innovation en calcul hétérogène à haute efficacité énergétique

Institut de recherche et d’innovation en calcul hétérogène à haute efficacité énergétique du laboratoire Xiangjiang

L’Institut de recherche et d’innovation en calcul hétérogène à haute efficacité énergétique du laboratoire Xiangjiang est un organisme de recherche de pointe consacré au calcul à technologies chinoises maîtrisées et à l’architecture matérielle de l’IA locale. Il répond aux besoins stratégiques nationaux du calcul en étudiant l’efficacité énergétique et l’autonomie technologique de l’IA en périphérie, pour apporter un socle de calcul à l’initiative « IA+ ».

Guidé par la coconception matériel-logiciel, l’intégration terminaux-cloud et l’efficacité énergétique maximale, l’institut réunit fabricants de puces et industriels pour relever les défis matériels clés. Il étudie notamment le matériel dédié à l’IA locale et son adaptation aux technologies chinoises maîtrisées, afin de déplacer le calcul IA du cloud vers la périphérie et d’exécuter les grands modèles localement de manière sûre et fluide.

Créé en juillet 2022 sous l’impulsion du gouvernement provincial du Hunan, le laboratoire Xiangjiang est le premier laboratoire provincial de ce type. Son siège se trouve au parc industriel Beidou de la zone de haute technologie de Changsha, dans la nouvelle zone Xiangjiang. Plateforme majeure d’innovation en calcul avancé et IA, il est porté par le Département provincial des sciences et technologies et constitué sous la direction de Hunan University of Technology and Business. Son cadre « 1346 » associe siège, antennes et centres d’innovation autour de quatre axes, dont l’intelligence des données et le calcul haute performance, et de six domaines d’application, dont la fabrication et la santé intelligentes.

Positionnement de recherche

Architecture de calcul hétérogène local pour puces chinoises

Écosystème technologique intégré de coconception matériel-logiciel

De la validation technologique aux produits et aux normes

Mécanisme de R&D conjointe multipartite

Axes de recherche

Calcul local chinois et prototypes d’appareils

Tests de référence de performances et de consommation : évaluation du calcul, de la vitesse d’inférence, de la consommation et de la latence de différentes puces chinoises, avec rapports comparatifs pour guider leur sélection et leur combinaison.

Conception et intégration de prototypes locaux : appareils de calcul hétérogène sur puces chinoises, intégration matériel-logiciel et validation de l’orchestration, de la stabilité et des performances sous charges réelles.

Normalisation des appareils locaux : projets de normes pour les appareils d’IA locale chinois couvrant performances, protocoles d’interface, sécurité et méthodes de test énergétique et thermique.

Gestion des ressources pour l’inférence basse consommation : étude des stratégies de ressources et d’orchestration conciliant consommation et performances sur du matériel peu énergivore.

Cadres d’IA et moteurs d’inférence chinois

Étude et évaluation des cadres : analyse systématique des fonctions, performances et coûts d’adaptation de CANN, MUSA et autres cadres sur différentes puces chinoises, avec rapports d’étude et de comparaison.

Orchestration de l’inférence et optimisation des opérateurs : conception de systèmes d’orchestration et optimisation des opérateurs sur les cadres existants, pour améliorer l’efficacité de l’inférence locale et périphérique.

Publication de SDK et d’outils : SDK, exemples de code et documentation API autour des cadres optimisés, pour fournir aux développeurs tiers un environnement et une chaîne d’outils prêts à l’emploi.

Normes d’adaptation et de migration : définition d’interfaces d’opérateurs, de règles d’orchestration et de procédures d’adaptation des compilateurs des cadres chinois pour faciliter les migrations entre plateformes.

Architectures de petits modèles locaux et inférence économe

Étude et évaluation des architectures : suivi de Mamba, des réseaux de neurones graphiques (GNN), des Transformers hétérogènes et autres architectures, pour analyser leur pertinence et leurs performances en local.

Conception de cadres d’inférence locaux : cadres adaptés aux caractéristiques de ces architectures et optimisation des opérateurs et de l’orchestration sur les plateformes de puces chinoises.

Petits modèles efficaces : exploration d’architectures à peu de paramètres réduisant la mémoire et le calcul tout en préservant la précision.

Quantification, distillation et compression : combinaison de ces méthodes pour créer des modèles locaux légers et les systèmes d’évaluation et de normalisation associés.

Ajustement de petits modèles locaux sectoriels et métier

Ajustement métier : conception et validation de petits modèles adaptés aux tâches sectorielles pour améliorer précision et réactivité dans les usages spécialisés.

Jeux de données sectoriels : constitution de données de qualité pour entraîner et ajuster les petits modèles de chaque secteur.

Normes d’évaluation et d’interface : référentiels pour les petits modèles fiscaux, comptables, médicaux, juridiques et autres, afin d’assurer des évaluations cohérentes entre usages.

Orchestration adaptative par usage : étude d’une allocation dynamique des tâches selon la chaîne d’inférence et l’état de l’appareil, pour des performances stables sous différentes charges et configurations.