Résumé - ApproxGNN : Un GNN pré-entraîné pour la prédiction des paramètres dans l'exploration de l'espace de conception pour le calcul approché
Titre
ApproxGNN : Un GNN pré-entraîné pour la prédiction des paramètres dans l'exploration de l'espace de conception pour le calcul approché
Temps
2025-07-22 09:24:13
Auteur
{"Ondrej Vlcek","Vojtech Mrazek"}
Catégorie
{cs.AR}
Lien
http://arxiv.org/abs/2507.16379v1
PDF Lien
http://arxiv.org/pdf/2507.16379v1
Résumé
ApproxGNN est une approche novatrice pour prédire la qualité des résultats (QoR) et le coût matériel (HW cost) des accélérateurs approximatifs à l'aide de réseaux de neurones graphiques (GNN). Cette recherche est cruciale pour le processus d'exploration de l'espace de conception (DSE) en calcul approximatif, où les concepteurs visent à trouver les configurations optimales des composants approximatifs à l'intérieur des accélérateurs pour équilibrer l'exactitude et l'efficacité énergétique.
Les limitations des méthodes existantes, telles que le besoin de retraiter pour chaque nouvelle configuration de circuit, les ensembles de données limités et l'ingénierie manuelle des caractéristiques, ont motivé le développement d'ApproxGNN. Ce document présente les contributions suivantes :
1. Une méthode novatrice d'extraction de caractéristiques de composants basée sur des embeddings appris, capturant les caractéristiques fonctionnelles des composants approximatifs de manière plus efficace que les métriques d'erreur traditionnelles.
2. Un analyseur Verilog pour GNN qui transforme le code Verilog en représentations graphiques souhaitées, supportant divers types d'accélérateurs.
3. Une nouvelle méthode pour générer des graphes de circuits de noyaux graphiques synthétiques, permettant la création d'ensembles de données de formation complets.
4. Un modèle universel pré-entraîné pour l'extraction de caractéristiques à partir de composants approximatifs qui peut être appliqué à différentes tâches sans retraitement, améliorant les performances de transfert par rapport aux métriques d'erreur traditionnelles.
La méthodologie proposée se compose des étapes suivantes :
1. **Génération de l'ensemble de données** : Générer des descriptions Verilog d'accélérateurs approximatifs avec diverses configurations et combinaisons de composants.
2. **Transformation en graphes** : Transformer les descriptions Verilog en représentations de graphes acycliques dirigés, où les nœuds représentent les composants et les arêtes représentent les connexions de signaux.
3. **Formation du modèle** : Former un modèle d'embedding de composants pour générer des représentations de caractéristiques à partir de composants approximatifs et deux modèles de prédiction pour estimer le QoR et le HW cost sur la base des embeddings et de la structure du circuit.
4. **Exploration de l'espace de conception** : Utiliser les modèles formés en tant qu'évaluateurs substituts pour guider l'exploration de l'espace de conception et identifier les affectations optimales des composants approximatifs à l'accélérateur.
Les résultats expérimentaux montrent que les embeddings d'ApproxGNN améliorent l'exactitude de la prédiction de 50% par rapport aux méthodes conventionnelles et atteignent une exactitude globale de prédiction 30% supérieure aux approches d'apprentissage automatique statistique sans ajustement fin et 54% supérieure avec un ajustement rapide. De plus, la méthodologie proposée répond efficacement au défi de transférer des connaissances entre différents conceptions de circuits sans nécessiter un retraitement coûteux.
La bibliothèque open-source contenant l'analyseur Verilog, l'ensemble de données et les modèles obtenus est disponible à l'adresse https://github.com/ehw-fit/approx-gnn, facilitant la recherche dans ce domaine.
En résumé, ApproxGNN est une approche prometteuse pour concevoir des accélérateurs approximatifs économes en énergie en permettant une exploration de l'espace de conception efficace à l'aide de GNN. Sa capacité à améliorer l'exactitude et la transférabilité en fait un outil précieux pour les chercheurs et les concepteurs dans le domaine du calcul approximatif.
Articles Recommandés
Dynamique multi-espèces McKean-Vlasov dans des paysages non convexes
Contraintes de la tomodonnée de l'effet de lentille du CMB avec des bispétraux projetés
Une étude complète de la supraconductivité bipolaire des liaisons dans une maille triangulaire
Manifolds with kinks et le comportement asymptotique de l'opérateur laplacien graphique avec noyau gaussien
Grands taux d'apprentissage atteignent simultanément une robustesse aux corrélations spurielles et une compressibilité.
Diffusion bat les modèles autoregressifs dans des contextes contraints par les données.
Inscriptions dans les géométries non-euclidiennes
Plateforme pour la Représentation et l'Intégration des Embeddings Moléculaires Multimodaux
Nouveaux alertes de neutrinos publics pour les groupes d'événements IceCube
Vers l'apprentissage de la représentation causale temporelle avec la décomposition tensorielle