Éliminer le chaos des réseaux de neurones
Des chercheurs de l’Université d’État de Caroline du Nord ont découvert qu’en enseignant la physique aux réseaux de neurones, ces derniers s’adaptent mieux au chaos de leur environnement. Ces travaux ont des implications pour l’amélioration de l’intelligence artificielle (IA) allant au diagnostic médical et au pilotage automatisé des drones.
Des réseaux de neurones et le chaos
Les réseaux de neurones sont un type avancé d’IA, basé sur la façon dont notre cerveau fonctionne. Nos neurones naturels échangent des impulsions électriques en fonction de la force de leurs connexions. Les réseaux neuronaux artificiels imitent ce comportement en ajustant les poids numériques et les biais pendant les séances d’entraînement afin de minimiser la différence entre leurs sorties réelles et souhaitées. Par exemple, un réseau neuronal peut être entraîné à identifier des photos de chiens en passant au crible un grand nombre de photos, en devinant si la photo est celle d’un chien, en voyant à quelle distance elle se trouve, puis en ajustant ses poids et biais jusqu’à ce qu’ils soient plus proches de la réalité.
L’inconvénient de cette formation aux réseaux neuronaux est ce qu’on appelle la « cécité au chaos », c’est-à-dire l’incapacité à prévoir le chaos dans un système ou à y réagir. L’IA conventionnelle est aveugle au chaos. Mais les chercheurs du laboratoire d’intelligence artificielle non linéaire (NAIL) du NC State ont découvert que l’incorporation d’une fonction hamiltonienne dans des réseaux neuronaux leur permet de mieux « voir » le chaos dans un système et de s’y adapter.
Les réseaux neuronaux Hamiltoniens comprennent le chaos
En termes simples, l’hamiltonien incarne l’information complète sur un système physique dynamique – la quantité totale de toutes les énergies présentes, cinétiques et potentielles. Imaginez un pendule qui oscille, se déplaçant d’avant en arrière dans l’espace au fil du temps. Maintenant, regardez un instantané de cette pendule. L’instantané ne peut pas vous dire où se trouve la pendule dans son mouvement ni où elle va ensuite. Les réseaux neuronaux conventionnels fonctionnent à partir d’un instantané d’une pendule. Les réseaux neuronaux avec le flux Hamiltonien comprennent l’ensemble du mouvement de cette pendule – où elle se trouve, où elle sera ou pourrait être, et les énergies impliquées dans son mouvement.
Dans un projet de validation de concept, l’équipe a intégré la structure Hamiltonienne dans des réseaux de neurones, puis les a appliqués à un modèle connu de dynamique stellaire et moléculaire appelé modèle Hénon-Heiles. Le réseau de neurones Hamiltonien a prédit avec précision la dynamique de ce système, même lorsqu’il se déplaçait entre l’ordre et le chaos.
Des réseaux de neurones qui pourraient nous aider
L’Hamiltonien est vraiment la « sauce spéciale » qui donne aux réseaux neuronaux la capacité d’apprendre l’ordre et le chaos », déclare John Lindner, professeur de physique et auteur d’un article décrivant ce travail. « Avec l’Hamiltonien, un réseau neuronal comprend la dynamique sous-jacente d’une manière qu’un réseau conventionnel ne peut pas comprendre. C’est un premier pas vers des réseaux de neurones qui connaissent bien la physique et qui pourraient nous aider à résoudre des problèmes difficiles ».
Cette recherche a été publiée dans Physical Review E.
Source : North Carolina State University
Crédit photo : Pixabay