Le Centre RIKEN des sciences du cerveau (CBS) au Japon, ainsi que des collègues, ont montré que le principe de l’énergie libre peut expliquer comment les réseaux neuronaux sont optimisés pour l’efficacité. Publié dans la revue scientifique Communications Biologyl’étude montre d’abord comment le principe de l’énergie libre est à la base de tout réseau neuronal qui minimise le coût énergétique. Ensuite, comme preuve de concept, elle montre comment un réseau neuronal minimisant l’énergie peut résoudre des labyrinthes. Cette découverte sera utile pour analyser les fonctions cérébrales altérées dans les troubles de la pensée ainsi que pour générer des réseaux neuronaux optimisés pour l’intelligence artificielle.
L’optimisation biologique est un processus naturel qui rend notre corps et notre comportement aussi efficaces que possible. Un exemple comportemental peut être observé dans la transition que les chats font de la course au galop. Loin d’être aléatoire, ce changement se produit précisément à la vitesse à laquelle la quantité d’énergie nécessaire pour galoper devient inférieure à celle nécessaire pour courir. Dans le cerveau, les réseaux neuronaux sont optimisés pour permettre un contrôle efficace du comportement et la transmission d’informations, tout en conservant la capacité de s’adapter et de se reconfigurer à des environnements changeants.
Le labyrinthe comprend un espace d’état discret, dans lequel les cellules blanches et noires indiquent les chemins et les murs, respectivement. En partant de la gauche, l’agent doit atteindre le bord droit du labyrinthe en un certain nombre de pas (temps). L’agent résout le labyrinthe en utilisant un apprentissage adaptatif qui suit le principe de l’énergie libre. Crédit : RIKEN
Comme pour le simple calcul coût/bénéfice qui permet de prédire la vitesse à laquelle un chat commencera à galoper, les chercheurs du RIKEN CBS tentent de découvrir les principes mathématiques de base qui sous-tendent l’auto-optimisation des réseaux neuronaux. Le principe de l’énergie libre suit un concept appelé inférence bayésienne, qui en est la clé. Dans ce système, un agent est continuellement mis à jour par de nouvelles données sensorielles entrantes, ainsi que par ses propres sorties ou décisions passées. Les chercheurs ont comparé le principe de l’énergie libre à des règles bien établies qui contrôlent la façon dont la force des connexions neuronales au sein d’un réseau peut être modifiée par des changements dans les entrées sensorielles.
Nous avons pu démontrer que les réseaux neuronaux standard, qui présentent une modulation retardée de la plasticité hébbienne, effectuent une planification et un contrôle comportemental adaptatif en tenant compte de leurs “décisions” précédentes”, explique le premier auteur et chef d’unité Takuya Isomura. “Il est important de noter qu’ils le font de la même manière qu’ils le feraient en suivant le principe de l’énergie libre.”
Vue générale d’un labyrinthe résolu. Le labyrinthe comprend un espace d’état discret, dans lequel les cellules blanches et noires indiquent les chemins et les murs, respectivement. Le chemin bleu est la trajectoire. En partant de la gauche, l’agent doit atteindre le bord droit du labyrinthe en un certain nombre de pas (temps). Le labyrinthe a été résolu selon le principe de l’énergie libre. Crédit : RIKEN
Après avoir établi que les réseaux neuronaux suivent théoriquement le principe de l’énergie libre, ils ont testé la théorie à l’aide de simulations. Les réseaux neuronaux se sont auto-organisés en modifiant la force de leurs connexions neuronales et en associant les décisions passées aux résultats futurs. Dans ce cas, les réseaux neuronaux peuvent être considérés comme étant régis par le principe de l’énergie libre, ce qui leur a permis d’apprendre le chemin correct à travers un labyrinthe par essais et erreurs d’une manière statistiquement optimale.
Ces résultats indiquent l’existence d’un ensemble de règles mathématiques universelles qui décrivent la manière dont les réseaux neuronaux s’auto-optimisent. Comme l’explique Isomura, “Nos résultats garantissent qu’un réseau neuronal arbitraire peut être considéré comme un agent qui obéit au principe de l’énergie libre, fournissant ainsi une caractérisation universelle du cerveau”. Ces règles, ainsi que la nouvelle technique d’ingénierie inverse des chercheurs, peuvent être utilisées pour étudier les réseaux neuronaux de prise de décision chez les personnes souffrant de troubles de la pensée, comme la schizophrénie, et prédire les aspects de leurs réseaux neuronaux qui ont été altérés.
Une autre utilisation pratique de ces règles mathématiques universelles pourrait être dans le domaine de l’intelligence artificielle, en particulier celles dont les concepteurs espèrent qu’elles seront capables d’apprendre, de prédire, de planifier et de prendre des décisions de manière efficace. “Notre théorie peut réduire considérablement la complexité de la conception d’un matériel neuromorphique auto-apprenant capable d’exécuter divers types de tâches, ce qui sera important pour une intelligence artificielle de prochaine génération”, déclare Isomura.
Référence : 14 janvier 2022, Biologie des communications.
DOI :10.1038/s42003-021-02994-2
