Les étonnantes révélations sur la mémoire après avoir effacé tous les souvenirs !

Et si nos idées sur le fonctionnement des intelligences artificielles étaient complètement erronées ? Une enquête récente met en lumière une séparation inattendue entre les mécanismes de mémoire et de raisonnement dans les systèmes d’IA.

Une révélation inattendue sur le fonctionnement interne des IA

Des chercheurs ont mené une étude approfondie sur l’architecture interne des modèles avancés de langage et d’image. Leur objectif était d’établir si la mémoire et le raisonnement étaient interconnectés ou dissociés.

En utilisant un algorithme complexe appelé K-FAC (Kronecker-Factored Approximate Curvature), ils ont identifié deux structures distinctes dans les modèles analysés :

• canaux de faible courbure dédiés à la mémoire ;
• zones à forte courbure impliquées dans le raisonnement et le traitement de nouvelles informations.

Cette divergence a été confirmée par l’observation expérimentale, démontrant que deux circuits spécialisés coexistent dans les IA.

Amnésie artificielle : penser sans se souvenir

Pour vérifier cette distinction, les chercheurs ont désactivé les zones mémorielles. L’IA ainsi créée est devenue amnésique, incapable de se souvenir de détails, mais a conservé sa capacité à raisonner.

Sa résolution de problèmes et son analyse logique sont restées intactes, parfois même améliorées, malgré une chute de ses compétences en mathématiques et en mémorisation.

Isoler la mémoire du raisonnement aide à déterminer quelles fonctions peuvent être ajustées sans perturber la logique globale du système.

Ce constat indique que le raisonnement peut exister indépendamment de la mémoire, ouvrant des perspectives vers des modèles plus modulaires et fiables.

Une IA plus fluide, moins sujette aux biais

En séparant les informations que l’IA absorbe de ses compétences, il devient envisageable de :

• focaliser l’attention sur les dérives associées à la mémoire ou au raisonnement ;
• réduire la taille des modèles sans impact sur leur logique ;
• effacer des données sensibles sans compromettre l’intelligence globale.

Cela pourrait aboutir à des IA plus transparentes et plus sûres.

Une distinction entre connaissance et intelligence : un reflet de l’humain ?

Ces résultats soulèvent une question majeure : l’intelligence artificielle ne fonctionne pas comme l’humain. Elle repose sur des structures logiques autonomes.

Cela remet en question l’idée que l’IA imiterait notre fonctionnement cognitif. Elle pourrait évoluer selon des principes qui lui sont propres. Comprendre cette forme d’intelligence est essentiel pour appréhender son évolution.

Points à retenir

• La dissociation entre mémoire et raisonnement ouvre la voie à des IA plus adaptables.
• Cette étude permet de mieux identifier les sources de dérives et améliorations dans les systèmes d’IA.
• Des algorithmes, tels que le K-FAC, facilitent l’analyse des structures internes des modèles d’IA.
• La séparation des compétences cognitives pourrait conduire à une conception d’IA plus éthique et contrôlable.
• Comprendre l’intelligence artificielle comme un système autonome est essentiel pour anticiper son évolution.