Les IA pensent que nous sommes brillants, mais la réalité est bien autre !

Les IA et les méandres de la rationalité humaine : un regard décalé

Les intelligences artificielles, comme ChatGPT-4o d’OpenAI et Claude-Sonnet-4 d’Anthropic, pensent que les humains raisonnent de manière plus logique qu’ils ne le font réellement. Cette situation soulève une question fascinante sur la compréhension qu’ont ces outils de notre nature et de nos comportements, particulièrement dans des scénarios complexes.

Pour illustrer ce paradoxe, des chercheurs ont utilisé un exercice connu sous le nom de “Concours de beauté” de Keynes, qui explore les dynamiques spéculatives sur les marchés financiers. Ce test se concentre sur la capacité à prédire les choix des autres, illustrant les difficultés cognitives liées à plusieurs couches de raisonnement simultané.

Un exemple concret de cet exercice est “Guess the Number”. Les participants choisissent un nombre entre 0 et 100, et le gagnant est celui qui s’approche le plus de la moitié de la moyenne des choix. En théorie, un joueur rationnel devrait choisir zéro, mais les humains se limitent souvent à un ou deux niveaux de réflexion, ce qui les éloigne des résultats optimaux.

Les chercheurs ont aussi utilisé différentes IA dans ce cadre, leur fournissant des descriptions variées de leurs adversaires : allant d’étudiants à des experts en théorie des jeux. Les résultats montrent une adaptation des choix des IA selon le profil des “opposants”. Face à des novices, les modèles évolués choisissent des nombres différents que face à des spécialistes. Cela indique une forme de stratégie intégrée, mais pas toujours aussi fine qu’il paraît.

Un obstacle persiste, cependant : les IA croient que les humains possèdent une logique que peu atteignent. Cette surinterprétation de nos capacités les amène à anticiper des comportements plus rationnels que ceux que nous adoptons, souvent plus instinctifs, entraînant des échecs dans leurs prévisions.

De plus, l’étude révèle que dans des interactions à deux joueurs, les IA peinent à appréhender les stratégies humaines les plus probables. Cela souligne la complexité d’aligner ces intelligences sur notre comportement, surtout lorsqu’il s’agit d’anticiper les décisions des autres.

Points à retenir

• Les IA surestiment la rationalité humaine, conduisant à des prévisions erronées.
• L’exercice “Guess the Number” illustre la difficulté de la réflexion multilayer chez les humains.
• Les IA s’ajustent selon l’expérience supposée de leurs adversaires, montrant un certain niveau d’adaptation.
• La logique humaine est souvent intuitive et diverge des attentes des IA.
• Les IA ont des difficultés à saisir les stratégies humaines dans des contextes interactifs, limitant leur précision.
• Ce décalage souligne le défi de modéliser les interactions humaines par les intelligences artificielles.