Apprentissage machine et apprentissage humain, des problèmes étonnamment proches

Illustration comparant l’apprentissage humain et l’apprentissage automatique

Un modèle de Machine Learning et un humain n’apprennent évidemment pas de la même manière.

Un réseau neuronal artificiel n’est pas une reproduction du cerveau, une fonction de perte n’est pas l’équivalent d’une note scolaire et une descente de gradient ne décrit pas le fonctionnement de l’apprentissage humain.

Pourtant, lorsqu’on cesse de comparer leurs mécanismes internes pour s’intéresser aux problèmes posés par l’apprentissage, certains parallèles deviennent intéressants.

Comment distinguer mémorisation et compréhension ?
Comment savoir qu’une compétence acquise reste utilisable face à une situation nouvelle ?
Que peut-on réellement conclure d’une bonne performance à une évaluation ?
Est-il utile d’accumuler davantage d’exemples s’ils apportent tous la même information ?
Que nous apprennent les erreurs sur ce qui a réellement été acquis ?

Ces questions apparaissent sous des formes différentes en apprentissage humain et en Machine Learning. Elles conduisent pourtant à une même idée générale :

La réussite sur ce qui a servi à apprendre ne suffit pas à démontrer la capacité à réussir sur ce qui n’a pas encore été rencontré.

1. Apprendre n’est pas mémoriser

Imaginons un étudiant qui prépare un examen en répétant exactement les mêmes exercices.

À force de les refaire, il peut devenir extrêmement performant. Il reconnaît immédiatement la forme des questions, connaît les étapes de résolution et retrouve rapidement la réponse attendue.

Mais remplaçons les valeurs, modifions légèrement l’énoncé ou présentons le même problème dans un contexte différent. S’il ne sait plus le résoudre, que mesurait réellement sa performance précédente ?

Le Machine Learning rencontre exactement ce problème sous une autre forme.

Un modèle suffisamment flexible peut devenir très performant sur les données utilisées pour son entraînement tout en se comportant beaucoup moins bien sur de nouvelles observations. C’est l’une des manifestations du surapprentissage, ou overfitting.

L’objectif n’est donc pas simplement d’obtenir de bonnes performances sur les exemples connus mais de conserver de bonnes performances lorsque les exemples changent. C’est la généralisation.

Cette distinction explique pourquoi la performance d’entraînement possède une valeur limitée lorsqu’elle est considérée seule.

Dans les deux cas, la question intéressante n’est finalement pas :

Ce qui a été vu est-il correctement reproduit ?

mais :

Ce qui a été appris permet-il de traiter correctement une situation qui n’a pas encore été vue ?

2. L’évaluation fait partie du problème

Distinguer mémorisation et généralisation suppose de mesurer les performances sur des situations qui n’ont pas servi à l’apprentissage.

Pour que cette mesure ait un sens, l’évaluation doit donc rester suffisamment indépendante du processus d’apprentissage. Le principe semble évident dans un contexte scolaire.

Si un enseignant donne à ses élèves l’examen final plusieurs jours avant l’épreuve, puis utilise exactement les mêmes questions le jour de l’examen, les résultats deviennent difficiles à interpréter. Les élèves peuvent avoir acquis la compétence recherchée. Mais ils peuvent également avoir appris spécifiquement à répondre aux questions de l’examen.

Le Machine Learning rencontre le même problème lorsqu’un modèle est évalué sur des observations utilisées pendant son entraînement. Un modèle peut alors obtenir d’excellentes performances sans que celles-ci renseignent correctement sur son comportement face à de nouvelles données.

C’est pourquoi les données utilisées pour apprendre et celles utilisées pour évaluer doivent être séparées. Dans les deux cas, l’objectif est le même : confronter ce qui a été appris à des situations suffisamment nouvelles pour mesurer autre chose que la capacité à reproduire ce qui a déjà été vu.

3. Une bonne réponse ne prouve pas toujours que la bonne chose a été apprise

Même lorsqu’une réponse est correcte, il n’est pas toujours évident de savoir pourquoi elle l’est. Un élève peut obtenir le bon résultat en appliquant une règle mémorisée sans comprendre le principe qu’elle représente. Cette stratégie peut fonctionner tant que les exercices conservent la structure attendue. Face à une variante suffisamment différente, le raccourci cesse de fonctionner.

Les modèles peuvent eux aussi exploiter des raccourcis. Supposons que certaines caractéristiques soient fortement associées à la cible dans les données d’entraînement. Le modèle n’a aucune raison intrinsèque de préférer la relation que nous considérons comme intéressante à une corrélation plus simple qui permet d’obtenir la bonne réponse. Si cette corrélation disparaît dans de nouvelles données, les performances peuvent s’effondrer.

Le problème est donc plus subtil que :

Le système donne-t-il la bonne réponse ?

Il faut également se demander :

Ce sur quoi il s’appuie pour réussir restera-t-il valable lorsque le contexte changera ?

C’est une des raisons pour lesquelles la généralisation ne peut pas être déduite uniquement d’une bonne performance sur des exemples familiers.

4. Plus d’information ne signifie pas nécessairement plus d’apprentissage

Une intuition naturelle consiste à penser que davantage d’informations produisent nécessairement un meilleur apprentissage. Ce n’est pas toujours le cas.

Imaginons qu’une personne ait compris un concept après plusieurs exemples. Lui présenter vingt variantes presque identiques peut renforcer sa familiarité avec le problème, mais chaque exemple supplémentaire n’apporte pas nécessairement autant que les premiers. Un nouvel exemple devient particulièrement intéressant lorsqu’il introduit une situation qui n’était pas encore correctement couverte.

Ce qui compte n’est donc pas uniquement le nombre d’exemples rencontrés, mais la quantité d’information nouvelle qu’ils apportent.

Le même phénomène apparaît lorsqu’on développe un modèle. Une nouvelle feature peut être fortement liée à la cible et pourtant n’améliorer pratiquement rien. La raison est simple : les features existantes peuvent déjà capturer la même information.

Il faut donc distinguer deux questions :

Cette information est-elle pertinente ?

et :

Apporte-t-elle quelque chose que le système ne connaissait pas déjà ?

Une variable peut être excellente lorsqu’elle est étudiée seule et devenir presque inutile lorsqu’elle est ajoutée à un modèle disposant déjà de variables équivalentes. Dans un système mature, accumuler davantage de variables ne garantit donc pas une progression.

Ce qui devient rare et précieux est l’information complémentaire.

5. Faire différemment ne signifie pas nécessairement apprendre différemment

Cette idée conduit à un autre parallèle.

Deux personnes peuvent employer des méthodes de résolution différentes et pourtant s’appuyer sur les mêmes connaissances fondamentales. Inversement, une personne moins performante en moyenne peut parfois réussir précisément là où une autre échoue.

La différence intéressante ne se trouve donc pas uniquement dans leur niveau moyen de performance. Elle se trouve aussi dans la structure de leurs réussites et de leurs erreurs. Cette question apparaît directement dans les ensembles de modèles.

Supposons que plusieurs modèles soient entraînés avec des architectures différentes. L’un utilise du gradient boosting, un autre un réseau neuronal, un troisième une autre fonction objectif. Leurs mécanismes sont différents. Mais s’ils disposent essentiellement des mêmes informations, ils peuvent apprendre des représentations différentes tout en produisant finalement des décisions très proches.

Ils peuvent alors :

Réussir sur les mêmes observations
Échouer sur les mêmes observations
Produire des prédictions fortement corrélées

Changer de méthode d’apprentissage ne garantit donc pas que le système exploitera une information réellement différente. Pour un ensemble de modèles, un candidat légèrement moins performant peut même devenir plus intéressant qu’un candidat légèrement meilleur s’il apporte des réussites réellement complémentaires.

Cela conduit à regarder autre chose que la seule performance moyenne :

Où les systèmes se trompent
Quelles erreurs sont communes
Quelles réussites sont uniques
Ce qu’un système apporte lorsqu’il est combiné aux autres

La différence de méthode n’est donc pas suffisante. Ce qui importe est la différence d’information effectivement exploitable.

6. L’erreur est une information sur ce qui a été appris

Une note moyenne indique qu’une personne fait plus ou moins d’erreurs. Elle ne dit pas nécessairement lesquelles.

Deux étudiants peuvent obtenir exactement la même note et présenter des situations très différentes. Le premier peut faire quelques erreurs réparties aléatoirement. Le second peut réussir parfaitement certaines catégories d’exercices et échouer systématiquement sur une notion particulière. Le score final est identique, le diagnostic ne l’est pas.

Cette distinction est également importante lorsqu’on analyse un modèle. Une métrique agrégée permet de comparer les performances générales, mais elle peut masquer la structure des erreurs.

Observer précisément les cas d’échec permet de chercher :

Des catégories systématiquement mal traitées
Des segments où la performance s’effondre
Des erreurs communes à plusieurs modèles
Des situations qu’un modèle sait traiter et pas les autres

L’échec cesse alors d’être uniquement quelque chose que l’on compte. Il devient une source d’information sur les limites de ce qui a été appris.

Deux systèmes obtenant une performance globale similaire peuvent ainsi avoir acquis des capacités différentes si leurs réussites et leurs erreurs ne se situent pas aux mêmes endroits. À l’inverse, une amélioration de la performance moyenne peut masquer un comportement presque inchangé si les mêmes difficultés persistent.

Observer où apparaissent les erreurs permet donc de comprendre ce qu’un score global, à lui seul, ne montre pas.

7. Une amélioration locale n’est pas toujours un progrès global

L’apprentissage est souvent décomposé en compétences intermédiaires. Améliorer l’une d’elles semble naturellement souhaitable. Mais une meilleure performance locale ne garantit pas nécessairement une meilleure capacité sur la tâche finale.

Un étudiant peut par exemple devenir beaucoup plus rapide sur une catégorie particulière d’exercices sans que cela améliore sa capacité à résoudre un problème complexe mobilisant plusieurs connaissances.

Dans un système Machine Learning composé de plusieurs niveaux, une difficulté supplémentaire apparaît. Imaginons un ensemble dans lequel plusieurs modèles alimentent un niveau supérieur :

modèle A ─┐
          ├──► combinaison ─► résultat final
modèle B ─┘

Une nouvelle version du modèle A peut obtenir une meilleure métrique lorsqu’elle est évaluée seule. Pourtant, une fois réintégrée dans l’ensemble, cette amélioration peut disparaître ou même dégrader le résultat final.

Le niveau supérieur exploitait peut-être déjà l’information améliorée grâce au modèle B. Mais la modification peut également changer la distribution des prédictions, leur classement ou la structure des erreurs produites par le modèle A.

Ces nouvelles sorties peuvent alors être moins utiles aux niveaux suivants, même si le modèle A est individuellement meilleur. Le gain local était donc réel, mais cela ne garantit ni qu’il soit conservé à l’échelle du système, ni même qu’il y reste positif.

Le parallèle avec l’apprentissage humain trouve ici ses limites. Dans une architecture ML à plusieurs niveaux, les sorties d’un composant deviennent directement les entrées d’un autre. Modifier un niveau peut donc modifier le comportement de tous ceux qui en dépendent.

Pour évaluer un tel système, il ne suffit donc pas de vérifier que chaque composant progresse individuellement. La progression doit également être mesurée à la sortie du système complet.

8. Ce qui a été appris doit résister au changement

Une compétence peut sembler acquise tant qu’elle est évaluée dans des conditions proches de celles de l’apprentissage.

Un étudiant peut par exemple réussir une série d’exercices immédiatement après avoir étudié une méthode. Présentés différemment, plusieurs semaines plus tard ou dans un contexte moins familier, les mêmes principes peuvent devenir beaucoup plus difficiles à mobiliser.

La première réussite n’était pas nécessairement trompeuse. Elle montrait que l’étudiant savait utiliser ce qu’il venait d’apprendre dans les conditions où cela avait été évalué.

La question est de savoir jusqu’où cette capacité reste valable lorsque ces conditions changent.

Le Machine Learning rencontre une difficulté comparable. Un modèle peut obtenir de bonnes performances sur un jeu d’évaluation et se comporter différemment lorsque les données futures évoluent : nouvelles périodes, nouvelles distributions ou situations moins représentées dans les données historiques.

Cette évolution ne signifie pas nécessairement que l’apprentissage initial était mauvais. Elle peut simplement révéler que certaines relations apprises étaient plus dépendantes du contexte qu’elles ne le semblaient.

La généralisation ne consiste donc pas uniquement à réussir sur des observations absentes de l’entraînement. Elle suppose également que ce qui a été appris reste suffisamment pertinent lorsque les nouvelles observations ne ressemblent plus exactement à celles qui ont servi à apprendre.

Dans les deux cas, une compétence devient d’autant plus intéressante qu’elle peut être mobilisée au-delà des conditions précises dans lesquelles elle a été acquise.

9. Savoir ce qui n’apporte plus rien fait aussi partie de l’apprentissage

Toutes les expériences d’apprentissage ne conduisent pas à une nouvelle compétence. Et toutes les expériences Machine Learning ne conduisent pas à un meilleur modèle.

Ce résultat peut sembler décevant si l’objectif d’une expérience est uniquement défini comme :

améliorer la métrique.

Mais une expérience négative peut également apprendre quelque chose sur le problème.

Si plusieurs nouvelles features n’apportent aucun gain, que différentes architectures reproduisent les mêmes erreurs et que plusieurs combinaisons ne modifient pas le résultat final, une information importante commence à apparaître :

Le système exploite peut-être déjà une grande partie du signal disponible dans cette direction.

À mesure que ces résultats convergent, explorer de nouvelles variantes de la même piste a de moins en moins de chances d’apporter une information réellement nouvelle.

Cette situation possède elle aussi un parallèle humain. Lorsqu’une personne maîtrise déjà un type d’exercice, lui faire répéter indéfiniment des variantes presque identiques peut produire moins de progrès que l’introduction d’une nouvelle difficulté.

Dans les deux cas, progresser ne consiste pas seulement à accumuler davantage de ce que l’on possède déjà. Il faut parfois identifier ce qui manque encore.

10. Là où le parallèle s’arrête

Ces ressemblances sont utiles pour se construire une intuition. Elles ne doivent cependant pas conduire à assimiler apprentissage humain et Machine Learning.

Un neurone artificiel n’est pas une reproduction simplifiée d’un neurone biologique, et l’organisation d’un réseau neuronal artificiel ne reproduit pas mécaniquement le fonctionnement d’un cerveau.

De même :

Une fonction de perte n’est pas une motivation
Une mise à jour de paramètres n’est pas un souvenir
Une epoch n’est pas une séance de révision
Un dataset n’est pas l’ensemble des expériences vécues par une personne
La généralisation statistique d’un modèle ne résume pas la compréhension humaine

Les mécanismes, les capacités et les contraintes sont profondément différents. L’intérêt du parallèle se situe ailleurs.

Humains et modèles peuvent être confrontés à des problèmes d’évaluation qui se ressemblent sans que leurs mécanismes d’apprentissage soient équivalents.

Dans les deux cas, une réussite observée sur des situations familières peut donner une image exagérément favorable de ce qui a réellement été acquis.

Dans les deux cas également, varier les situations et observer la structure des erreurs permet d’obtenir davantage d’information qu’une simple mesure de réussite moyenne.

L’analogie devient donc utile tant qu’elle sert à expliquer un problème. Elle devient trompeuse lorsqu’elle prétend expliquer par le même mécanisme comment humains et machines apprennent.

11. Conclusion

Les parallèles les plus intéressants entre apprentissage humain et apprentissage machine ne viennent finalement pas de leur fonctionnement interne. Ils apparaissent lorsqu’on cherche à déterminer ce qui a réellement été appris.

Répéter correctement ce qui a déjà été vu est relativement facile à mesurer. Déterminer si cet apprentissage reste utile lorsque la situation change est beaucoup plus difficile.

Une bonne performance indique qu’un système sait traiter les situations sur lesquelles elle a été mesurée. Une véritable capacité de généralisation demande que cette compétence résiste à des situations suffisamment nouvelles pour ne pas être simplement la reproduction de ce qui a servi à l’acquérir.

C’est peut-être là que le parallèle avec l’apprentissage humain est le plus utile. On mesure moins ce qui a été appris par la capacité à reproduire le passé que par ce qu’il devient possible de faire face à une situation nouvelle.