Comment fonctionne un réseau de neurones ?
Des entrées aux couches, puis à la sortie : suivre un calcul avant l’apprentissage.
Avant de comprendre comment un réseau apprend, suivons ce qu'il calcule. Dans cette partie, ses réglages restent fixes : tu verras deux entrées traverser deux neurones, puis produire une sortie. Aucun apprentissage ne se déroule encore.
Donner des nombres au réseau
Un réseau traite des valeurs numériques : les pixels d'une image, par exemple, ou les nombres qui représentent des fragments de texte. Dans notre atelier, on se limite à deux entrées abstraites, x₁ = 0,8 et x₂ = 0,3. Elles servent à observer le calcul ; elles ne décrivent pas un cas réel à diagnostiquer.
Poids, biais, activation
Chaque connexion porte un poids : l'entrée est multipliée par ce nombre. Avec nos entrées positives, un poids positif augmente la somme, un poids négatif la diminue. On ajoute un biais, une constante qui décale cette somme.
Puis une fonction d'activation transforme le résultat. Ici, c'est une sigmoïde : elle donne une valeur entre 0 et 1. D'autres réseaux utilisent d'autres fonctions. L'activation permet de dépasser les relations que de simples additions et multiplications successives pourraient représenter.
Prenons le neurone h₁ de l'atelier. Ses deux poids valent 1,2 et −0,8 ; son biais vaut 0,1 :
La première entrée contribue pour 1,2 × 0,8 = 0,96 ; la seconde pour −0,8 × 0,3 = −0,24. Avec le biais, la somme vaut 0,96 − 0,24 + 0,1 = 0,82. La sigmoïde transforme ensuite cette somme en h₁ ≈ 0,694.
La valeur 0,694 est un résultat de calcul. Elle ne signifie pas automatiquement « 69,4 % de chances que la réponse soit vraie ».
Des couches, un trajet
Les deux entrées alimentent les neurones h₁ et h₂, qui forment une couche cachée. « Cachée » signifie simplement qu'elle se trouve entre les entrées et la sortie. Chaque neurone réalise son propre calcul, avec ses propres poids et son biais.
Les valeurs produites par h₁ et h₂ deviennent ensuite les entrées du neurone de sortie y. Ce trajet, de l'entrée vers la sortie, s'appelle la propagation avant. Dans ce petit réseau, elle utilise six poids et trois biais ; elle ne les modifie pas.
Suivre, puis modifier un réglage
Commence par Réinitialiser, puis avance avec Pas suivant. Sélectionne h₁ : retrouve la somme 0,82 et son activation. Continue jusqu'à la sortie, qui vaut environ 0,668 avec les réglages initiaux.
Ensuite, sélectionne h₁ et passe son premier poids de 1,2 à −1,2. Comme x₁ est positif, sa contribution devient négative : la somme et l'activation de h₁ baissent. Relance la propagation, puis regarde la nouvelle sortie : une modification dans la couche cachée a un effet plus loin dans le réseau.
Suis la propagation, neurone par neurone
Deux entrées traversent une couche de deux neurones avant d’atteindre la sortie. Suis les valeurs pas à pas ou lance la propagation. Sélectionne un neurone pour voir ses contributions, sa somme et sa sigmoïde ; change ses poids pour observer leur effet. Les paramètres sont choisis pour l’exemple.
Tu as changé un paramètre à la main. Le réseau n'a pas appris à reconnaître une image ni à résoudre un problème : ses poids sont choisis pour cet exemple. La partie 3 montrera comment un calcul d'erreur peut guider leur ajustement.
À retenir
Chaque neurone combine ses entrées, ajoute un biais et applique une activation. Les sorties d'une couche alimentent la suivante. La propagation avant produit une réponse avec les réglages actuels ; l'apprentissage sert à changer ces réglages à partir d'exemples.