Initialisation de xavier

Définition - Que signifie Xavier Initialization?

L'initialisation de Xavier est une tentative pour améliorer l'initialisation des entrées pondérées du réseau neuronal, afin d'éviter certains problèmes traditionnels d'apprentissage automatique. Ici, les poids du réseau sont sélectionnés pour certaines valeurs intermédiaires qui présentent un avantage dans l'application d'apprentissage automatique.

Definir Tech explique l'initialisation de Xavier

Certains experts expliquent que l'initialisation de Xavier aide les technologies d'apprentissage automatique à converger, car les fonctions d'activation des neurones sont dans une plage décente - selon les mots de certains scientifiques des données, pas dans des régions «saturées» ou «mortes»: pondération équilibrée d'une manière qui facilite de meilleurs résultats.

Les entrées pondérées mènent à la fonction de transfert, qui conduit à la fonction d'activation et au résultat final. Dans l'initialisation de Xavier, il y a la philosophie selon laquelle la variance des sorties d'une couche réseau doit être égale à la variance des entrées, ce qui conduit à nouveau à une sorte de stabilité et de stase dans les procédures d'apprentissage automatique.