Fonction d’activation

Définition - Que signifie la fonction d'activation?

Une fonction d'activation est la fonction d'un neurone artificiel qui délivre une sortie basée sur des entrées. Les fonctions d'activation dans les neurones artificiels sont une partie importante du rôle que jouent les neurones artificiels dans les réseaux de neurones artificiels modernes.

Definir Tech explique la fonction d'activation

Une façon de comprendre la fonction d'activation est de regarder un «modèle» visuel du neurone artificiel. La fonction d'activation se situe à «l'extrémité» de la structure neurale, et correspond à peu près à l'axone d'un neurone biologique.

Une autre façon de le comprendre est d'examiner la terminologie autour de son utilisation. Les professionnels de l'informatique parlent de la fonction d'activation lorsqu'ils discutent d'une sortie binaire - un 1 ou un 0 - ou d'une fonction qui trace une plage de sorties en fonction des entrées. Dans ces cas, les professionnels de l'informatique et d'autres utilisent souvent les termes «fonction de transfert» et «fonction d'activation» de manière interchangeable, bien que la fonction de transfert soit plus souvent associée au graphique qui scanne une gamme de sorties. Diverses fonctions guident la sortie qui filtre à travers les couches du réseau neuronal jusqu'à la couche de sortie finale des neurones ou des nœuds.

Il est également important de faire la distinction entre les fonctions d'activation linéaires et non linéaires. Là où les fonctions d'activation linéaires maintiennent une constante, les fonctions d'activation non linéaires créent plus de variation qui utilise la construction du réseau neuronal. Des fonctions telles que sigmoïde et ReLU sont couramment utilisées dans les réseaux de neurones pour aider à créer des modèles fonctionnels.