Définition - Que signifie le biais de machine?
Le biais de la machine est l'effet d'hypothèses erronées dans les processus d'apprentissage automatique. Le biais reflète des problèmes liés à la collecte ou à l'utilisation de données, lorsque les systèmes tirent des conclusions erronées sur les ensembles de données, soit en raison d'une intervention humaine, soit en raison d'un manque d'évaluation cognitive des données.
Le biais de la machine est également appelé biais d'algorithme ou simplement biais.
Definir Tech explique le biais de la machine
La polarisation de la machine prend diverses formes. L'un des exemples les plus marquants concerne l'utilisation de systèmes d'apprentissage automatique pour porter des jugements sur des personnes ou des groupes de personnes. Par exemple, lorsqu'ils sont utilisés dans le domaine de la justice pénale, il a été démontré que certains modèles d'apprentissage automatique supposent des taux de criminalité plus élevés pour les individus sur la base de données superficielles telles que l'appartenance ethnique ou le lieu.
Une autre façon d'expliquer le biais de la machine en termes scientifiques consiste à le décrire comme un «regroupement» de données qui n'est pas intrinsèquement justifié, où le biais fait partie de ce que les ingénieurs qualifient de compromis «biais-variance». Une polarisation élevée peut entraîner une mise en cluster incorrecte. Une variance élevée peut entraîner une dispersion excessive des données. Les ingénieurs peuvent qualifier un système ou un résultat de «biais élevé, variance élevée» ou «biais faible, variance élevée» ou toute autre combinaison.