Tout système d'intelligence artificielle qui n'est pas transparent pour les utilisateurs ou autres parties intéressées, appelé black box AI. Une boîte noire, au sens général, est un système impénétrable.
La modélisation de l'apprentissage profond est généralement réalisée par le biais d'un développement en boîte noire : L'algorithme prend des millions de points de données en entrée et met en corrélation des caractéristiques de données spécifiques pour produire une sortie. Ce processus est largement autodirigé et est généralement difficile à interpréter pour les scientifiques des données, les programmeurs et les utilisateurs. Si le logiciel n'est pas facile à comprendre ou à visualiser, des erreurs peuvent être manquées et causer de graves problèmes. Les biais de l'IA, par exemple, peuvent être introduits dans les algorithmes comme le reflet de préjugés conscients ou inconscients de la part des développeurs, ou ils peuvent se glisser par des erreurs non détectées. Un algorithme biaisé peut conduire à des résultats biaisés, qui peuvent être choquants pour les personnes concernées. Le biais d'un algorithme peut provenir des données d'entraînement lorsque les détails de l'ensemble de données ne sont pas reconnus. Par exemple, l'IA a été utilisée pour sélectionner des travailleurs informatiques à partir de données historiques. L'algorithme était biaisé en faveur des candidats masculins, car les travailleurs de l'informatique sont majoritairement des hommes. Si une telle situation résulte d'une IA en boîte noire, elle peut persister suffisamment longtemps pour que l'organisation subisse une atteinte à sa réputation et, éventuellement, des actions en justice pour discrimination. Les mêmes problèmes peuvent également survenir lorsque les développeurs d'IA utilisent des préjugés contre d'autres personnes.
- Black hat SEO Le black hat SEO est un type de tactique d'optimisation des moteurs de recherche peu scrupuleuse utilisée pour augmenter illégitimement le classement d'un site Web dans les pages de résultats des moteurs de recherche (SERP) ou abaisser le classement du site d'un concurrent. La position d'un site web sur une...
- Box plot Un box plot est une représentation graphique de données statistiques basée sur le minimum, le premier quartile, la médiane, le troisième quartile et le maximum. Le box plot est un graphique d'aspect rectangulaire avec des lignes allant du haut vers le bas. En raison de l'extension des lignes, ce type...
- X-Box La X-Box est une console de jeu développée par Microsoft pour offrir aux joueurs une expérience interactive plus réaliste et immédiate que les consoles actuelles et pour permettre à Microsoft d'acquérir une position de leader sur le marché des consoles de jeu. La X-Box est équipée d'un processeur Intel de...
- Loot box Dans les jeux vidéo, une loot box est un achat en jeu consistant en un conteneur virtuel qui récompense les joueurs avec des objets et des modifications basés sur le hasard. Un type de microtransaction, les loot boxes peuvent être considérées comme une sorte de boîte à butin. Les loot...