Hallucination informatique

Une hallucination informatique est une erreur d'interprétation dans les technologies de vision artificielle (IA) et d'apprentissage automatique. Les hallucinations informatiques amènent les systèmes d'IA à mal classer ce qu'ils pourraient autrement classer correctement et peuvent être causées par un certain nombre de raisons. Par exemple, un système visuel peut interpréter une pierre brillante comme un œil - et ensuite, parce qu'il a mal interprété cette seule caractéristique, continuer à mal interpréter d'autres caractéristiques autour de la pierre pour construire un animal. Google Dream a été créé pour vendre ce type de mauvaise interprétation. Le service Dream traite une image, puis la retraite, en changeant sa signification et en ajoutant des biais pour mettre en valeur les caractéristiques jusqu'à ce qu'elles soient dessinées en paysages. Cela crée des images qui rappellent un voyage psychédélique. Une mauvaise utilisation intentionnelle des algorithmes de rétropropagation, qui sont utilisés pour corriger les erreurs lors de l'apprentissage de l'IA, peut provoquer des hallucinations informatiques. L'image source n'ajuste pas les pondérations afin d'augmenter la précision. Au contraire, elle met davantage l'accent sur les réponses incorrectes et les rend plus importantes. Les hallucinations informatiques peuvent également se trouver dans des fichiers audio. Curieusement, un segment de la Suite pour violoncelle 1 de Bach aurait été transcrit sous la forme "La parole peut être intégrée à la musique" par Nicolas Carlini, un chercheur de Google Brain.