Comportement des machines

Le domaine émergent du comportement des machines étudie les comportements des agents intelligents de la même manière que de nombreuses disciplines scientifiques étudient le comportement des êtres humains. L'AGI (ou IA forte) est une intelligence générale artificielle. Elle requiert la capacité des systèmes d'IA à résoudre des problèmes non familiers, des situations qui n'ont pas encore été programmées. Comme les systèmes d'IA avancés disposent d'un certain degré d'autonomie et de la capacité d'agir de manière indépendante, leur comportement est relativement imprévisible - il ne peut être entièrement déterminé par l'examen de leur logiciel, pas plus que le comportement humain ne peut être prédit avec précision par l'examen de notre cerveau. Cette imprévisibilité ne fera qu'augmenter à mesure que les systèmes d'IA deviendront plus intelligents et autonomes et interagiront les uns avec les autres dans différents environnements. L'étude du comportement des machines est recommandée pour détecter les complications imprévues de l'autonomie de l'IA, afin de pouvoir y faire face avant qu'elles n'entraînent des conséquences indésirables.

Manuel Cebrian et Iyad Rahwan, qui ont écrit dans Nautilus : "Cette nouvelle discipline concerne l'étude scientifique des machines non pas en tant qu'artefacts d'ingénierie mais en tant que classe d'acteurs entièrement nouvelle, avec des modèles de comportement et une écologie uniques."