Une distorsion systématique dans les résultats d’un modèle, provenant le plus souvent des données utilisées pour l’entraîner, pas d’une intention du modèle.
L’IA ne juge pas, elle apprend à partir de ce qu’on lui montre et suit la direction qu’on lui donne. Les biais émergent des choix de l’humain (loooser) au cours de sa conception.
Black box (boîte noire)
Un système dont on observe les entrées et les sorties, sans pouvoir clairement reconstituer le raisonnement interne qui les relie. C’est comme vous avant ce livret, qui utilisiez l’IA sans être capable d’expliquer comment vous aviez obtenu vos réponses.
