Un ensemble de règles et de mécanismes intégrés à un système d’IA pour encadrer son comportement et limiter le risque qu’il sorte de son périmètre prévu, produise un contenu interdit, hallucine une réponse ou traite une demande hors sujet.
Les grands laboratoires d’IA recrutent d’ailleurs des philosophes, juristes et spécialistes de l’éthique pour décider où placer ces fameuses limites. Comme quoi, même les robots ont fini par avoir besoin d’un comité de déontologie.
Gouvernance IA
Contrôle surprise :
Quand une IA se trompe, qui est responsable : l’outil, celui qui l’a programmé ou celui qui l’a utilisé ?
Vous séchez ? Normal, la réponse (et la responsabilité) dépend du contexte, du rôle de chacun et du niveau de risque de l’usage.
La gouvernance, c’est justement la tentative d’y répondre avant qu’un cas extrême n’arrive. C’est l’ensemble des règles, processus et responsabilités qu’une organisation met en place pour encadrer l’usage de l’IA en interne, qui a le droit de l’utiliser, pour quoi et avec quel contrôle.
GPT (Generative Pre-trained Transformer)
Ce n’est toujours pas une grosse voiture sous whey.
C’est le nom d’une famille de modèles de langage développés par OpenAI (ChatGPT en est l’interface la plus connue), entraînés au préalable sur d’immenses volumes de texte pour ensuite générer des réponses. C’est le nom d’une famille précise de modèles, pas un synonyme générique pour « IA ».
Grounding (ancrage documentaire)
C’est le GPS de l’IA. Au lieu de la laisser improviser l’itinéraire en affirmant très fort qu’elle connaît bien le quartier, on lui donne une carte précise : documents, sources, passages vérifiables.
Elle peut encore se tromper mais au moins, elle ne vous embarque pas dans « un petit raccourci de connaisseur » qui finit 18 minutes plus tard devant une barrière de chantier.
On fournit à un modèle d’IA des documents ou des sources précises et vérifiables et on lui demande de fonder sa réponse dessus plutôt que seulement sur ce qu’il a appris pendant son entraînement.
