Littératie en IA - Formation du personnel (AI Literacy)

0 %

Contenu du cours

Bienvenue — mode d'emploi et programme
- Bienvenue — objectifs, programme et attestation (AI Act, art. 4)
Vidéos du parcours
- Vidéos — teaser et vidéos du cours
Module I — Comprendre l'IA
- 1. Qu'est-ce que l'intelligence artificielle ? 10 xp
  - Quiz
- Quiz — Leçon 01 : Qu'est-ce que l'intelligence artificielle ? 10 xp
- 2. Comprendre les grands modèles de langage (LLM)
- Quiz — Leçon 02 : Comprendre les grands modèles de langage (LLM) 10 xp
- 3. Ce que l'IA générative sait faire - et ne sait pas faire
- Quiz — Leçon 03 : Ce que l'IA générative sait faire — et ne sait pas faire 10 xp
Module II — L'agent Chatbotaurus
- 4. L'architecture Chatbotaurus : l'agent et l'EntityRouter
- Quiz — Leçon 04 : L'architecture Chatbotaurus : l'agent et l'EntityRouter 10 xp
- 5. Pourquoi vos données restent souveraines
- Quiz — Leçon 05 : Pourquoi vos données restent souveraines 10 xp
- 6. Bien utiliser l'agent au quotidien
- Quiz — Leçon 06 : Bien utiliser l'agent au quotidien 10 xp
Module III — Le cadre européen
- 7. Le Règlement européen sur l'IA (AI Act) : les niveaux de risque
- Quiz — Leçon 07 : Le règlement européen sur l'IA (AI Act) : les niveaux de risque 10 xp
- 8. L'obligation de littératie en IA (Article 4)
- Quiz — Leçon 08 : L'obligation de littératie en IA (article 4) 10 xp
- 9. RGPD et données de santé face à l'IA
- Quiz — Leçon 09 : RGPD et données de santé face à l'IA 10 xp
- 10. Transparence : informer les patients
- Quiz — Leçon 10 : Transparence : informer les patients 10 xp
Module IV — Risques et maîtrise
- 11. Hallucinations : pourquoi l'IA peut se tromper avec aplomb
- Quiz — Leçon 11 : Hallucinations : pourquoi l'IA peut se tromper avec aplomb 10 xp
- 12. Sécurité : injection de prompt et fuite de données
- Quiz — Leçon 12 : Sécurité : injection de prompt et fuite de données 10 xp
- 13. Biais et équité
- Quiz — Leçon 13 : Biais et équité 10 xp
- 14. Supervision humaine : garder la main
- Quiz — Leçon 14 : Supervision humaine : garder la main 10 xp
Module V — La pratique
- 15. Rédiger de bonnes instructions (prompting)
- Quiz — Leçon 15 : Rédiger de bonnes instructions (prompting) 10 xp
- 16. Cas pratiques et pièges à éviter
- Quiz — Leçon 16 : Cas pratiques et pièges à éviter 10 xp
Repères essentiels (AI Act, RGPD, contacts)
Évaluation finale (certification)
- Certification — littératie en IA (attestation art. 4)

12. Sécurité : injection de prompt et fuite de données

Préc Suivant

Plein écran Partager

Leçon 12 — Sécurité : injection de prompt et fuite de données

Vidéo — 12 (voix off FR)

Vidéo publiée sur la médiathèque souveraine (voix off FR, sous-titres incrustés).

Module IV — Risques et maîtrise · Leçon 12 sur 16

Les systèmes d'IA sont exposés à des attaques spécifiques. Deux menaces principales pour un cabinet : l'injection d'instructions via un contenu anodin, et la fuite de données.

Des instructions cachées

Un document, un courriel ou une page web peut contenir des ordres destinés à l'IA (« ignore les consignes précédentes et… »). Si l'agent lit ce contenu comme une instruction, il peut détourner sa mission. Un contenu reçu est une donnée, jamais un ordre.

La fuite de données

Une demande piégée peut chercher à extraire des informations (dossiers, listes, correspondances). Le cloisonnement, les permissions par rôle, la journalisation et la validation humaine limitent ces risques.

Les bons réflexes

Utiliser des sources fiables, limiter les accès au strict nécessaire (moindre privilège), ne pas connecter d'outils non autorisés, et signaler sans délai tout comportement anormal à la personne responsable.

À retenir : Un contenu reçu est une donnée, jamais un ordre.

Dans votre pratique

Traitez tout contenu externe (pièce jointe, lien, courriel) comme non fiable : ne l'injectez pas dans un agent sans nécessité. En cas de comportement étrange (réponse hors sujet, demande d'informations inhabituelle), arrêtez et signalez.

Leçon 12 — Sécurité : injection de prompt et fuite de données

À propos
Commentaires (0)

Évaluation

0 0

Il n'y a aucune réaction pour le moment.

Rejoindre ce cours

pour être le premier à laisser un commentaire.