Module Cognition et Connaissance

1
Module Cognition et Connaissance
Réseaux bayésiens

• Damien CRAM damien.cram_at_ecl2006.ec-lyon.fr
  
• Madeth MAY
• may.madeth_at_itc.edu.kh
• Rémi GUELTON
• remi.guelton_at_ecl2006.ec-lyon.fr
• Sereysethy TOUCH
• touch.sereysethy_at_itc.edu.kh

14 novembre 2005
2
Module Cognition et Connaissance
1
Réseaux bayésiens

• PLAN DE LA PRESENTATION
• Introduction aux Réseaux bayésiens
• Théorème de Bayes
• Notion de causalité
• Inférences
• Apprentissage
• Des applications des Réseaux bayésiens
• Conclusion
• Bibliographies

gtgt Plan de la présentation
3
Module Cognition et Connaissance
2
Réseaux bayésiens

1. Introduction aux Réseaux bayésiens

Généralité Un des enjeux principaux dans le
domaine de la recherche IA est d'être capable de
concevoir et développer des systèmes dynamiques
et évolutifs. ? Comportements intelligents qui
peuvent apprendre et raisonner. Problèmes? Les
connaissances acquises ne sont pas toujours
adéquates afin de permettre au système de faire
une décision la plus appropriée
possible. Solutions? Plusieurs méthodologies ont
été proposées. ? Choix les approches
probabilistes Mieux adaptées - au
raisonnement avec la connaissance et la croyance
incertaine - à la structure de la
représentation de la connaissance
gtgt Introduction aux Réseaux bayésiens\Généralité
4
Module Cognition et Connaissance
3
Réseaux bayésiens

1. Introduction aux Réseaux bayésiens

• Approches probabilistes
• Chaque état de changement (événement) dans le
  monde réel peut être modélisé sous forme de
  probabilité.
• Par exemple, modéliser certains états de
  changement dune voiture, dun corps humain,
  dun marché financier, etc.
• La probabilité d'un événement A est un nombre
  compris entre 0 et 1
• Si P(A) 1 alors la chance pour laquelle
  l'événement A aura lieu est certaine
• Deux événements A et B sont dits indépendants
  si P(A,B) P(A) . P(B)
• Etant donné que l'événement B sest produit, la
  probabilité de lévénement A se produira est x,
  et sécrit P(AB) x

gtgt Introduction aux Réseaux bayésiens\Approches
probabilistes
5
Module Cognition et Connaissance
4
Réseaux bayésiens

1. Introduction aux Réseaux bayésiens

• Réseaux bayésiens (1/2)
• Définition
• Les réseaux bayésiens sont la combinaison des
  approches probabilistes et la théorie de graphes.
  Autrement dit, ce sont des modèles qui permettent
  de représenter des situations de raisonnement
  probabiliste à partir de connaissances
  incertaines.
• Ils sont aussi connus sous le nom de "belief
  networks", "causal networks".
• Un réseau bayésien est un graphe acyclique
  orienté(1) i.e. c'est un graphe orienté sans
  circuit.
• Chaque nœud dun réseau bayésien porte une
  étiquette qui est un des attributs de problème.
• (1) On dit souvent un DAG. De langlais directed
  acyclic graph.

gtgt Introduction aux Réseaux bayésiens\Réseaux
bayésiens\Définition
6
Module Cognition et Connaissance
5
Réseaux bayésiens

1. Introduction aux Réseaux bayésiens

Réseaux bayésiens (2/2) Exemple
A et C sont conditionnellement indépendants alors
on peut dire la probabilité P(AB,C)
P(AB)Cest-à-dire que la probabilité de A ne
dépend que celle de B
La probabilité jointe de toutes les variables est
P(A,B,C) P(AB) . P(B) . P(CB)
gtgt Introduction aux Réseaux bayésiens\Réseaux
bayésiens\Exemple
7
Module Cognition et Connaissance
6
Réseaux bayésiens
2. Théorème de Bayes
Révérend Thomas Bayes, 1702-1761, un théologien
et mathématicien britannique qui a écrit une loi
de base de probabilité qui est maintenant appelée
le théorème de Bayes. Deux événement A et B qui
sont conditionnellement dépendants et un contexte
c, le théorème de Bayes peut être représenté
comme ci-dessous
Où
P(BA,c) est la probabilité a posteriori ou la
probabilité de B après avoir pris en compte
l'effet de A dans un contexte c, P(Bc) est la
probabilité a priori de l'événement B, P(AB,c)
est la probabilité de A si l'on suppose que B est
vrai dans un contexte c. Elle est appelée aussi
la "vraisemblance", P(Ac) est la normalisation.
gtgt Théorème de Bayes
8
Module Cognition et Connaissance
7
Réseaux bayésiens
2. Théorème de Bayes
Exemple Supposez que vous habitez à Londres,
Angleterre, et d'après votre connaissance,
pendant l'hiver, il pleut 50 du temps et que
c'est nuageux 80 du temps (quelquefois c'est
nuageux sans pluie). Vous savez, bien sûr, que
100 du temps, s'il pleut, alors c'est aussi
nuageux. Quelle est la chance que vous pensez
qu'il va pleuvoir sachant qu'il soit simplement
nuageux? En appliquant la règle de Bayes, on
peut calculer ceci
Où
Pl il pleut à Londres N Il est
nuageux Donc, 5/8 du temps, à Londres pendant
hiver, si c'est nuageux, alors c'est pluvieux.
gtgt Théorème de Bayes\Exemple
9
Module Cognition et Connaissance
8
Réseaux bayésiens
3. Notion de causalité

• Il sagit de la notion de  causes  et
   effets 
• Si A et B sont en relation causale, on les relie
  par une flèche orientée.

A
B
gtgt Notion de causalité
10
Module Cognition et Connaissance
9
Réseaux bayésiens
3. Notion de causalité

• Exemple (1/2)
• Ce matin-là, alors que le temps est clair et sec,
  M. Homles sort de sa maison. Il saperçoit que la
  pelouse de son jardin est humide. Il se demande
  alors sil a plu pendant la nuit, où sil a
  simplement oublié de débrancher son arroseur
  automatique. Il jette alors un coup dœil à la
  pelouse de son voisin, M. Watson, et saperçoit
  quelle est également humide. Il en déduit alors
  quil a probablement plu, et il décide de partir
  au travail sans vérification son arroseur
  automatique.

gtgt Notion de causalité\Exemple
11
Module Cognition et Connaissance
10
Réseaux bayésiens
3. Notion de causalité

• Exemple (2/2)
• Prenons
• A Jai oublié de débrancher mon arroseur
  automatique.
• P Il a plu pendant la nuit.
• J Lherbe de mon jardin est humide.
• W Lherbe du jardin de M. Watson est humide.

gtgt Notion de causalité\Exemple
12
Module Cognition et Connaissance
11
Réseaux bayésiens
4. Inférences (1/4)

• Propager une ou plusieurs informations certaines
  au sein de réseaux bayésiens
• Déduire comment sont modifiées les croyances
  concernant les autres nœuds
• Inconvénient le temps de calcul est exponentiel

gtgt Inférences
13
Module Cognition et Connaissance
12
Réseaux bayésiens
4. Inférences (2/4)
Probabilité a priori
Événement Probabilité Commentaire
AV 0.4 M. Holmes oublie assez souvent de débrancher son arroseur automatique.
AF 0.6 M. Holmes oublie assez souvent de débrancher son arroseur automatique.
PV 0.4 La région est relativement pluvieuse
PF 0.6 La région est relativement pluvieuse
Probabilités conditionnelles
AV AV AF AF
PV PF PV PF
JV 1 1 1 0
JF 0 0 0 1
PV PF
WV 1 0
WF 0 1
gtgt Inférences\Probabilité a priori et
Probabilités conditionnelles
14
Module Cognition et Connaissance
13
Réseaux bayésiens
4. Inférences (3/4)

• Un peu de calcul
• P(AVJV) 0.625
• P(PVJV) 0.625
• P(AVJV,WV) 0.4
• P(PVJV,WV) 1

gtgt Inférences\Un peu de calcul
15
Module Cognition et Connaissance
14
Réseaux bayésiens
4. Inférences (4/4)

• Plusieurs méthodes sont proposés
• Conditionnement
• Arbre de jonction
• Méthodes approchées

gtgt Inférences\Méthodes
16
Module Cognition et Connaissance
15
Réseaux bayésiens
5. Apprentissage

• Permettre de trouver des paramètres nécessaires
  pour faire des inférences.
• Deux méthodes sont utilisés
• - Apprentissage de paramètres,
• - Apprentissage de structure.

gtgt Apprentissage
17
Module Cognition et Connaissance
16
Réseaux bayésiens
6. Des applications des réseaux bayésiens (1/2)

• Marketing/Finance
• ATT détection de fraudes pour les factures de
  téléphone
• Altaprofit optimisation de portefeuilles
• Informatique
• Microsoft différents assistants de résolution
  de problèmes, lassistant Office.
• MODIST évaluation de la qualité pour des
  développements logiciels
• Reconnaissance de la parole, dobjets 3D
• Diagnostic

gtgt Des applications des réseaux bayésiens
18
Module Cognition et Connaissance
17
Réseaux bayésiens
6. Des applications des réseaux bayésiens (2/2)

• Médecine
• Aide au diagnostic de problèmes
  cardio-vasculaires
• Surveillance transfusionnelle, ...
• Industrie
• NASA (Vista) aide au diagnostic de pannes en
  temps réel pour les systèmes de propulsion de la
  navette
• Lockheed Martin système de contrôle dun
  véhicule sous-marin autonome
• Ricoh aide au télédiagnostic
• EDF modélisation de groupes électrogènes
• Environnement 
• Prédiction des pics dozone
• Prévisions météo

gtgt Des applications des réseaux bayésiens
19
Module Cognition et Connaissance
18
Réseaux bayésiens
6. Des applications des réseaux bayésiens

• Exemples
• AutoClass (NASA)
• Création de classes  naturelles  à partir de
  données numériques
• Appartenance probabiliste
• Gestion de données manquantes

gtgt Des applications des réseaux
bayésiens\Exemples\AutoClass(NASA)
20
Module Cognition et Connaissance
19
Réseaux bayésiens
6. Des applications des réseaux bayésiens

• Exemples
• De nombreuses utilisations pour la NASA et pour
  dautres

gtgt Des applications des réseaux
bayésiens\Exemples\Nombreuses utilisations
21
Module Cognition et Connaissance
20
Réseaux bayésiens
6. Des applications des réseaux bayésiens

• Exemples
• Aide au diagnostic médical
• Diagnostique dune maladie pulmonaire à partir
  de
• les symptômes du patient
• ses activités
• les résultats de la radiographie

gtgt Des applications des réseaux
bayésiens\Exemples\Aide au diagnostic médical
22
Module Cognition et Connaissance
21
Réseaux bayésiens
6. Des applications des réseaux bayésiens

• Construction dun réseaux bayésien
• La construction dun réseau bayésien se fait en 4
  étapes
• 1 - création des variables représentant
  lunivers
• 2 - définition de lensemble des valeurs
  possibles pour chaque variable
• 3 - définition des relations de dépendances
  entre les variables
• 4 - attribution des probabilités conditionnelles

gtgt Des applications des réseaux
bayésiens\Construction dun réseau bayésien
23
Module Cognition et Connaissance
22
Réseaux bayésiens
6. Des applications des réseaux bayésiens

• Revenons à lexemple
• Aide au diagnostic
• démonstration avec BayesiaLab

gtgt Des applications des réseaux
bayésiens\Démonstration avec BayesiaLAB
24
Module Cognition et Connaissance
23
Réseaux bayésiens
7. Conclusion

• Les réseaux bayésiens
• Formalisme mathématique rigoureux basé sur des
  règles.
• Outil puissant pour laide à la décision et au
  diagnostic.
• Intelligence artificielle exploitation des
  connaissances incertaines.
• Limites causalité, complexité.

gtgt Conclusion\Les réseaux bayésiens
25
Module Cognition et Connaissance
24
Réseaux bayésiens
7. Conclusion

• Etat de la recherche
• Projet SIGMA2 de lINRIA
• Automobile identification du comportement
  dynamique d'un véhicule routier
• Télécommunications diagnostic de pannes dans
  les réseaux de télécommunications
• Aéronautique diagnostic de pannes dans les
  réseaux de télécommunications
• Chaînes de Markov systèmes dynamiques
  stochastiques, optimisation dun portefeuille
• Optimisation dalgorithmes

gtgt Conclusion\Etat de la recherche
26
Merci de votre attention ? Questions
27
Module Cognition et Connaissance
Réseaux bayésiens
8. Bibliographies
1 Pearl, J. (1988). Probabilistic Reasoning
in Intelligent Systems Networks of Plausible
Inference. Morgan Kaufmann, San Mateo, CA. 2
Howard, R. A., Matheson, J. E. (1981).
Influence diagrams. In Howard, R. A.,
Matheson, J. (Eds.), The Principles and
Applications of Decision Analysis, page 720762.
Strategic Decisions Group, CA. 3 Antoine
Cornuéjols, Laurent Miclet, Apprentissage
artificiel Concepts et algorithmes, édition
Eyrolles, page 364-365. 4 Stutz, J. P.
Cheeseman, "A Short Exposition on Bayesian
Inference and Probability." June 1994. National
Aeronautic and Space Administration Ames Research
Centre Computational Sciences Division, Data
Learning Group, 5 Thomas Richardson. Bayes
Net course, Helsinki, April 1997. Lecture 4 part
2, page 5. http//www.cs.helsinki.fi/research/cosc
o/Calendar/BNCourse/Notes.html 6 Todd A.
Stephenson. An introduction to Bayesian network
theory and usage. IDIAP-RR 00-03, febuary 2003