Informatique thorique IFT 15751

1
Informatique théoriqueIFT 15751
2
Objectifs principaux

• Comprendre les fondements théoriques de
  linformatique.
• Formaliser la notion de calcul automatique.
• Comprendre les limites fondamentales du calcul et
  des ordinateurs.

3

• Les ordinateurs ont des limites qui ne sont pas
  simplement technologiques.
• Exemple il nexiste pas de programme qui reçoit
  en entrée le code dun programme (de votre
  langage de programmation préféré) et qui
  détermine si ce programme contient une boucle
  infinie.

4
Modèles de calcul

• Nous étudierons des modèles de calcul de plus en
  plus sophistiqués, en analysant les limites de
  chaque modèle.
• Automates finis modèle très simple. Incapable de
  déterminer si une chaîne de bits est de la forme
  0n1n.
• Automates à piles et grammaires hors contexte.
  Plus sophistiqués mais incapable de déterminer si
  une chaîne est de la forme 0n1n0n.
• Machines de Turing aussi puissantes que
  nimporte quel ordinateur mais tout de même
  limitées.

5
Chapitre zéro

• Préliminaires et révision

6
Objectifs Généraux

• Définition et concepts de base de la théorie des
  ensembles.
• Méthodes de preuve
• Par contradiction.
• Par induction.
• Ensembles finis, infinis, dénombrables et non
  dénombrables.

7
Concepts de base de la théorie des ensembles

• Égalité de deux ensembles.
• Appartenance, inclusion, inclusion stricte.
• Lensemble puissance dun ensemble.
• Opérateurs ensemblistes.

8
Concepts de base de la théorie des ensembles

• Produit cartésien de deux ensembles.
• Relations et fonctions.
• Domaine, codomaine et image dune relation.
• Injectivité, surjectivité et bijectivité des
  fonctions.

9
Définitions et notations

• Un ensemble est une collection dobjets.
• Les objets sont appelés éléments ou membres.
• Les éléments dun ensemble ont, en général, une
  ou plusieurs propriétés qui les caractérisent.

10
Ensemble infini

• On décrit un ensemble infini en énumérant ses
  premiers éléments suivi de , lorsque le contexte
  permet de comprendre ce que sont les éléments non
  énumérés.
• E.g. lensemble des entiers positifs pairs
  est 2,4,6,8,

11
Ensemble vide

• Lensemble vide, noté ou ? est l ensemble qui
  ne contient aucun élément.

12
Exercices

• Est-ce que les ensembles suivants sont vides?
• ?
• R Non, lensemble contient lélément ?.
• x? Z xlt0 et x2 lt0
• R Oui, car x2 gt0 même quand x lt 0 donc
  lensemble ne contient aucun élément.
• R Non, lensemble contient lélément ?.

13
Égalité de deux ensembles

• Deux ensembles sont égaux si et seulement si ils
  ont les mêmes éléments.
• Exemple a,b,c et c,a,b sont égaux car ils
  contiennent les mêmes éléments a, b et c.Un
  ensemble est une collection non ordonnée
  déléments, i.e. que lordre des éléments na pas
  d importance.

14
Exercices

• ??
• R Faux, ? ne contient aucun élément alors que
  ? contient ?.
• ?
• R Vrai, ? et sont seulement deux notations
  différentes pour désigner lensemble vide.
• 1,3,5,7, n ? N (?m ? N n 2m1)
• R Vrai, ces ensembles contiennent les entiers
  naturels impairs.

15
Appartenance

• Lappartenance dun objet e à un ensemble E est
  notée e ? E.
• On dit aussi que e est un élément (ou un membre)
  de E.
• e ? E signifie que e nest pas un élément de E.

16
Ensemble puissance

• L ensemble puissance de A, noté ?(A), est
  l ensemble de tous les sous-ensembles de A.
• Exemple L ensemble puissance de 0,2,4
  est?,0,2,4,0,2,2,4,0,4,0,2,4

17
Opérations sur les ensembles

• Union
• Intersection
• Différence
• Complément dun ensemble

18
Produit cartésien

• Le produit cartésien des ensembles A et B, noté
  A?B, est l ensemble de tous les couples (a,b)
  où a ? A et b ? B.
• Exemplesa,b?1,2,3 (a,1), (a,2), (a,3),
  (b,1), (b,2), (b,3)1,22 (1,1), (1,2),
  (2,1), (2,2).

19
Relation

• Une relation R entre les ensembles A et B est un
  sous-ensemble du produit cartésien A?B, i.e. R ?
  A?B.
• Une relation est caractérisée par
• Un ensemble de départ (A),
• Un ensemble darrivée (B),
• Un ensemble de couples vérifiant la relation qui
  est un sous-ensemble du produit cartésien A?B.

20
Domaine dune relation

• Le domaine dune relation R, noté dom(R), est
  lensemble des éléments de lensemble de départ
  qui apparaissent comme première composante dun
  couple de la relation.
• Formellementdom(R)e (?e (e,e) ? R).

21
Image dune relation

• Limage dune relation, noté image(R), est
  lensemble des éléments de lensemble darrivée
  qui apparaissent au moins une fois comme deuxième
  composante dun couple de la relation.
• Formellement image(R)e(?e(e,e)?R)

22
Codomaine dune relation

• Le codomaine dune relation est lensemble
  darrivée de la relation.
• Le codomaine dune relation R est noté codom(R).

23
Exemple

• Soient S2,4,6, T0,2,8,9,11 et R(x,y) ?
  S?T x est un diviseur exact de y
• Lensemble de départ est S.
• Lensemble darrivée est T.
• La relation R est (2,0),(4,0),(6,0),(2,2),(2,8),(
  4,8).
• dom(R)2,4,6.
• Codom(R) T.
• Image(R) 0,2,8.

24
Image dun élément

• Limage dun élément a par une relation R est un
  élément b tel que (a,b) ?R.
• Lensemble image dun élément a est lensemble de
  ses images.
• Lensemble image dun ensemble est lunion de
  tous les ensembles images de ses éléments.
• Donc, limage dune relation est limage de son
  domaine.

25
Exemple

• Soit la relation suivante

• b1 et b3 sont des images de a1.
• b1,b3 est lensemble image de a1.
• b4 est lensemble image de a3.
• Limage b1,b3,b4, est limage du domaine,
  a1,a3.

26
Fonction

• Une fonction f dun ensemble A dans un ensemble B
  est une relation ayant comme ensemble de départ A
  et comme ensemble darrivée B, et chaque élément
  de A apparaît une et une seule fois comme
  première composante dun couple appartenant à f.

27
Fonction

• Une fonction doit respecter les deux conditions
  suivantes
• (?a ? A(?b ? B (a,b) ?f)),
• (?a ? A, b ? B, b?B (a,b) ?f ? (a,b) ?f ?
  bb).

28
Exemples

• f et g sont des fonctions

29
Exemple

• Q nest pas une fonction.

• Lélément a2 nest pas associé à un élément de
  lensemble darrivée,
• Lélément a1 est associé à deux éléments de
  lensemble darrivée.

30
Fonction totale versus Fonction partielle

• Nous exigeons que les fonctions soient totalement
  définies, i.e. quil faut que chaque élément de
  lensemble de départ ait une image.
• Certains auteurs nimposent pas cette condition.
  On parle alors de fonctions totales (ou
  applications) et de fonctions partielles.

31
Notation

• f A?B signifie que f est une fonction de A dans
  B
• On peut aussi écrire b f(a) au lieu de (a,b) ?
  f.

32
Fonction injective

• Une fonction est injective ssi x?y ? f(x) ?f(y).
  Autrement dit, ssi deux éléments distincts de
  lensemble de départ ont deux images différentes.

33
Exemple

• f1 et f2 sont injectives.

34
Suite de lexemple

• f3 nest pas injective.

35
Fonction surjective

• Une fonction est surjective ssi chaque élément de
  lensemble darrivée est limage dau moins un
  élément du domaine.

36
Exemple

• g1 et g2 sont surjectives.

37
Suite de lexemple

• g3 nest pas surjective.

38
Fonction bijective

• Une fonction est bijective ssi elle est injective
  et surjective.
• Autrement dit, ssi chaque élément de lensemble
  darrivée est limage dun seul élément du
  domaine.

39
Méthodes de preuve

• Une preuve est la démonstration quun énoncé est
  vrai.
• Nous reverrons deux méthodes de preuve
• preuve par contradiction
• preuve par induction

40
Objectifs spécifiques

• Démontrer un énoncé donné au moyen dune preuve
  par contradiction.
• Démontrer un énoncé donné au moyen dune preuve
  par induction.

41
Preuve par contradiction

• On prouve un énoncé P par contradiction en
  montrant que ?P?faux.
• La table suivante montre l équivalence des deux
  propositions

42
Preuve par contradiction

• Pour démontrer une implication A?B par
  contradiction, il faut montrer que ?(A?B)?faux
  
• Ce qui est équivalent à (A??B) ?faux

43
Exemple

• Démontrons par contradiction que si n est un
  entier positif tel que la somme de ses diviseurs
  est n1, alors n est un nombre premier.
• (n?N? (?diviseurs(n))n1) ?n est premier

44

• On peut facilement voir que cette proposition est
  raisonnable

45
Preuve

• ?(si n est un entier positif tel que la somme
  de ses diviseurs est n1 alors n est un
  nombre premier)
• ? ?reformulation?
• ?( n?N?(?diviseurs(n))n1?n est
  premier)
• ? ?selon exercice précédent?
• n?N?(?diviseurs(n))n1 ? ? (n est
  premier)

46

• ? ?Si n pas premier, alors n a au moins un
  diviseur d différent de 1 et de n. Donc la
  somme des diviseurs de n est supérieure ou
  égale à nd1 gt n1?
• n?N? (?diviseurs(n))n1 ? (?diviseurs(
  n))gtn1
• ? ?Quel que soit k, kn1 ? k gt n1 est
  faux?
• faux.

47
Preuve par induction

• Soit P(n) un énoncé impliquant une variable
  entière n. Pour prouver que P(n) est vrai pour
  tout n ? n0, il faut montrer que
• P(n0) est vrai,
• pour tout k ? n0, P(k) ? P(k1)

48
Principe dinduction

• La base dinduction montre que lénoncé est vrai
  pour la plus petite valeur considérée.
• À létape dinduction, on suppose P(k) vrai (
  P(k)hypothèse dinduction) et on montre que cela
  entraîne P(k1) vrai.
• Cela montre que P(n) est vrai pour tout n ?
  N.

49
Principe dinduction

• Supposons n0 0. Alors
• P(0) et
• pour tout k, P(k) ? P(k1).
• Nous avons déjà P(0).Nous avons aussi P(1) car
  P(0) ? P(1).Nous avons P(2) car P(1) ? P(2), etc.

50
Notions d infini

• Objectifs spécifiques
• Dire si la cardinalité dun ensemble S est
  inférieure à la cardinalité dun ensemble T et
  expliquer pourquoi.
• Dire si un ensemble donné est fini ou infini et
  expliquer pourquoi.
• Dire si un ensemble donné est dénombrable ou non
  et expliquer pourquoi.

51
Cardinalité dun ensemble

• La cardinalité dun ensemble S, notée S, est la
  taille de cet ensemble, la quantité déléments
  quil contient.

Notation

• Soit n ? N. Nous définissons lensemble Cn
  Cn i ? N 0 ? i lt n.

52
Définition

• Pour tout n?N, on a Cn n. La cardinalité
  d un ensemble Cn est simplement le nombre
  déléments qu il contient.

53
Définition

• On dit que la cardinalité dun ensemble S est
  inférieure ou égale à la cardinalité dun
  ensemble T (dénoté par S ? T) ssi il existe
  une fonction injective f S?T.
• On dit que la cardinalité d un ensemble S est
  égale à la cardinalité d un ensemble T (dénoté
  par ST) ssi il existe une fonction bijective
  f S?T.

54
Définition

• On dit que la cardinalité dun ensemble S est
  inférieure à la cardinalité dun ensemble T(
  dénoté par S lt T ) ssi S ? T et S ?
  T.
• Autrement dit, S ? T ssi deux éléments
  distincts de S sont associés à deux éléments
  distincts de T. Si en plus chaque élément de T
  peut être associé à un élément de S, on a S
  T.
• S T ssi il existe une fonction bijective f
  S ? T.

55
Ensembles finis et infinis

• Un ensemble S est dit fini ssi S lt N dans le
  cas contraire, i.e. S ? N, il est dit infini.

56
Ensembles dénombrables et non dénombrables

• Un ensemble S est dit dénombrable ssi S ? N.
  Dans le cas contraire, il est dit non dénombrable.

57
Énumération des éléments dun ensemble dénombrable

• Un ensemble est dénombrable ssi on peut donner
  une méthode pour énumérer ses éléments de telle
  sorte que nimporte quel élément soit nommé après
  un nombre fini détapes.

58
Exemple

• Soit lensemble infini T k?N(?n?N k 3n)
• La fonction fN?T ,définie f(n)3n,est
  bijective donc T N.
• Pour énumérer les éléments de T, il suffit de
  faire dans l ordre f(0), f(1), f(2), f(3),i.e.
  0, 3, 6, 9,
• Nimporte quel élément de T sera nommé.

59
Exemple

• Montrons que N?N est dénombrable. Cest
  lensemble des couples de nombres naturels.
• Méthode d énumération
• Énumérer les couples dont la somme des
  composantes est 0, ensuite 1, puis 2, ...
• Pour énumérer ces couples, commencer par le
  couple dont la première composante est 0, puis 1,
  puis 2, ...

60
Exemple(suite)

• Début de lénumération
• Somme
• 0 (0, 0)
• 1 (0, 1), (1, 0)
• 2 (0, 2), (1, 1), (2, 0)
• 3 (0, 3), (1, 2), (2, 1), (3, 0)
• 4 (0, 4), (1, 3), (2, 2), (3, 1), (4, 0)
• ... ...

61
Exemple(suite)

• Une telle description nous convainc parfaitement
  que nimporte quel couple (e.g. (45, 12 345))
  sera certainement nommée.
• Il est plus difficile de trouver une fonction
  bijective fN ? N?N, cest pourquoi nous avons
  montré que N?N était dénombrable en décrivant une
  méthode permettant dénumérer tous ses éléments.

62
Ensembles non dénombrables

• Existe-t-il des ensembles non dénombrables?
• Nous avons défini ce quest un ensemble non
  dénombrable mais nous nen avons pas encore
  rencontré.
• Le prochain théorème permet de montrer
  lexistence densembles non dénombrables.

63
Présentation du théorème

• Soit S un ensemble quelconque (fini ou infini).
  On a S lt ?(S).
• Démonstration
• S ? ?(S) car la fonction g S? ?(S) définie
  par g(s) s est injective.
• Il reste donc à montrer que S ? ?(S).

64

• Pour cela, montrons quil nexiste pas de
  fonction surjective de S dans ?(S).
• Par contradiction. Supposons une fonction f
  surjective f S? ?(S) .
• Définissons lensemble T s?S s ? f(s).
• Supposons s?S. Par définition de T on a s ?T ?
  s ? f(s).
• On remarque aussi que T ? S donc T ? ?(S) .

65
Corollaire

• N lt ?(N)
• Démonstration cest une conséquence immédiate du
  théorème précédent.
• Ce corollaire montre quil y a des ensembles
  infinis de cardinalités différentes.
• Montre que des problèmes ne peuvent être résolus
  par aucun ordinateur. Lexemple suivant montre
  quun langage de programmation est limité.

66
Théorème

• Il existe une fonction que votre langage de
  programmation favori ne peut calculer.

Démonstration

• Les entrées et les sorties dun programme sont
  des séquences de bits. On peut considérer une
  séquence de bits comme un nombre naturel (on
  ajoute 1 au début de la séquence de sorte que les
  0 initiaux soient significatifs).

67

• Puisquon considère les entrées et les sorties
  dun programme comme des nombres naturels, on
  peut dire quun programme calcule une fonction de
  N dans N.
• Voyons le nombre de ces fonctions. Soient
• F f(f N?0, 1)
• G g(g N? N)
• Sûrement F ? G, car on peut trouver une
  fonction injective de F dans G.
• On peut faire correspondre à chaque fonction f ?
  F, un ensemble X ? N ainsi
• X n ? N f(n) 1. Cest clair que ?n ? N
  f(n) 0 ? n ? X.
• f sappelle la fonction caractéristique de X.

68

• Exemple n 0 1 2 3 4 5 6 7
  8f(n) 1 1 0 1 0 0 0 1 1X
  0,1,3,7,8,
• À chaque fonction f correspond donc un sous
  ensemble X de N. À deux fonctions distinctes f et
  f correspondent deux sous ensembles de N
  distincts. À chaque sous ensemble de N on peut
  associer une fonction caractéristique dans F.
• On a donc F ?(N).
• Doù G ? ?(N). Par le corollaire 0.68 nous
  avons ?(N) gt N. Doù G gt N.
• Lensemble des programmes que lon peut écrire
  est dénombrable. Donc, il peut y exister des
  fonctions pour lesquelles il nexiste aucun
  programme capable de les calculer.