• Eine kontextfreie Grammatik G = (N, Σ, S, P) liegt in Chomsky-Normalform vor, falls jede Produktion die Form
  • A → a mit A ∈ N und a ∈ Σ oder
  • A → BC mit A, B, C ∈ N

t_1n

• Die Menge der NTS von denen sich das Teilwort von w, das an erster Stelle beginnt und Länge n hat, ableiten lässt ( t_1n =  w )
• Dann gilt w ∈ L(G) (S|-_g* w ) → S ∈ t_1n.
• Wie konstrukiert man t_1n in endlichen Schritten?
  1. Bestimme t₁₁, t₂₁, t₃₁, .. , t_n1 (t₁₁ ist die Menge aller NTS von denen aus sich das Teilwort von w, das an erster Stelle beginnt und Länge 1 hat) ableiten lässt ( w=w₁ .. w_n ) t₁₁ = { A ∈ N, A → w₁ ∈ P} t₂₁ = { A ∈ N, A → w₂ ∈ P} … t_n1 = { A ∈ N, A → wn ∈ P}
• Wie bestimmen wir t_ik für k>=2?
  • t_ik = { A ∈ N, es existiert ein z ∈ { 1,…, k-1} und B,C ∈ N so, dass A → BC ∈ P, B,C ∈ N so, dass A → BC ∈ P, B |-_g* w_i .. w_{(i + z -1)} und C |-_g* w_(i+z) … w_(i+k-1)
  • B |-_g* w_i .. w_(i+z-1)  B ∈ t_iz und C |-_g* w_(i+z) .. w_i+k-1   C ∈ t_{(i+z, k-z)} also
  • t_ik = { A ∈ N, es ex. z ∈ { 1,..,k-1} und B,C ∈ N so, dass A → BC ∈ P, B ∈ t_iz und C ∈ t_{(i+z, k-z)} , also = U^(k-1)__z=1 { A ∈ N, € B,C ∈ N mit A → BC  ∈ P, B ∈ t_iz und ( ∈ t_(i+z,k-z) )
• Algorithmus CYK-Algorithmus Eingabe: Eine kontextfreie Grammatik G = (N, Σ, S, P) in Chomsky-Normalform, ein Wort w ∈ Σ*

1. n := |w|
2. for i = 1 to n do
3. t_i1 = {A ∈ N; A −→ w_i ∈ P}
4. od // od = end // Wir wandeln das Wort in einzelne Zeichen um und leiten diese in NTS zurück ab
5. for k = 2 to n do
6. for i = 1 to n − k + 1 do
7. t_ik = ∅
8. for z = 1 to k − 1 do // Wir laufen mit größer werdendem Bereich, beginnend bei 2 durch das Wort, erzeugen dabei Teilworte und schauen, ob die Paare von einem einzelnen NTS erzeugt werden können
9. tik = tik ∪ {A ∈ N; ∃B, C ∈ N : A −→ BC ∈ P, B ∈ t_iz, C ∈ t_i+z,k−z }
10.  od
11.  od
12.  od
13.  if S ∈ t_1n then
14. return wahr
15. else
16. return falsch
17. fi

• Satz 3.17.
  • Das Wortproblem fur kontextfreie Sprachen, die durch Grammatiken in Chomsky  -Normalform gegeben sind, sind in Zeit O(n³) entscheidbar
•  Beispiel 3.18.
  • Wir betrachten die Grammatik G = (N, Σ, S, P) mit N = {A, B, C, S}, Σ = {0, 1} und den Produktionen
    • S → AC,
    • S → AB,
    • C → SB,
    • A → 0,
    • B → 1
    • Für das Wort w = 0011 ∈ Σ* wollen wir überprüfen, ob w ∈ L(G). Dazu berechnen wir wie der CYK-Algorithmus die Menge t_1n.
    • w = 0011
    1. n = 4
    2. t₁₁ = { x ∈ N; x → w₁ ∈ P } = { x ∈ N; x → 0 ∈ P } = { A } // =0 t₂₁ = { x ∈ N; x → w₂ ∈ P } = { x ∈ N; x → 0 ∈ P } = { A } // =0 t₃₁ = { B } t₄₁ = { B } 
    3. t₁₂ = U^{2-1_z = 1 =  { X ∈ N; E Y,Z ∈ N mit X → YZ ∈ P, Y ∈ t_iz und Z ∈ t_(i+1,1)} = { X ∈ N,E Y,Z ∈ N mit X→ YZ ∈ P, Y ∈ t₁₁ und z ∈ t₂₁ } = { X ∈ N,E Y,Z ∈ N mit X → YZ ∈ P, Y ∈ { A }, Z ∈ { A } } → Gibt es eine Regel x → AA? → Nein → = Ø} t₂₂ = [ … ] = Regel S → AB der Form X → AB)

Chomsky-NF

• A → BC
• A → a
• Typ 0: rek. abzählbar
• Typ 1:KS
  • u₁ A u₂ → u₁ l u₂ mit |l| >=1,0
  • S → E, dann darf S auf keiner rechten Regelseite vorkommen
• Typ 2:KF
  • A → l mit A ∈ N und l ∈ ( N u E)*
• Typ 3: RL

• rechtslinear → kontextfrei
• kontextsensitiv → rek. abzählbar
• kontestfreie Sprache → kontextsensitive Sprache // Gilt nicht für Grammatiken
• Satz 3.19.
  • Zu jeder kontextfreien Grammatik G = (N, Σ, S, P) gibt es eine kontextfreie Grammatik G′ = (N, Σ, S, P) ohne Regeln der Form A → E mit L(G′) = L(G)\{E} // Wir erzeugen die gleiche Sprache ohne das leere Wort
• Satz 3.20.
  • (i) Zu jeder kontextfreien Grammatik G gibt es eine kontextfreie Grammatik G′, in der es keine Regeln der Form A → E für A ≠ S gibt. Ist S → E eine Regel in G′, so kommt S nicht auf der rechten Seite einer Regel in G′ vor. //( mit L(G)\{E} = L(G‘)}
  • (ii) Jede kontextfreie Sprache ist auch kontextsensitiv (d.h. L₂ ⊆ L₁)
• Beweis 3.20
  • (i) Wir konstruieren aus G wie in Satz 3.19 zunachst eine kontextfreie Grammatik G′ ohne Regeln der Form A → E mit  L(G)\{E} = L(G‘)}
  • Ist nun E ∈ L(G), so führen wir ein neues NTS S‘ zu G‘ hinzu, ersetzen in allen Regeln aus G‘ S durch S‘ und fügen die Regeln S → S‘ und S→E zu G‘ hinzu. Die so definierte Grammatik erfüllt dann die Behauptung.
• Beweis 3.19 
  • Sei N_ε = { A ∈ N; A |-_g* E }
  • P‘ = { A → l‘; € A → l ∈ P und l‘ entsteht aus l durch Streichung beliebig vieler NTS B ∈ N_ε }
  • P‘ = { A → ε, A ∈ N } dann erfüllt G = ( N, Σ, S, P ) die Bedingung
  • → Beispiel 3.21 im Skript 
    • → N_ε = {C,A}
    • S → ACB und A→C und C→E zusammenfassen [ S → AB, S→CB und S→B ]
    • C → E

Herleitung Chomsky NF

• Sei also ab jetzt G = (N, Σ, S, P) eine kontextfreie Grammatik ohne Regeln der Form A → ε
• Ziel: Konstruiere aus G eine Grammatik G‘ in Chomsky NF
• Bsp.: G = (N = {S, A, B, C}, Σ = {a, b}, S, P)
  • mit den Produktionen
    • S → ab|aA|A
    • A → B|C|aBb
    • B → S
    • C → abS
• 1. Schritt: Die Nichtterminalsymbole S, A, B sind also gleichwertig (von jedem dieser Nichtterminalsymbole aus lassen sich in der Grammatik wegen des Zyklus die selben Worter ableiten). Wir können also S = A = B setzen und passen die Regeln entsprechend an. Dies führt zu den Produktionen
  • S → ab|aS|S
  • S → S|C|aSb
  • S → S
  • C → abS
  • Zusätzlich können wir die Produktion S → S streichen und erhalten somit die Produktionen
    • S → ab|aS|C|aSb
    • C → abS // wird im nächsten Schritt weggekürzt, da S → C → abS eindeutig ist
• 2. Schritt:Regeln der Form A → B weiter untersuchen und die rechte Regelseite durch lange rechte Regelseiten aus den Regeln B → l mit |l| ≥ 2 ersetzen. In unser Beispielgrammatik gibt es nur noch eine Regel von dieser Form (S → C).
  • S → C => S → abS und erhalten damit S → ab|aS|aSb und  C → abS
• 3. SchrittIn den Regeln der Form A → l mit |l| ≥ 2 ersetzen wir jedes Terminalsymbol a ∈ Σ durch ein zusatzliches Nichtterminalsymbol H_a und nehmen die Regel H_a→ a auf.
  • S → ab =>
    • S→ H_a H_b
    • H_a → a
    • H_b → b
  • S → aS =>
    • S → H_a S
  • S→ abS =>
    • S → H_a H_b S // im nächsten Schritt auf Länge 2 bringen
  • S → aSb =>
    •  S → H_a S H_b // im nächsten Schritt auf Länge 2 bringen
  • C → abS =>
    • C → H_a H_b S // im nächsten Schritt auf Länge 2 bringen
• 4. Schritt Für jede Regel der Form A → l mit |l| ≥ 3 (und damit, wie wir oben gesehen haben besteht l nur noch aus Nichtterminalsymbolen, es gilt also l = A₁ … A_n mit A₁, . . . , A_n ∈ N und n ≥ 3) ersetzen wir sukzessive A₁A₂ durch V (V ist ein neues Nichtterminalsymbol), streichen A → A₁ … A_n und führen die neuen Regeln A → VA₃ .. V_n und V → A₁A₂zu P hinzu. Dies wird solange durchgeführt, bis es keine Regeln der Form A → l mit |l| ≥ 3 mehr gibt.
  • S→ H_a H_b
  • H_a → a
  • H_b → b
  • S → H_a S
  • S → V₁ S, V₁ →  H_a H_b
  • S → V₂ H_b, V₂ → H_a S
  • C → V₃ S, V₃ → H_a H_b
• Satz 3.23 Das Wortproblem für KF-Sprachen ist entscheidbar.
• Beweis: 
  • 1. Prüfe ob ε ∈ L(G) ( Prüfe ob S ∈ N_ε (vgl. Beweis von Satz 3.19))
  • 2. Konstruiere eine Grammatik G‘ ohne Regeln der Form A → ε mit L(G) \ {ε} = L(G‘) ( wieder mit Satz 3.19 )
  • 3. Konstruiere aus G‘ eine Grammatik G‘ in Chomsky NF mit L(G‘) = L(G“)
  • 4. Wende den CYK – Algorithmus auf G“ an

Der Beitrag Theoretische Informatik (Vorlesung 12) erschien zuerst auf Maximilian Krieg.

Sei Σ = {0,1} ein Alphabet und L = { w ∈ Σ, w ist ein palindrom}.
Geben Sie eine Grammatik für L an.

S → 0S0 | 1S1 | 0 | 1 | Σ

Von welchem Typ ist die Grammatik?
→ Kontextfrei, (Nur Regeln der Form A → l
mit A ∈ N und l ∈ (N ∪ Σ)*)
→ nicht Kontextsensitiv (Nur Regeln der Form u1Au2 → u1wu2
mit A ∈ N, w ∈ (N ∪ Σ)* und |w| >= 1
oder S → ε, dann darf S auf keiner rechten Regelseite vorkommen.)
denn S → ε ∈ P und z.B. S → 1S1 ∈ P,
S kommt also auf der rechten Seite einer Produktion vor.

Einschub:
Konstruiere aus der kontextfreien Grammatik für L eine Grammatik, die sowohl kontextfrei als auch kontextsensitiv ist:

1) Führe ein neues Nichtterminalsymbol S‘ ein.
2) Ersetze in jeder Regel A → l mit l = ε S durch S‘.
3) Führe die neue Regel S → S‘ ein
4) Führe neue Regeln wie folgt ein:
In jeder Regel der Form A → l‘ durch streichen beliebug vieler S‘.

Ursprungsgrammatik:
S → 0S0
S → 1S1
S → 0
S → 1

neue Grammatik:
S‘ → 0S’0
S‘ → 00
S‘ → 1S’1
S‘ → 11
S‘ → 0
S‘ → 1
S → S‘
S → ε

Tipp: Anschauen für die Klausur!

• L = { w ∈ Σ*, w Palindrom und w ≠ ε}
• L = { w ∈ Σ*, w Palindrom und w ist gerade / ist ungerade}
• L = { w ∈ Σ*, w ist ungerades Palindrom mit 1 in der Mitte}

Ende_Einschub

Aufgabe 2

Konstruieren Sie einen DEA für die Menge L = {w ∈ {0,1}*; w hat Präfix 01}.
Entwickeln Sie hieraus, wie in der Vorlesung, eine  rechtslineare Grammatik G
mit L(G) = L.

Automat:

A = { Q={q0,q1,q2,q3}, Σ={0,1}, q0, d, F={q2} }
G = (N, Σ, S, P} soll rechtslineare Grammatik
mit L(G) = L, N = Q, Σ = Σ, S = q0,
P = { q0 → 0=q1, q0  → 1=q3, q1 → 0=q3, q1 → 1=q2, q2 → 0=q2, q2 → 1=q2,
q3 → 0=q3, q3 → 1=q3, q2 → ε}

Aufgabe 3

S → 0B | 1A
A → 0 | 0s | 1AA
B → 1 | 1S | 0BB

a) Welche Wörter sind in G aus 0S1ABS in einem Schritt ableitbar?

10 Wörter:

0S1ABS → 00B1ABS
0S1ABS → 01A1ABS
0S1ABS → 0S10BS
0S1ABS → 0S10sBS
0S1ABS → 0S11AABS
0S1ABS → 0S1A1S
0S1ABS → 0S1A1SS
0S1ABS → 0S1A0BBS
0S1ABS → 0S1AB0B
0S1ABS → 0S1AB1A

b) Ist 0S1ABS aus S in G ableitbar?

Nein. Um ein Wort l ∈ (N ∪ Σ*) mit l1 = 0 ableiten zu können, muss am Anfang die Regel S → 0B genutzt werden.
Es gibt keine Regel der Form B → S…, d.h. kein Wort der Form 0S… kann in G abgeleitet werden.

c) Zeigen Sie, dass das Wort 10101 nicht in G ableitbar ist.

1. An erster Stelle steht eine 1: Nutzung der Regel S → 1A    =1A
2. An zweiter Stelle steht eine 0: Nutzung der Regel A → 0S   =10S
3. An dritter Stelle steht eine 1: Nutzung der Regel S → 1A     =101A
4. An vierter Stelle steht eine 0: Nutzung der Regel A → 0S     =1010S
5. An fünfter Stelle steht eine 1: Nutzung der Regel S → 1A     =10101A

Da für alle Regeln A → l in G gilt | l | >= 1,
d.h. für ein Wort w mit 10101A -> w gilt |w| > 5

d) Zeigen Sie, dass für alle w ∈ (N ∪ Σ)* mit S |-* w gilt:
w enthält die Zeichen 0 und A genauso oft wie die Zeichen 1 und B.
( |w|0 + |w|A = |w|1 + |w|B)

Beweis per Induktion über die Anzahl n der Ableitungen

Induktionsanfang: Gelte n=1. Also gilt: S|-(1) w  [w ist in einem Schritt aus S ableitbar] , d.h. w=0B oder w=1A. In beiden Fällen gilt:
|w|0 + |w|A = |w|1 + |w|B

Induktionsschritt: (n → n+1). Es gelte die Behauptung für n.
zu zeigen:  Die Behauptung gilt auch für n+1.

Sei w ∈ (N ∪ Σ)* mit S|-(n+1) w. [w ist in n+1 Schritten aus S ableitbar].
Sei w ∈ (N ∪ Σ)* mit S|-(n) w‘ |-(1) w.
Laut Induktionsvoraussetzung gilt |w’|0 + |w’|A = |w’|1 + |w’|B.

w entsteht aus w‘ durch das Anwenden einer Regel aus G.

Fallunterscheidung nach den Regeln

1. Fall: w entsteht aus w‘ durch anwenden der Regel S→0B:
|w|0 + |w|A = 1 + |w’|0 + |w’|A = 1 + |w’|1 + |w’|B = |w|0 + |w|B

Der Beitrag Theoretische Informatik (Vorlesung 11) erschien zuerst auf Maximilian Krieg.

Aufgabe 2

konstruieren Sie einen DEA über Σ = {0,1} für

L1 = {w ∈ Σ*; w hat Präfix 01}

L2 = {w ∈ Σ*; w hat Suffix 10}

L1  

A = (Q, Σ, q0, d, F)

d: Q x Σ → Q

d(q0, 0) = q1

d(q0, 1) = q3

L(A) = {w ∈ Σ*; d*(q0, w) ∈ F}

L2  

Einschub (Zum festigen des Stoffes)

Entwickeln sie einen DEA für Präfix 00 und einen DEA für Suffix 00

Aufgabe 3 (stark klausurrelevant)

Konstruieren Sie einen DEA für die Sprache L = { w ∈ Σ*; w hat Präfix 01 und Suffix 10} mittels Produktautomat L = L1 ∧ L2

A1 = (Q, Σ, q0, d1, F1)

A2 = (Z, Σ, z0, d2, F2)

Produktautomat (Definition / Erinnerung)

A = (Q x Z, Σ, (q0, z0), d, F1 x F2)

• Q x Z = {(q,z) ; q ∈ Q, z ∈ Z}
• d: (Q x Z) x Σ → Q x Z; ((q, z), a) → (d1(q, a), d2(z, a))

weiter mit A3… 

Aufgabe 4

Konstruieren Sie einen DEA für L1 = {w ∈ {0,1}* ; w enthält nicht das Teilwort 11}

L2 = {w ∈ {0,1}*; |w| > 0}

A = (Q, Σ, q0, d, F) mit L(A) = L

¬L = Σ*\L ¬A = (Q, Σ, q0, d, ¬F) ist ein DEA für ¬L

Automat für

¬L1 = {w ∈ {0,1}*; w enthält das Teilwort 11} → Komplementautomat 

Der Beitrag Theoretische Informatik (Vorlesung 10) erschien zuerst auf Maximilian Krieg.

• Eine Grammatik G = (N, Σ, S, P)
  • N, Σ sind Alphabete
  • S ist Startsymbol
  • P ist eine Menge von Regeln u → v
  • Erzeugen von Wörtern aus dem Alphabet Σ
  • Sind mächtiger als DEA ( können mehr Sprachen beschreiben )
• Bsp:  
  • G = ({S}, {a,b}, S, P) // G*
  • P = {S → Σ, S → a S b }
  • S Ⱶ_g a S b Ⱶ_g a ( a S b ) b Ⱶ_g a² b²
  • L(G) = { w ∈ Σ*; S Ⱶ_g* w } ist die von G erzeugte Sprache
  • L(G) = { aⁿ bⁿ, n ∈ ℕ }
• Bsp:
  • G = (N, Σ, S, P)  mit N = {S,B} // G**
  • E = {a,b,c}
  • P = {S → a S b c, S → a b c, cB → Bc, bB → bb}
  • L(G) = {aⁿ bⁿ cⁿ, n ∈ ℕ}
• Ziel:
  • Für welche formalen Sprachen ist das Wortproblem entscheidbar?
  • Geg.: L ⊆ Σ*; w ∈ Σ*
  • Frage: Gilt w ∈ L ?

3.1 Chomsky-Hierarchie

• Definition 3.6 Chomsky-Hierarchi für Grammatiken
  • Sei G = (N, Σ, S, P)
  • Jede Grammatik heißt vom Typ 0 ( rekursiv aufzählbar )
  • G heißt vom Typ 1 ( kontextsensitiv ) wenn jede Produktion die Form (schwer)
    • u₁ A u₂ → u₁ w u₂ mit A ∈ N, u₁, u₂, w ∈ (N ∪ Σ)* und |w| ≥ 1 oder
    •  S → E ( dann kommt S in keiner Produktion auf der rechten Seite vor )
• G heißt vom Typ 2 (kontextfrei), wenn jede Produktion die Form ( mittel )
  • A → w mit A ∈ N und w ∈ (N u Σ)*
• G heißt vom Typ 3 (rechtslinear), wenn jede Produktion die Form ( leicht )
  • A → u B mit A,B ∈ N und u ∈ Σ*, oder
  • A → u mit A ∈ N und u ∈ Σ*
• Verschiedene Typen von Grammatiken anhand von Bedingungen an die Form der Produktionen
• Definition 3.7
• kontextsensitiv:
  • u₁ A u₂ → u₁ w u₂ (Ersetzung von A hängt vom Kontext ab. Links muss u₁ und rechts u₂ stehen)
  • Bsp:
    • cB → Bc
    • bB → bb
    • = B kann nur dann ersetzt werden, wenn links c oder b steht
  • Bedingung:
    • |w| ≥ 1 sorgt dafür, dass Wörter während des Ableitungsprozesses nicht kleiner werden.
    • S → Σ ist zwar erlaubt, aber S darf dann nicht auf der rechten Seite einer Produktion vorkommen. Die Regel kann also nur genutzt werden um E abzuleiten. ← gilt für kontextsensitive
• kontextfrei
  • A → w ( A kann unabhängig davon, was links oder rechts von A steht ersetzt werden )
  • Bsp. 3.8: Die Grammatik * ist kontextfrei ( und auch rekursiv abzählbar, aber weder rechtslinear, noch kontextsensitiv )
  • Die Grammatik ** ist kontextsensitiv ( und rekursiv abzählbar, aber nichts rechtslinear und nicht kontextfrei )
  • Die Grammatik *** ist rechtslinear, kontextfrei, rekursiv abzählbar, aber nicht kontextsensitiv ( wegen B → E )
  • Bsp. 
    • G = (N, Σ, S, P) mit //G***
      • N = {S,B}
      • E = {a,b}
      • P = { S → aS|bS|abB, B → aB|bB|E}
• Definition 3.9:
  • Eine Sprache L heißt rechtslinear ( kontextfrei, kontextsensitiv, rekursiv abzählbar), wenn es eine rechtslineare (kf, ks, ra) Grammatik G mit L = L(G) gibt.
  • Sei ℒ₁ ( altdeutsches L ) = { L(G); G ist eine Typ – 1 Grammatik}
  • ℒ₃ = Menge aller rechtslinearen Sprachen
  • ℒ₃ ⊂ ℒ₂
  • ℒ₁ ⊂ ℒ₀
  • Frage: Gilt ℒ₂ ⊂ ℒ₁
  • Wir werden noch sehen ℒ₂ ⊂ ℒ₁ ( und damit ℒ₃ ⊂ ℒ₂ ⊂ ℒ₁ ⊂ ℒ₀)
• Wir stellen uns die folgenden Kernfragen:
  • Bilden diese Sprachklassen eine echte Hierarchie (d.h. sind alle Inklusionen echt) → Ja ( sog. Chomsky-Hierarchie )
  • Gibt es andere Charakterisierungen, z.B. über Automaten? → Ja

• Bezüglich welcher Operationen ( Vereinigung, Schnitt, Komplement ) sind diese Klassen abgeschlossen? → Das Verhalten ist sehr unterschiedlich.
• Kann man auf einfachere Regelformen reduzieren (Normalform) → Ja, für kontextfreie werden wir das untersuchen
• Wie verhalten sich die Entscheidungsprobleme Wort-, Äquivalenz- und Leerheitsproblem? → Das Verhalten ist sehr unterschiedlich. 

3.2 Grammatiken und das Wortproblem

• Wortproblem ( L ⊆ Σ* )
  • Gegeben: w ∈ Σ*
  • Frage: Gilt w ∈ L
• Wir suchen einen Algorithmus, der 
  1. bei jeder Eingabe terminiert
  2. die richtige Antwort liefert
• Algorithmus für das Wortproblem für DEAs
  • Eingabe: w ∈ Σ*; DEA A = (Q, Σ, q₀, δ, F)
  1. q = δ*(q₀, w)
  2. IF q ∈ F then Return wahr else return falsch
• Algorithmus für das Wortproblem für Grammatiken
  • Eingabe: G = ( N, E, S, P ) und w ∈ Σ*
  • Beachte Algorithmus aus Script! Besser!
  1. Erzeuge die Wörter von L(G) schrittweise durch Ableiten
  2. Prüfe, ob w erzeugt wurde.
  3. Wenn ja, gib wahr aus und stoppe.
  4. Wenn nein, gehe zu 1. ← Suboptimal mit vielen Durchläufen
  • Wenn w ∈ L(G), dann wird w irgendwann erzeugt und der Algorithmus terminiert mit wahr.
  • Wenn w ∉ L(G), dann wird w nicht erzeugt und der Algorithmus terminiert nicht. ( somit nur Semi-Entscheidbar )
    • Über das Komplement ¬G = L(¬G) = ¬(L(G)) könnte man herangehen. 
  • Somit brauchen wir eine Abbruchbedingung.

Der Beitrag Theoretische Informatik (Vorlesung 9) erschien zuerst auf Maximilian Krieg.

• Skript wurde online gestellt
• Skript hält sich weitestgehend an die Vorlesung
• Beweise z.B. stehen im Skript genauer
• Notation ( Index ) wird nun vom Skript genommen

Klausur

1. Definitionen ( „Was ist ein DEA?“ )
2. Gegeben: A = (Q, Σ, q₀, δ, F) → Gesucht: Graph. Darstellung
3. Gegeben: Graph. Darstellung → Gesucht: A = (Q, Σ, q₀, δ, F)
4. Gegeben: Sprache → Gesucht: Konstruiere A ( Konstruktionsprinzipien Produktautomat, komplementärer Automat )
5. Gegeben: Automat → Gesucht: L(A)
6. Gegeben: Sprache → Gesucht: Warum wird diese Sprache nicht von einem DEA akzeptiert?

2.4 Das Leerheits-, Wort- und das Äquivalenzproblem

• Ein Problem heißt Entscheidbar, wenn es einen Algorithmus (z.B.: Computerprogramm) gibt, der das Problem löst, d.h.
  1. für jede Eingabe terminiert ( immer etwas ausgeben )
  2. die richtige Antwort liefert.
• Für durch DEA gegebene Sprachen sind alle drei Probleme entscheidbar.
• Leerheitsproblem:
  • Gegeben: Eine formale Sprache L.
  • Frage: Gilt L ≠ ε?
• Satz 2.23 Leerheitsproblem für DEAs
  • Gegeben: Ein DEA A = (Q, Σ, q₀, δ, F)
  • Frage: Gilt L(A) ≠ ε?
  • Dieses Problem ist entscheidbar.
• Beweis: 
  • Offensichtlich gilt L(A) ≠ ε genau dann, wenn w ∈ L(A) existiert.

• Erste Idee: Der gesuchte Algorithmus überprüft für verschiedene Wörter w ∈ Σ*, ob w ∈ L(A) gilt (d.h. er berechnet δ*(q₀, w) ∈ F?).
• Wenn der Algorithmus terminiert, hat er ein Wort w ∈ L(A) gefunden, aber der Algorithmus terminiert nicht, wenn L(A) = ∅ gilt.
• Bsp.: Für Σ = {0,1}
  • w₀ = leer
  • w₁ = 0
  • w₂ = 1
  • w₃ = 00
  • w₄ = 01
  • … usw.
• Ist A = (Q, Σ, q₀, δ, F) ein DEA mit n₀ = |Q| verschiedenen Zuständen. Dann gilt L(A) ≠ ε genau dann, wenn ein Wort der Länge höchstens n₀-1 akzeptiert wird.
  • Sei w ein Wort der Länge ≥ n₀. Dann gilt: Der Automat besucht beim Lesen des Wortes mindestens einen Zustand mehrmals.
  • graph_1
  • 01 ∈ L(A)
• Allgemein für das Leerheitsproblem:
  • Eingabe: A=(Q, Σ, q₀, δ, F)
  1. n₀ = |Q|
  2.   Σ‘ = { w ∈ Σ*; |w| = n₀-1 }
  3.   q = q₀
  4.   FOR ALL w ∈ Σ DO
  5.     FOR i=1 TO n₀-1 DO
  6.       q = δ*(q₀,w₁..w_i)
  7.       IF q ∈ F THEN
  8.         RETURN true
  9.         END
  10.       ENDIF
  11.   END FOR
  12. END FOR
  13. END FOR ALL
  14. RETURN false
• Wortproblem
  • Gegeben: Eine formale Sprache L und ein Wort w.
  • Frage: Gilt w ∈ L?
• Satz 2.24. Wortproblem für DEAs
  • Gegeben: Ein DEA A = (Q, Σ, ₀, δ, F) und w ∈ Σ*
  • Frage: Gilt w ∈ L(A)?
  • Dieses Problem ist entscheidbar.
• Beweis: 
  • Algorithmus für das Wortproblem DEA.
  • Eingabe A = (Q, Σ, q₀, δ, F) und w ∈ Σ*
    1. q = δ*(q₀,w)  Wort in erweiterter Übergangsfunktion
    2. IF q ∈ F THEN   Ist es ein Endzustand?
    3. Return true
    4. else  Return false
    5. ENDIF
• Äquivalenzproblem
  • Gegeben: Zwei formale Sprachen L₁, L₂
  • Frage: Gilt L₁ = L₂?
• Satz 2.25 Äquivalenzproblem für DEAs
  • Gegeben: Zwei DEAs
  • A1 = (Q₁, Σ, q₁, d₁, F₁)
  • A2 = (Q₂, Σ, q₂, d₂, F₂)
  • Frage: Gilt L(A₁) = L(A₂)
  • Dieses Problem ist entscheidbar.
  • Wir reduzieren dieses Problem auf das Leerheitsproblem.
• Beweis:
  • Für je zwei Mengen L₁, L₂ ⊆ Σ* gilt L₁ = L₂  (L₁ ∩ ¬L₂ ) ∪ (¬L₁ ∩ L₂ ) = ∅
  • Entscheidbar mit dem Leerheitsproblem, wenn die Sprache (L₁ ∩ ¬L₂) ∪ (¬L₁ ∩ L₂ ) von einem DEA akzeptiert wird.
    1. Erst ¬L₁ ∩ L₂ beweisen
    2. Dann (L₁ ∩ ¬L₂ ) ∪ (¬L₁ ∩ L₂ ) beweisen
    3. Dadurch ist L₁ = L₂ bewiesen
• Satz 2.21 ( laut Skript )
  • Werden L₁, L₂ von DEA akzeptiert, dann auch ¬L₁, L₁ ∩ L₂ ( Produktautomat ), L₁ ∪ L₂

3. Grammatiken

• Grammatiken werden genutzt, um Wörter zu erzeugen. Hierzu werden Regeln benutzt, die es erlauben ein Wort aus einem anderen Wort abzuleiten.
• Es gibt eine Reihe von Sprachen, die nicht von DEAs akzeptiert werden.
  1. L = { aⁿ bⁿ; n ∈ ℕ₀ }
  2. L = { aⁿ b^m; n ≠ m }
  3. Aber L = { aⁿ b^m; n, m ∈ ℕ₀ } wird von einem DEA akzeptiert. Der Begriff / das Berechnungsmodell DEA ist nicht besonders mächtig.
• Beispiel 3.1: Eine Grammatik für die Sprache L= {aⁿ bⁿ; n ∈ ℕ₀ }
  • S → a S b
  • S → ε
  • S → a S b → a a S b b → a a a S b b b → a a a ε b b b → a³ b³
• Definition 3.2 Grammatik
  • Eine Grammatik ist von der Form G = (N, Σ, P, S), wobei:
    1. N und Σ endliche Alphabete mit Σ n N = ∅ sind (disjunkt )
       • Die Elemente von N heißen Nichtterminalsymbole
       • Die Elemente von Σ heißen Terminalsymbole
    2. S ∈ N das Startsymbol ist,
    3. P ⊆ ( N u Σ )⁺  x ( N u Σ)^* eine endliche Menge von Ersetzungsregeln ( Produktionen )
    • Σ* { w = w₁ … w_n, n ∈ ℕ mit w_i ∈ Σ für alle i<= n } u { ε}
    • ( N u Σ )^*
    • ( N u Σ )⁺ = ( N u leer )* \ { ε}
• (u,v) ∈ P schreiben wir auch u → v
• Beispiel 3.3:
  • N = {S}, Σ = {a,b}, P = { S → a S b, S → ε }
  • Startsymbol S
  • Sprache ist somit aⁿ bⁿ
• Weiteres Beispiel
  • G = ( N, Σ, P, S )
  • N = {S,B}
  • E = {a,b,c}
  • Produktionen P = {
    • S → a S B c,
    • S → a b c,
    • cB → Bc,
    • bB → bb } = { aⁿ bⁿ cⁿ, n ∈ ℕ }
• Defintion 3.4:
  • Sei G = ( N, Σ, P, S ) eine Grammatik und x,y ∈ ( N u Σ )
  • y ist aus x direkt ableitbar ( x Ⱶ_G y ) wenn x₁, x₂ ∈ ( N u Σ)* und eine Produktion u → v ∈ P mit x = x₁ u x₂ und y = x₁ v x₂ existiert
    • a  S  B c Ⱶ_G a  a b c B c
  • x₁ u x2   Ⱶ_G  x₁    v    x2  // somit wird u → v
  • y ist aus x in n ∈ ℕ Schritten ableitbar ( x Ⱶ_Gⁿ y ), wenn x₀, x₁, .., x_n ∈ ( N u Σ )* so existieren, dass x=x₀, x_n=y und x_i Ⱶ_G x_i+1 für alle 0 ≤ i ≤ n
  • y ist aus x ableitbar ( x Ⱶ_G^* y ), wenn n ∈ ℕ mit x Ⱶ_Gⁿ y existiert.
  • Die Sprache L(G) = { w ∈ Σ*; S Ⱶ_G^* } heißt die von G erzeugte Sprache.
  • Wir sind nur an Σ* Wörtern aus S interessiert.
• Beispiel 3.5
  1. S Ⱶ_G abc ( Weil abc ∈ Σ* gilt abc ∈ L(G) )
  2. S Ⱶ_G aSBc ( ∈ L(G)? → nein, weil S und B ∉ Σ* ) Ⱶ_G aaabcBcBc Ⱶ_G aaabBccBc Ⱶ_G² aaabbBccc Ⱶ_G aaabbBccc Ⱶ_G aaabbbccc = a³ b³ c³
• Wir zeigen: Für alle n ∈ ℕ gilt S Ⱶ_G^* aⁿ bⁿ cⁿ
  1. Für n=1 gilt S Ⱶ_G^* a¹ b¹ c¹
  2. Sei n > 1:
     • S  Ⱶ_G^n-1 a^n-1 S ( Bc)^{n-1 …} .. Ⱶ_G a^n-1 abc (Bc)^{n-1 ..} .. Ⱶ_G^* aⁿ b B^n-1 c^{n ..} .. Ⱶ_G^* aⁿ bⁿ cⁿ
• ( Wiederholtes Anwenden der Produktion S → aSBc ) ( Einmalige Anwendung der Regel S → abc ) ( Wiederholtes Anwenden von cB → Bc ) ( Wiederholte Anwendung von bB → bb ) 
• Wir haben gezeigt { aⁿ bⁿ cⁿ; n ∈ ℕ } ⊆ L(G) Wir haben nicht gezeigt L(G) ⊆ { aⁿ bⁿ cⁿ; n ∈ ℕ }

Der Beitrag Theoretische Informatik (Vorlesung 8) erschien zuerst auf Maximilian Krieg.

• geg: Eine Sprache L und ein Wort W
• Frage: Gilt w ∈ L?

Wiederholungsaufgabe

• L = { 001w; w ∈ {0,1}* } ← Klausurrelevant Alle Wörter über dem Alphabet Σ = {0,1} mit dem Präfix 001.
• Dies ist kein DEA, weil wenn δ*(q₀, 1100) eingegeben wird. Es muss für jeden Buchstaben eine Übergangsfunktion in jeden Zustand geben. Nicht deterministische Automaten können z.B. für den selben Buchstaben zwei Ziele haben. δ(q₀,1) → q₀ oder q₁
• Begründung
  • L(A) = { w ∈ Σ*; δ* (q₀, w ) ∈ F }
  • A = ( Q, Σ, q₀, δ, F )
  • δ: QxΣ → Q (totale Funktion, d.h. δ(q,a) ist definiert für alle Paare (q,a) ∈ QxΣ.
  • δ(q₀, 0) = q₁
  • δ(q₀,1) = ?? ← Zustandswechsel fehlt
• Lösung

• Erzeugung eines Zustands zur Aufnahme eines fehlenden Zustandswechsel, sog. Papierkorb-Zustand ← Klausurrelevant
• Dauerschleife mit vollständigem Alphabet verhindert, dass man jemals in einen Endzustand kommt
• Durch den Papierkorb-Zustand wird keine neue gültige Sprache erzeugt

Aufgabe 1.1

• DEA A = ( Q, Σ, q₀, δ, F)
• Q = {q₀,q₁,q₂}, Σ = {0,1}, Anfangszustand q₀, F= {q₀}
• Übergangsfunktionen
  • δ(q₀,0) = q₀
  • δ(q₀,1) = q₁
  • δ(q₁,0) = q₂
  • δ(q₁,1) = q₀
  • δ(q₂,0) = q₁
  • δ(q₂,1) = q₁
• Welche Worte sind teil der Sprache?
  • w₁ = 101
  • w₂ = 111
  • w₃ = 110
  • δ*(q₀,101) = q₂  ( falsch )
  • δ*(q₀, 111) = q₁ ( falsch )
  • δ*(q₀, 110 ) = q₀ ( wahr )
• Was ist die akzeptierte Sprache?
  • Durch drei teilbare Zahlen ( binär )

Aufgabe 1.2

• Bestimme:
  • Q = {q₀,q₁,q₂}
  • Σ = {a,b}
  • q₀ = q₀
  • F = {q₀,q₁}
  • δ = …
    • δ(q₀,a) = q₁
    • δ(q₀,b) = q₀
    • δ(q₁,a) = q₁
    • δ(q₁,b) = q₂
    • δ(q₂,a) = q₂
    • δ(q₂,b) = q₂
• Welche Sprache wird akzeptiert?
  • L(A) = { bⁿ a^m; n,m ∈ N0 }
  • b⁰ a^m = a^m
  • bⁿ a⁰ = bⁿ
  • b⁰ a⁰ = leeres Wort // δ(q₀, leer ) = q₀ → q₀ ∈ F

Wiederholung

• L(A) = ( w ∈ Σ*; δ*(q₀,w) ∈ F }
• δ*(q, ε ) = q ← „Wer nichts liest, bleibt wo er ist“

Aufgabe 2

• Konstruktion eines DEAs über Σ = {0,1}, der die Sprache L₁ = { w ∈ {0,1}*; w hat eine gerade Anzahl von Einsen } akzeptiert.
• L‘ = { w ∈ {0,1}*; w hat eine gerade Anzahl von Einsen und mindestens eine Eins }
• Konstruktion eines DEAS über Σ = {0,1}, der die Sprache L₂ = { w ∈ {0,1}*; w hat eine gerade Anzahl von Nullen} akzeptiert.
• Ein Automat für L₁ ∩ L₂ = { w ∈ {0,1}*; w hat gerade viele Einsen und gerade viele Nullen }

Der Beitrag Theoretische Informatik (Vorlesung 7) erschien zuerst auf Maximilian Krieg.

• Sei Σ ein Alphabet
• L ∈ Σ* eine Sprache
• Wortproblem L
  • Gegeben: w ∈ Σ*
  • Frage: Gilt w ∈ L?
• Fragen:
  • Für durch DEAs gegebene Sprachen einfach: δ*(q₀, w) ∈ F ?
  • Gibt es Sprachen, die nicht von einem DEA akzeptiert werden?
  • Wie zeigt man, dass eine Sprache von keinem DEA akzeptiert wird?
• Beispiel:
  • Q = { q₀,q₁,q₂}
  • Anfangszustand = q₀
  • F = {q₂} (Endzustände)
  • = A
  • L(A) = { w ∈ Σ*, δ(δ₀,w) ∈ F } = { w ∈ { 0,1}* w hat mehr als eine Null und die Anzahl der Nullen ist gerade }

• Der Graph muss manche Zustände öfters besuchen, wenn ein Wort eine Länge hat, die größer ist als die Anzahl der Zustände. Es bilden sich dabei also Schleifen (rot markiert zur Hervorhebung).
• Theoretisch lassen sich die Teilabschnitte der Zustände in Bereiche mit Schleifen zusammenfassen lassen: x y z, es wäre z.B. auch x y² z oder x y⁴ z auch ein gültiges Wort der Sprache.
• Definition 2.10 ( Pumping Lemma)
  • Sei L eine von einem DEA akzeptierte Sprache.
  • Dann existiert n₀ ∈ ℕ so, dass gilt: Jedes Wort w ∈ L mit |w| ≥ n₀ lässt sich zerlegen in x y z mit:
    1. y ≠ ε (leeres Wort) und
    2. x y^k z ∈ L für alle k ∈ N

• Beispiel: Die Sprache L = {  aⁿ bⁿ; n ∈ ℕ₀ } wird von keinem DEA akzeptiert.
• Beweis: Angenommen, L wird von einem DEA azeptiert ( Widerspruch herleiten ). Dann existiert nach dem Pumping-Lemma eine natürliche Zahl n₀ ∈ ℕ so, dass für alle w ∈ L mit |w| ≥ n₀ ( Mehr Buchstaben als Zustände) eine Zerlegung xyz mit …
  1. y ≠ ε (leeres Wort)
  2. x y^k z ∈ L für alle k ∈ ℕ … existiert

• Sei w ∈ L mit |w| ≥ n₀, dann gilt w = aⁿ bⁿ mit 2n ≥ n₀.
• Sei weiter x y z = w eine Zerlegung von w mit y ≠ ε (leeres Wort)
• Ziel: Zeige  ( x y² z ∉ L ) Dann ist das Pumping-Lemma nicht erfüllt und wir haben einen Widerspruch zur Voraussetzung ( = „L wird von einem DEA akzeptiert“ )
• Fallunterscheidung: 
  1. Fall: y liegt ganz in aⁿ
  2. Fall: y liegt ganz in bⁿ
  3. Fall: y hat sowohl a’s als auch b’s
• zu 1: Dann existieren n₁+n₂+n₃ mit x=a^n₁, y=a^n₂, z=a^n₃*bⁿ und n₁+n₂+n₃ = n. Laut Pumping Lemma gilt dann auch x y² z ∈ L. Da x y² z = a^n₁ * a^2n₂ * a^n₃bⁿ. Da n₁+2*n₂+n₃ > n, ist das ein Widerspruch.

( w = aa…ab …..b // aⁿ = x, z=bⁿ –> y kann in x, z oder in beiden liegen )

2.4 Abschlusseigenschaften

• Definition 2.11: 
  • Seien L₁ und L₂Sprachen über dem Alphabet Σ, die jeweils von einem DEA akzeptiert werden. Dann werden auch die folgenden Sprachen akzeptiert:
  • L₁ ∪ L₂
  • ¬L₁ = { w ∈ Σ*; w ∉ L₁ }
  • L₁ ∩ L₂
  • L₁ \ L₂
  • L₁ * L₂ = { w₁w₂; w₁ ∈ L₁ und w₂ ∈ L₂ } 

• Beweise:
  1. 1 & 5 kommen später
  2. Sei A = ( Q, Σ, q₀, δ, F ) ein DEA für L₁ (d.h. die von A akzeptierte Sprache ist L₁  L(A) = L₁ ) Dann akzeptiert ¬A = (Q, Σ, q₀, δ, Q\F ) die Sprache ¬L₁.
     1. L (¬A) = { w ∈ Σ*; δ* (q₀, w) ∈ Q\F } ist das Gegenteil von L(A) = { w ∈ Σ*; δ* (q₀, w) ∈ F }
  3. 3 zeigen wir gleich
  4. L₁ \ L₂ = L₁ ∩ ¬L₂
• Aufgabe:
  • Seien L₁ und L₂ jeweils von den DEA A₁=(Q₁, Σ, q₀¹,d₁,F₁) und A₂ = (Q₂, Σ, q₀², δ₂, F₂) akzeptiert.
  • Ziel: Konstruktion eines DEAs für L₁ ∩ L₂
• Beispiel:
  • L = { w ∈ {0,1}*; w hat gerade viele Nullen und gerade viele Einsen }
  • L₁ = { w ∈  { 0,1 }*; w hat gerade viele Nullen }
  • L₂ = { w ∈ {0,1}*; w hat gerade viele Einsen}
  • L=L₁ ∩ L₂

• Wir definieren den sog. Produkautomaten:
  •  A=(Q₁xQ₂, Σ, (q₀¹, q₀²), δ, F₁xF₂).
  • d: (Q₁xQ₂) x Σ → (Q₁xQ₂); ((q,p)a) → (d1, (q,a), δ2(q,a))
  • Q₁xQ₂ = { (q,z); q ∈ Q₁, z ∈ Q₂ }
• Im Beispiel:
  • Q₁xQ₂= {(q₀,z₀), (q₀,z₁) , (q₁,z₀), (q₁,z₁) }
  • F₁xF₂ = { q₀ } x { z₀ } = { (q₀,z₀)}
  • δ((q₀,z₀),0) = (δ1, (q₀,0), δ2(z₀, 0)) → q_1, z₀
  • δ((q₀,z₀),1) = (δ1, (q₀,1), δ2(z₀, 1)) → q₀, z₁

Erläuterung: „Man verknüpft jeden Zustand aus Q1 mit jedem Zustand aus Q2 und setzt dann in die kombinierten Zustände die Buchstaben des Wortes ein. Man führt die Übergangsfunktion für die einzelnen Teile wie gewohnt mit dem Buchstaben aus, aber überführt dann aber wieder in den gemeinsamen Zustand“.

L₁ ∩ L₂

Bsp.:

• L₁= { aⁿ b^m; n,m ∈ ℕ und n ≠ m } → nein
• L₂ =  { aⁿ bⁿ; n ∈ ℕ } → nein
• L₃ = { aⁿ b^m; n, m ∈ ℕ } → ja
• ¬L₁ = L₂ 

3) Produktautomaten

• Sei A₁ = ( Q₁, Σ, q₀¹, δ₁, F₁) ein DEA für L₁
• Sei A₂ = (Q₂, Σ, q₀², δ₂, F₂) ein DEA für L₂
• Produktautomat : A=(Q₁xQ₂, Σ, (q₀¹, q₀²) δ, F₁xF₂)

Der Beitrag Theoretische Informatik (Vorlesung 6) erschien zuerst auf Maximilian Krieg.

• A = ( Q, Σ, q₀, δ, F )
  • Q = Zustandsmenge
  • Σ = Alphabet
  • q₀ = Anfangszustand
  • δ = Übergangsfunktion
  • F = Endzustände
• Beispiel: Endlichen Automat
  • Q = { q₀, q₁, q₂ }, Σ = { 0,1 }, q₀ Anfangszustand, Endzustand F = {q₂}
  • δ: Q x Σ → Q
  • δ ( q₀, 0 ) = q₁
  • δ ( q₀, 1 ) = q₀
  • δ ( q₁, 0 ) = q₀
  • δ ( q₁,1 ) = q₁
  • δ ( q₂,0 ) = q₁
  • δ ( q₂, 1 ) = q₂

Allgemein

• ( . ) = Anfangszustand
• (   ) = Zustände
• ((  )) = Endzustände
• Für q‘ = d(q,x) kann man auch schreiben:

• Für uns interessant: Nutzung von PEAS für das Wortproblem
• Definition 2.2 ( Erweiterte Übergangsfunktion)
  • Sei A = (Q, Σ, q₀, δ, F) ein DEA.
  • Die erweiterte Übergangsfunktion: δ* : Q x Σ* (Wort) → Q wird iterativ wie folgt definiert:
    • 1. δ*(q,Σ) = q
    • 2. δ*(q, a)=δ(q, a) für alle a ∈ Σ
    • 3. δ*(q,w) = δ* ( δ( q,x ),w‘ ) mit w = x w‘ und w = Σ*, x ∈ Σ
• Beispiel:
  • δ*( q₀, 100110 )  
  • = δ* ( q₀,  00110 )
  • = δ* ( δ ( q₀, 0)  0110 )  
  • = δ* ( δ ( q₁, 0)  110 )  
  • = δ* ( δ ( q₂, 1)  10 )  
  • = δ* ( δ ( q₂, 1)  0 )  
  • = δ* ( δ ( q₂, 0)  Σ ) 
  • = δ* (q₁, Σ ) = q₁
  • δ*( q₀, 100110 ) = q₁
• Def 2.3 Akzeptierte Sprache
  • Sei A = ( Q, Σ, q₀, δ, F) ein DEA, dann heißt L(A) = { w ∈ Σ*, δ*(q,w) ∈ F } die von A akzeptierte Sprache.
  • L(A) = { w ∈ { 0,1 }*, die Anzahl der Nullen ist gerade und ungleich 0.
• Beispiel:
  • Ein DEA für die Sprache L = { w ∈ {0,1}*, w ist eine Binärdarstellung einer durch 3 teilbaren Zahl }
  • Für ein Wort w = w_n … w₁ ∈  { 0,1 }* sei nat(w) = ∑(i=1 bis n) z^(i-1)*w_i
• Wir setzen weiter:
  • nat(Σ)=0 ( Leere Menge )
  • nat (1 0 1 1 ) = ∑ (i=1 bis 4) = 2⁰ * 1+2¹ * 1+2² * 0+2³ * 1 ( Es sind dabei w4, w3, w2, w1 )
  • Für eine natürliche Zahl n ∈ ℕ gilt:
  • n mod 3 = {0,1,2}  ( 0 = Durch drei teilbar )
• Für DEAs ist das Wortproblem lösbar:Gegeben: Eine durch 3 teilbare Zahl, z.B.:
  • 11 = 3
  • 110 = 6 // hat (w0) = 2nat(w)
  • 111 = 7 // hat (w1) = 2nat(w)+1

• Gegeben: Ein DEA A und ein Wort w.
• Frage: Gilt w ∈ L(A)
• Definition 2.4
  • Sei A ein DEA, für jedes Wort aus w ∈ Σ* kann in |w| Schritten geprüft werden ( |w| = Länge von w ), ob w ∈ L(A)
  • Beweis: Berechne δ*(q₀,w) Diese Berechnung erfordert |w| Schritte, dann gilt:
  • 1) Ist δ*(q₀, w) ∈ F, so ist  w ∈ L(A)
  • 2) sonst nicht

2.2 Minimierungsalgorithmus

• Definition 2.5: 
  • Zwei DEA A und A‘ heißen äquivalent, wenn L(A) = L(A‘)
  • Zwei Automaten erzeugen die gleiche Sprache, sind aber anders aufgebaut
• Beispiel 1:
• Beispiel 2:Die Sprache L(A) lautet wie folgt:
  • L(A)=(a+ba)* bb (a+b)*
  • L(A) = { w ∈ {a,b}, w enthält das Teilwort bb}
  • L(A, q₀) = L(A)
  • L(A, q₁) = L(A) u {bw, w ∈ Σ*}
  • L(A,q₂) = {a,b}*
  • Es gibt keine äquivalenten Zustände ( nichts zu kürzen)
• 
  Wie konstruiert man einen minimalen DEA für eine Sprache. ( Minimal in der Anzahl der Zustände )Die Sprache L(A‘) lautet ebenso:
  • L(A‘) = (a+ba)*bb(a+b)*
  • A und A‘ sind somit äquivalent.

• Erste Beobachtung: q₇ kann vom Anfangszustand q₀ nicht erreicht werden und kann somit gestrichen werden
• Zweite Beobachtung: Für alle w ∈ {a,b}* gilt δ*(q₃,w) ∈ F und δ* (q₅, w) ∈ F. Wir können also die Zustände geeignet zusammenfassen, ohne dass sich an der akzeptierten Sprache etwas ändert. 

• L(A, q₃) = {a,b}*
• L(A, q₅) = {a,b}*
• d.h. q₃ ~ q₅ ( Äquivalenz ist gegeben! )

• Definition 2.6:
  • Sei A = (Q, Σ, q₀, δ, F) ein DEA. Ein Zustand heißt erreichbar, falls ein Wort w ∈ Σ* mit δ* (q₀, w ) = q existiert. Sonst heißt q nicht erreichbar.
• Definition 2.7:
  • Sei A = (Q, Σ, q₀, δ, F) ein DEA. Zwei Zustände heißen äquivalent (q₁~q₂), wenn L(A, q₁) = L(A,q₂), dabei ist L(A,q) = {w ∈ Σ*; δ(q,w) ∈ F} (d.h. die von A akzeptierte Sprache, wenn q der Anfangszustand wäre)
• Definition 2.8:
  1. Es gilt ~ ist eine Äquivalenzrelation, d.h.
     1. reflexiv ( d.h. q ~ q für alle q ∈ Q )
     2. symmetrisch ( d.h. aus  q₁ ~ q₂ → q₂ ~ q₁)
     3. transitiv ( d.h. aus q₁ ~ q₂ und q₂ ~ q₃ → q₁ ~ q₃)
  2. ~ ( die Relation) ist verträglich  mit der Übergangsfunktion, d.h. ist q₁ ~ q₂  d (q₁, a) ~ d(q₂, a) für alle a ∈ Σ.
• Beweis: 
  • 1A) Wegen L(A, q) = L(A, q) gilt q ~ q.
  • 1B) Ist q₁ ~ q₂, dann gilt L(A, q₁) = L(A, q₂), also q₂ ~ q₁
  • 1C) Ist q₁~q₂ und q₂~q₃, dann gilt L(A,q₁)  = L(A, q₂) = L(A,q₃). Insbesondere gilt also L(A, q₁) = L(A,q₃), d.h. q₁~q₃.
  • 2) Es gilt nämlich q₁ ~ q₂  L(A,q₁) = L(A,q₂) ∀ w ∈ Σ* : δ*(q₁,w) ∈ F  δ*(q₂, w) ∈ F ∀ a ∈ Σ ∀ v ∈ Σ* : [ d* (δ(q₁, a),v) ∈ F   δ*(δ(q₂, a), v) ∈ F] ( setze einfach w=av; v = Wort; a= Buchstabe )  ∀ a ∈ Σ : L(A,δ(q₁,a))=L(A,δ(q₂,a)) δ(q₁,a) ~ δ(q₂,a)
• Definition 2.9 Quotientenautomat
  • Sei A = (Q, Σ, q₀, δ, F) ein DEA.
  • Der Quotientenautomat A^~ = ( Q^~, E, q^~, d^~, F^~) mit
    1.  Q^~ = {q~, q ∈ Q } wobei q^~ = { q‘ ∈ Q; q ~ q‘ }
    2. d^~(q^~,a) = d~~~(q,a)
    3. F^~ = {q^~, q ∈ F }
  • q~ = { q‘ ∈ Q; q ~ q‘ } ( Die Äquivalenzklasse von q ) ( q₀^~ = Äquivalenzklasse von q₀ → für / mit allen Elementen aus q₀ )
  • q₀^~ = { q₀ }
  • q₁^~ = { q₁ }
  • q₂^~ = { q₂ }

Der Beitrag Theoretische Informatik (Vorlesung 5) erschien zuerst auf Maximilian Krieg.

• Vertiefend in die Inhalte der Vorlesungen gehen

Aufgabe 1

• Sei M eine Menge. Eine zweistellige Relation R ist eine Teilmenge R ⊂ MxM. Für ( x, y) ∈ R schreiben wir xRy ( x steht in Relation zu y)
• Bsp.:  <, =, > = {(x,y) ∈ NxN, x = y} = N x N
• Eine Relation heißt:
  1. reflexiv, wenn für alle x ∈ M : xRx
     1. ≤  ja
     2. =  ja
     3. <  nein ( da z.B.: 3 < 3 falsch ist )
  2. symmetrisch, wenn für alle x,y ∈ M: xRy → yRx
     1. ≤  nein ( da 3 = 5 aber 5 = 3 !  )
     2. =  ja
     3. <  nein
  3. asymmetrisch, wenn für alle x,y ∈ M: xRy → ¬(yRx)
     1. ≤  nein ( da 5 = 5 → wahr, aber ¬ ( 5 = 5 ) → falsch )
     2. =  nein
     3. <  ja
  4. antisymmetrisch, wenn für alle x,y ∈ M: xRy und yRx folgt: x = y
     1.  ≤  ja
     2.  =  ja
     3.  <  ja ( da es keine gültige Lösung für die Vorbedingung gibt → leere Menge, für diese ist es wieder wahr )
  5. transitiv, wenn für alle x,y,z ∈ M aus xRy und yRz => xRz
     1. gilt für alle Operationen

Aufgabe 2 Äquivalenzrelationen

• Sei R eine zweistellige Relation auf M. Dann heißt R eine Äquivlanzrelation, wenn R:
  1. reflexiv,
  2. symmetrisch und
  3. transitiv ist
• Beispiel: Drei Parallele Geraden im ℝ² ( Parallelität ist eine Äquivalenzrelation )

Aufgabe 3 Äquivalenzrelationen

• Sei M die Menge aller Schüler eine Schule. Ein Schüler X stehe in Relation zu Schüler Y, wenn X und Y die selbe Klassen besuchen. ( X ~ Y )

• Reflexivität:  ( X ~ X )
  • Schüler X steht in Relation zu sich selbst
• Symmetrie: X ~ Y → Y ~ X
  • Wenn X die Klasse besucht, besucht auch Y diese
• Transitivität: X ~ Y → Y ~ Z → X ~ Z
  • Wenn X die Klasse mit Y besucht und Y die Klasse mit Z, dann besucht X und Z die gleiche Klasse

Hiermit haben wir bewiesen, dass die definierte Relation eine Äquivalenzrelation ist.

Äquivalenzklasse

• [X]^~ = { y ∈ M, X~Y ) = Wenn X ein Schüler der Klasse 6c ist, dann sind [X]^~ alle Schüler der Klasse 6c. Alle Schüler einer bestimmten Eigenschaft (Schulklasse) werden in Äquivalenzklassen zusammengefasst.
• X ∈ [X]^~ ( X ist immer Teil seiner eigenen Äquivalenzklasse )
• a) Für alle x,y ∈ M mit X ~ Y gilt [X]^~ = [Y]^~
  • zz.:
    • [X]^~ ⊂ [Y]^~, [Y]^~ ⊂ [X]^~ sei z ∈ [X]^~, also gilt X ~ Z.
    • Aus der Symmetrie folgt Z ~ X. 
    • Da X ~ Y, folgt aus der Transitivität Z ~ Y.
    • Wieder aus der Symmetrie folgt Y ~ Z und damit Z ∈ [Y]^~
• b) Für alle x,y ∈ M mit x ~/~ y gilt [X]^~ ∩ [Y]^~ = Ø ( leere Menge )
  • Da X in keiner Relation zu Y steht, handelt es sich bei deren Äquivalenzklassen um 2 verschiedene Teilmengen aus M. Diese Teilmengen repräsentieren disjunkten Äquivalenzklassen und erzeugen bei der Schnittmengen-Operation die leere Menge.

Der Beitrag Theoretische Informatik (Vorlesung 4) erschien zuerst auf Maximilian Krieg.

• Beispiel 1:
  • Graph g = (V,E)
  • Eine Teilmenge C ⊆ V heißt Clique, wenn je zwei Knoten aus C mit einer Kante verbunden sind.
  • Wenn alle mit allen verbunden sind, dann ist der Graph eine Clique
  • Wenn das Entscheidungsproblem nicht lösbar ist, dann ist das Optimierungsproblem auch nicht lösbar.
  • Das Entscheidungsproblem greift auf den Lösungsalgorithmus des Optimierungsproblems zurück.

Optimierungsproblem Clique

• Eingabe: Ein Graph G
• Ausgabe: Größte Clique in G

Entscheidungsproblem Clique

• Einbgabe: Ein Graph G, k ∈ ℕ (natürliche Zahlen)
• Ausgabe: Gibt es in G eine Clique der Größe k? → ja / nein
• Beispiel 2: 
  • Def. 1.3: Aussagenlogische Formeln
    • Seien x₁, …, x_n boolesche Variablen ( können nur die Werte falsch oder wahr annehmen)
    • Seien weiter ∧ (UND), ∨ (ODER), ¬ ( Negation) Operationen mit
    1. wahr ∧ wahr = wahr
    2. wahr ∧ falsch = falsch ∧ wahr = falsch ∧ falsch = falsch
    3. wahr ∨ wahr = wahr ∨ falsch = falsch ∨ wahr= wahr
    4.  falsch ∨ falsch = falsch
    5. wahr = ¬ falsch
    6. falsch = ¬ wahr
    • Die Variablen x₁ und ¬x₁ heißen auch Literale.
    • Ein Ausdruck (y₁ ∨ y₂ … ∨ y_n ) mit Literalen y₁, .., y_n heißt Klausel  und ein ein Ausdruck α = c₁ ∧ c₂ … ∧ _cm mit Klauseln c₁, …, c_n heißt Ausdruck in konjunktiver Normalform.
    • Beispiel 1:  
      • α =  (x₁ v x₂ v x₃ ) ∧ ( x₁ v ¬x₂ v ¬x₃ )
      • x₁, x₂, x₃ = Literal
    • Nur mit ∨ (ODER) Verknüpfung verbunden = Klausel
    • Eine Belegung der Variablen x₁, .., x_n ist eine Abbildung  μ{x₁, .. , x_n } → {wahr, falsch}
    • Eine Belegung μ erfüllt den Ausdruck α, wenn α den Wert wahr bekommt.
    • Bsp. (zu oben):
      • μ(x₁) = μ(x₂) = μ(x₃) = wahr 
        • (wahr ∨ wahr ∨ wahr) ∧ (wahr ∨ falsch ∨ falsch) = wahr
        • somit ist μ eine erfüllende Bedinung für α
      • μ(x₁) = μ(x₂) = μ(x₃) = falsch
        • (falsch ∨ falsch ∨ falsch)∧ (falsch ∨ wahr ∨ wahr) = falsch
        • somit ist μ keine erfüllende Bedingung für α
    • Beispiel 2:
      • α = ( x₁ ∨ x₂ ) ∧ ( x₁ ∨ ¬ x₂ ) ∧ (¬ x₁ ∨ x₂) ∧ (¬ x₁ v ¬ x₂)
      • hat keine erfüllende Bedingung

Optimierungsproblem Saturability ( Sat )

• Eingabe: Ein Ausdruck α in konjunktiver Normalform
• Ausgabe: Eine Belegung, die die meißten Klauseln erfüllt

Entscheidungsproblem Saturability ( Sat )

• Eingabe: Ein Ausdruck α in KNF
• Ausgabe: Gibt es eine erfüllende Belegung für α? → ja / nein

1.3 Optimierungs-, Entscheidungs- und Wortprobleme und formale Sprachen

• „Warum interessieren wir uns für Formale sprachen?“
• Sei Σ ein endliches Alphabet z.B. Σ = { 0,1 } mit Σ* = { (W₁,…,W_n), n ∈ ℕ , W₁,…, W_n, ∈ Σbezeichnen wir die Menge aller Wörter über Σ.
• Für eine Sprache L ⊆  Σ* sei das Wortproblem L.
  • Eingabe: Ein Wort w ∈ Σ*
  • Ausgabe: Gilt w ∈ L?
• Aufgabe: Wie codiert man Eingaben zu einem Problem in einer für Computer verständlichen Sprache?
• Bsp.: Eingabe des Optimierungsprogrammes Clique sind Graphen G = (V,E)
  • V = {V₁,..,V_n}
  • E={E₁,..,E_n}
  • Dann kann der Graph durch folgende m x n – Matrix (Indizenz-Matrix) repräsentiert werden:

Bzw.:

• Dabei bedeutet:
  • x_ij = 1 : v_j ∈ e_i
  • x_ij = 0 : v_j ∉ e_i
  • Wenn eine Kante existiert, dann ist dies mit einer 1 gekennzeichnet.
  • Wenn keine Kante existiert, dann ist es mit einer 0 gekennzeichnet.

• Ziel:
  • Kodierung eines Graphen als Bitstring, d.h. als ein Wort über dem Alphabet Σ = {0,1}
  • Lösung = G → ( 1 … 1 0 1 … 1 0 x₁₁  x₁₂ .. x_mn)
  • n-mal die 1  = Anzahl der Knuten in G
  • Schließende 0
  • n-mal die 1 = Anzahl der Kanten in G
• Bsp.:
• Eingaben des Entscheidungsproblems Clique sind von der Form (G, K) → ( 1ⁿ 0 1^m 0 x₁₁ … x_mn  k₁ … k_t )
  • G = Graph
  • k = natürliche Zahl
  • Binärdarstellung von k
• Für das Entscheidungsproblem Clique zerfällt die Menge Σ* ( Menge aller Wörter ) in drei Teilmengen.
  • Teilmenge 1:
    • Wörter, die keine Eingaben des Entscheidungsproblems repräsentieren. ( 1 1 1 0 1 1 0 1 ) müssten mehr Zahlen sein
  • Teilmenge 2:
    • Wörter, die Eingaben repräsentieren, für die Frage mit nein beantwortet wird. ( „Eingabe G, k: hat keine Clique der Größe k“ )
  • Teilmenge 3:
    • Wörter, die Eingaben repräsentieren, für die die Frage mit ja beantwortet wird. ( „Eingabe G, k: hat eine Clique der Größe k“ )
    • Diese Dritte Teilmenge bildet eine Sprache L.
  • Das zugehörige Wortproblem L = Menge aller Wörter, die Ja-Eingaben repräsentieren …
    • Eingabe: Wort w ∈ Σ*
    • Frage: Gilt w ∈ L?
  • … heißt das zum Entscheidungsproblem Clique assoziierte Wortproblem.

2. Endliche Automaten und reguläre Sprachen

• 2.1 Endliche Automaten
  • Definition: ( Deterministischer endlicher Automat (DEA)) Ein DEA ist von der Form A = ( Q, Σ, q₀, δ, F ) mit
    • Q= Zustandsmenge / endliche Menge von Zuständen
    • Σ = endliches Alphabet
    • q₀ ∈ Q = Anfangszustand
    • δ: Q x Σ → Q ( Übergangsfunktion)
    • F ⊆ Q = Eine Menge von Endzuständen

Allgemeine Vorstellungvon der Arbeitsweise ist wie folgt:

• Am Anfang steht der Lesekopf auf dem ersten Feld des Bandes und das Programm befindet sich im Zustand q₀ ( Anfangszustand )
• Im nächsten Schritt passiert folgendes:
  1. Liest der Lesekopf den Buchstaben x ∈ Σ und befindet sich das Programm im Zustand q ∈ Q, dann bewegt sich des Lesekopf um eine Stelle nach Rechts und das Programm geht in den Zustand δ(q,x) über.

Der Beitrag Theoretische Informatik (Vorlesung 3) erschien zuerst auf Maximilian Krieg.