Bayesovské síte: pravdepodobnostní inference a aplikace

Bayesovské sítě:
pravděpodobnostní inference a aplikace
Jiří Vomlel
Ústav teorie informace a automatizace (ÚTIA)
Akademie věd České republiky
http://www.utia.cz/vomlel
Praha, 15. listopadu 2013
Obsah přednášky
• Příklad bayesovské sítě a možných výpočtů
Obsah přednášky
• Příklad bayesovské sítě a možných výpočtů
• Metoda výpočtu pomocí stromu spojení
Obsah přednášky
• Příklad bayesovské sítě a možných výpočtů
• Metoda výpočtu pomocí stromu spojení
• Aplikace 1: Technická diagnostika
Obsah přednášky
• Příklad bayesovské sítě a možných výpočtů
• Metoda výpočtu pomocí stromu spojení
• Aplikace 1: Technická diagnostika
• Aplikace 2: Adaptivní testování znalostí
Zjednodušený diagnostický model - Plicní klinika
Zjednodušený diagnostický model - Plicní klinika
Zadáváme pouze:
P(Pobyt v Asii)
P(Kuřák)
P(Tuberkulóza | Pobyt v Asii) P(Rakovina | Kuřák)
P(Zánět průdušek | Kuřák)
P(RTG | Tuberkulóza, Rakovina)
P(Dušnost | Tuberkulóza, Rakovina, Zánět průdušek)
P(RTG | Tuberkulóza, Rakovina)
Nejprve předpokládejme, že RTG je pozitivní právě tehdy, když
pacient má tuberkulózu nebo rakovinu.
RTG
0
0
0
0
1
1
1
1
Tuberkulóza
0
0
1
1
0
0
1
1
Rakovina
0
1
0
1
0
1
0
1
p
1
0
0
0
0
1
1
1
P(RTG | Tuberkulóza, Rakovina)
Připustíme, že RTG může být pozitivní i z jiného důvodu a nemusí
být nutně pozitivní ikdyž pacient má tuberkulózu nebo rakovinu.
RTG
0
0
0
0
1
1
1
1
Tuberkulóza
0
0
1
1
0
0
1
1
Rakovina
0
1
0
1
0
1
0
1
p
1
0
0
0
0
1
1
1
p0
p0
p0 ∗ p1
p0 ∗ p2
p0 ∗ p1 ∗ p2
1 − p0
1 − p0 ∗ p1
1 − p0 ∗ p2
1 − p0 ∗ p1 ∗ p2
p0 , p1 , p2 ∈ h0, 1i
0.95
0.019
0.019
0.00038
0.05
0.981
0.981
0.99962
P(RTG | Tuberkulóza, Rakovina)
Připustíme, že RTG může být pozitivní i z jiného důvodu a nemusí
být nutně pozitivní ikdyž pacient má tuberkulózu nebo rakovinu.
RTG
0
0
0
0
1
1
1
1
Tuberkulóza
0
0
1
1
0
0
1
1
Rakovina
0
1
0
1
0
1
0
1
p
1
0
0
0
0
1
1
1
p0
p0
p0 ∗ p1
p0 ∗ p2
p0 ∗ p1 ∗ p2
1 − p0
1 − p0 ∗ p1
1 − p0 ∗ p2
1 − p0 ∗ p1 ∗ p2
p0 , p1 , p2 ∈ h0, 1i
0.95
0.019
0.019
0.00038
0.05
0.981
0.981
0.99962
Tento lokální model v bayesovské síti se nazývá „logické NEBO se
šumem“ (noisy-or).
P(RTG | Tuberkulóza, Rakovina)
Připustíme, že RTG může být pozitivní i z jiného důvodu a nemusí
být nutně pozitivní ikdyž pacient má tuberkulózu nebo rakovinu.
RTG
0
0
0
0
1
1
1
1
Tuberkulóza
0
0
1
1
0
0
1
1
Rakovina
0
1
0
1
0
1
0
1
p
1
0
0
0
0
1
1
1
p0
p0
p0 ∗ p1
p0 ∗ p2
p0 ∗ p1 ∗ p2
1 − p0
1 − p0 ∗ p1
1 − p0 ∗ p2
1 − p0 ∗ p1 ∗ p2
p0 , p1 , p2 ∈ h0, 1i
0.95
0.019
0.019
0.00038
0.05
0.981
0.981
0.99962
Tento lokální model v bayesovské síti se nazývá „logické NEBO se
šumem“ (noisy-or).
Pro jeho definici potřebujeme k + 1 hodnot p0 , p1 , . . . , pk , kde k je
počet rodičů dané proměnné.
Příklad výpočtu v bayesovské síti
apriorní pravděpodobnost P(X ) všech veličin X
Příklad výpočtu v bayesovské síti
podmíněná pravděpodobnost P(X |Kuřák)
Příklad výpočtu v bayesovské síti
podmíněná pravděpodobnost P(X |Kuřák, Dušnost)
Příklad výpočtu v bayesovské síti
podmíněná pravděpodobnost P(X |Kuřák, Dušnost, RTG)
Příklad výpočtu v bayesovské síti
podmíněná pravděpodobnost
P(X |Kuřák, Dušnost, RTG, Pobyt v Asii)
Strom spojení - Join Tree
Strom spojení neorientovaného grafu je neorientovaný graf takový,
že:
• uzly odpovídají klikám grafu
Strom spojení - Join Tree
Strom spojení neorientovaného grafu je neorientovaný graf takový,
že:
• uzly odpovídají klikám grafu
• uzly jsou spojeny hranami tak, že graf je strom (tj. souvislý
graf bez cyklů)
Strom spojení - Join Tree
Strom spojení neorientovaného grafu je neorientovaný graf takový,
že:
• uzly odpovídají klikám grafu
• uzly jsou spojeny hranami tak, že graf je strom (tj. souvislý
graf bez cyklů)
• pro všechny dvojice uzlů C1 and C2 platí, že všechny kliky,
které odpovídají uzlům na cestě mezi C1 a C2 , obsahují
C1 ∩ C2 .
Strom spojení - Join Tree
Strom spojení neorientovaného grafu je neorientovaný graf takový,
že:
• uzly odpovídají klikám grafu
• uzly jsou spojeny hranami tak, že graf je strom (tj. souvislý
graf bez cyklů)
• pro všechny dvojice uzlů C1 and C2 platí, že všechny kliky,
které odpovídají uzlům na cestě mezi C1 a C2 , obsahují
C1 ∩ C2 .
X2
X1
X3
X4
X5
X6
X7
X8
Strom spojení - Join Tree
Strom spojení neorientovaného grafu je neorientovaný graf takový,
že:
• uzly odpovídají klikám grafu
• uzly jsou spojeny hranami tak, že graf je strom (tj. souvislý
graf bez cyklů)
• pro všechny dvojice uzlů C1 and C2 platí, že všechny kliky,
které odpovídají uzlům na cestě mezi C1 a C2 , obsahují
C1 ∩ C2 .
X2
X1
X1
C1
X2
C5
C2
X3
X4
X5
X3
X6
X7
X4
X5
X6
X8
X7
C3
X8
C6
C4
Strom spojení - Join Tree
Strom spojení neorientovaného grafu je neorientovaný graf takový,
že:
• uzly odpovídají klikám grafu
• uzly jsou spojeny hranami tak, že graf je strom (tj. souvislý
graf bez cyklů)
• pro všechny dvojice uzlů C1 and C2 platí, že všechny kliky,
které odpovídají uzlům na cestě mezi C1 a C2 , obsahují
C1 ∩ C2 .
X2
X1
X1
C1
X2
C5
C2
X3
X4
X5
X3
X4
X5
C4
{X1 , X3 }
C5
C2
X6
X8
X7
C3
C4 {X4 , X5 , X6 }
{X3 , X4 , X6 }
X6
C3
{X6 , X7 }
X7
{X2 , X4 , X5 }
C1
X8
C6
C6
{X5 , X6 , X8 }
Strom spojení - Join Tree
Strom spojení neorientovaného grafu je neorientovaný graf takový,
že:
• uzly odpovídají klikám grafu
• uzly jsou spojeny hranami tak, že graf je strom (tj. souvislý
graf bez cyklů)
• pro všechny dvojice uzlů C1 and C2 platí, že všechny kliky,
které odpovídají uzlům na cestě mezi C1 a C2 , obsahují
C1 ∩ C2 .
X2
X1
X1
C1
X2
C5
C2
X3
X4
X5
X3
X4
X5
C4
{X1 , X3 }
C5
C2
X6
X8
X7
C3
C4 {X4 , X5 , X6 }
{X3 , X4 , X6 }
X6
C3
{X6 , X7 }
X7
{X2 , X4 , X5 }
C1
X8
C6
Pro triangulovaný graf lze strom spojení nalézt vždy.
C6
{X5 , X6 , X8 }
Rozšířený strom spojení - Junction Tree
Strom spojení rozšíříme tak, že:
• každou pravděpodobnostní tabulku přiřadíme některému uzlu
jehož klika obsahuje všechny proměnné dané tabulky
Rozšířený strom spojení - Junction Tree
Strom spojení rozšíříme tak, že:
• každou pravděpodobnostní tabulku přiřadíme některému uzlu
jehož klika obsahuje všechny proměnné dané tabulky
• každé hraně {Ci , Cj } přiřadíme separátor Ci ∩ Cj
Rozšířený strom spojení - Junction Tree
Strom spojení rozšíříme tak, že:
• každou pravděpodobnostní tabulku přiřadíme některému uzlu
jehož klika obsahuje všechny proměnné dané tabulky
• každé hraně {Ci , Cj } přiřadíme separátor Ci ∩ Cj
• každý separátor bude obsahovat dvě poštovní schránky
(mailboxes) pro pravděpodobnostní tabulky – jednu schránku
pro každý směr.
Rozšířený strom spojení - Junction Tree
Strom spojení rozšíříme tak, že:
• každou pravděpodobnostní tabulku přiřadíme některému uzlu
jehož klika obsahuje všechny proměnné dané tabulky
• každé hraně {Ci , Cj } přiřadíme separátor Ci ∩ Cj
• každý separátor bude obsahovat dvě poštovní schránky
(mailboxes) pro pravděpodobnostní tabulky – jednu schránku
pro každý směr.
X1
X2
X3
X4
X5
X6
X7
X8
Rozšířený strom spojení - Junction Tree
Strom spojení rozšíříme tak, že:
• každou pravděpodobnostní tabulku přiřadíme některému uzlu
jehož klika obsahuje všechny proměnné dané tabulky
• každé hraně {Ci , Cj } přiřadíme separátor Ci ∩ Cj
• každý separátor bude obsahovat dvě poštovní schránky
(mailboxes) pro pravděpodobnostní tabulky – jednu schránku
pro každý směr.
X1
X2
{X1 , X3 }
X3
X4
X5
C5
C2
C4 {X4 , X5 , X6 }
{X3 , X4 , X6 }
X6
C3
{X6 , X7 }
X7
{X2 , X4 , X5 }
C1
X8
C6
{X5 , X6 , X8 }
Rozšířený strom spojení - Junction Tree
Strom spojení rozšíříme tak, že:
• každou pravděpodobnostní tabulku přiřadíme některému uzlu
jehož klika obsahuje všechny proměnné dané tabulky
• každé hraně {Ci , Cj } přiřadíme separátor Ci ∩ Cj
• každý separátor bude obsahovat dvě poštovní schránky
(mailboxes) pro pravděpodobnostní tabulky – jednu schránku
pro každý směr.
C1
X1
P(X1 ), P(X3 |X1 )
{X2 , X4 , X5 }
X2
{X1 , X3 }
X3
X4
X5
C1
C5
C2
C4 {X4 , X5 , X6 }C2 P(X6 |X3 , X4 )
C4
{X3 , X4 , X6 }
X6
C3
{X6 , X7 }
X7
C5
P(X2 ), P(X4 |X2 )
P(X5 |X2 )
X8
C6
{X5 , X6 , X8 }
P(X7 |X6 )
C3
P(X8 |X4 , X6 )
C6
Výpočet marginálních pravděpodobností ve stromu spojení
Pravidla pro zasílání zpráv:
• každý uzel může zaslat zprávu pouze tehdy, když obdržel
zprávu ve všech schránkách s výjimkou toho, kam zprávu
odešle
Výpočet marginálních pravděpodobností ve stromu spojení
X5
P(X2 ), P(X4 |X2C)
5
P(X5 |X2 )
=
C1 P(X1 ), P(X3 |X1 )
P
ψ(X4 , X5 )
Pravidla pro zasílání zpráv:
• každý uzel může zaslat zprávu pouze tehdy, když obdržel
zprávu ve všech schránkách s výjimkou toho, kam zprávu
odešle
1
C3 P(X7 |X6 )
ψ(X4 , X5 )
ψ(X4 )
ψ(X3 )
C2 P(X6 |X3 , X4 )
1
C4
1
P(X8 |X4 , X6 ) C6
Výpočet marginálních pravděpodobností ve stromu spojení
Pravidla pro zasílání zpráv:
• každý uzel může zaslat zprávu pouze tehdy, když obdržel
zprávu ve všech schránkách s výjimkou toho, kam zprávu
odešle
• zpráva z Ci to Cj je spočtena marginalizací na proměnné z
Ci ∩ Cj ze součinu všech pravděpodobnostích tabulek
přiřazených Ci a všech pravděpodobnostích tabulek v
příchozích schránkách (incoming mailboxes) Ci s výjimkou
schránky z Cj do Ci .
Výpočet marginálních pravděpodobností ve stromu spojení
Pravidla pro zasílání zpráv:
• každý uzel může zaslat zprávu pouze tehdy, když obdržel
zprávu ve všech schránkách s výjimkou toho, kam zprávu
odešle
• zpráva z Ci to Cj je spočtena marginalizací na proměnné z
Ci ∩ Cj ze součinu všech pravděpodobnostích tabulek
přiřazených Ci a všech pravděpodobnostích tabulek v
příchozích schránkách (incoming mailboxes) Ci s výjimkou
schránky z Cj do Ci .
P(X2 ), P(X4 |X2C)
5
P(X5 |X2 )
C1 P(X1 ), P(X3 |X1 )
1
P(X6 |X3 , X4 ) · ψ(X3 ) · ψ(X4 ) = ψ(X6 )
X3 ,X4
P
C3 P(X7 |X6 )
ψ(X4 , X5 )
ψ(X4 )
ψ(X3 )
C2 P(X6 |X3 , X4 )
C4
1
P(X8 |X4 , X6 ) C6
Výpočet marginálních pravděpodobností ve stromu spojení
• Abychom mohli spočítat nějakou marginální
pravděpodobnostní tabulku musíme:
(1) najít kliku, která obsahuje všechny její proměnné,
(2) spočítat součin všech tabulek přiřazených této klice a
všech tabulek v příchozích schránkách a
(3) marginalizovat tabulku, pokud je to třeba.
Výpočet marginálních pravděpodobností ve stromu spojení
• Abychom mohli spočítat nějakou marginální
pravděpodobnostní tabulku musíme:
(1) najít kliku, která obsahuje všechny její proměnné,
(2) spočítat součin všech tabulek přiřazených této klice a
všech tabulek v příchozích schránkách a
(3) marginalizovat tabulku, pokud je to třeba.
P(X2 ), P(X4 |X2C)
5
P(X5 |X2 )
C1 P(X1 ), P(X3 |X1 )
P(X6 |X3 , X4 )
P
X4 ,X6
P(X3 ) =
P(X6 |X3 , X4 ) · ψ(X3 ) · ψ(X4 )
1
C3 P(X7 |X6 )
ψ(X4 , X5 )
ψ(X4 )
ψ(X3 )
C2
1
C4
1
P(X8 |X4 , X6 ) C6
Výpočet marginálních pravděpodobností ve stromu spojení
• Abychom mohli spočítat nějakou marginální
pravděpodobnostní tabulku musíme:
(1) najít kliku, která obsahuje všechny její proměnné,
(2) spočítat součin všech tabulek přiřazených této klice a
všech tabulek v příchozích schránkách a
(3) marginalizovat tabulku, pokud je to třeba.
• Výpočet končí, když jsou všechny schránky zaplněny.
Příklad výpočtu P(X3 ) ve stromu spojení
P(X2 ), P(X4 |X2C)
5
P(X5 |X2 )
C1 P(X1 ), P(X3 |X1 )
C2 P(X6 |X3 , X4 )
C3 P(X7 |X6 )
1
C4
P(X8 |X4 , X6 ) C6
Příklad výpočtu P(X3 ) ve stromu spojení
P(X2 ), P(X4 |X2C)
5
P(X5 |X2 )
C1 P(X1 ), P(X3 |X1 )
C2 P(X6 |X3 , X4 )
1
C4
1
C3 P(X7 |X6 )
=
P
X8
P(X8 |X4 , X6 )
P(X8 |X4 , X6 ) C6
Příklad výpočtu P(X3 ) ve stromu spojení
P(X2 ), P(X4 |X2C)
5
P(X5 |X2 )
C1 P(X1 ), P(X3 |X1 )
C2 P(X6 |X3 , X4 )
P
X7
P(X7 |X6 ) = 1
C3 P(X7 |X6 )
1
C4
1
P(X8 |X4 , X6 ) C6
Příklad výpočtu P(X3 ) ve stromu spojení
P(X2 ), P(X4 |X2C)
5
P(X5 |X2 )
C1 P(X1 ), P(X3 |X1 )
P
X1
P(X3 |X1 ) · P(X1 ) = ψ(X3 )
C2 P(X6 |X3 , X4 )
1
C3 P(X7 |X6 )
1
C4
1
P(X8 |X4 , X6 ) C6
Příklad výpočtu P(X3 ) ve stromu spojení
P(X2 ), P(X4 |X2C)
5
P(X5 |X2 )
C1 P(X1 ), P(X3 |X1 )
ψ(X3 )
C2 P(X6 |X3 , X4 )
1
C3 P(X7 |X6 )
ψ(X4 , X5 )=
1
P
X2
P(X4 |X2 ) · P(X5 |X2 ) · P(X2 )
C4
1
P(X8 |X4 , X6 ) C6
X5
P(X2 ), P(X4 |X2C)
5
P(X5 |X2 )
=
C1 P(X1 ), P(X3 |X1 )
P
ψ(X4 , X5 )
Příklad výpočtu P(X3 ) ve stromu spojení
1
C3 P(X7 |X6 )
ψ(X4 , X5 )
ψ(X4 )
ψ(X3 )
C2 P(X6 |X3 , X4 )
1
C4
1
P(X8 |X4 , X6 ) C6
Příklad výpočtu P(X3 ) ve stromu spojení
P(X2 ), P(X4 |X2C)
5
P(X5 |X2 )
C1 P(X1 ), P(X3 |X1 )
ψ(X4 , X5 )
P
X3 ,X4
1
P(X6 |X3 , X4 ) · ψ(X3 ) · ψ(X4 ) = ψ(X6 )
C3 P(X7 |X6 )
ψ(X4 )
ψ(X3 )
C2 P(X6 |X3 , X4 )
C4
1
P(X8 |X4 , X6 ) C6
Příklad výpočtu P(X3 ) ve stromu spojení
P(X2 ), P(X4 |X2C)
5
P(X5 |X2 )
C1 P(X1 ), P(X3 |X1 )
P(X6 |X3 , X4 )
P
X4 ,X6
P(X3 ) =
P(X6 |X3 , X4 ) · ψ(X3 ) · ψ(X4 )
1
C3 P(X7 |X6 )
ψ(X4 , X5 )
ψ(X4 )
ψ(X3 )
C2
1
C4
1
P(X8 |X4 , X6 ) C6
Technická diagnostika – optimální strategie opravy
• Příčiny problému (závady) C ∈ C.
Technická diagnostika – optimální strategie opravy
• Příčiny problému (závady) C ∈ C.
• Akce A ∈ A - opravné kroky, které mohou odstranit závadu.
Technická diagnostika – optimální strategie opravy
• Příčiny problému (závady) C ∈ C.
• Akce A ∈ A - opravné kroky, které mohou odstranit závadu.
• Otázky Q ∈ Q - kroky, které mohou pomoci identifikovat, kde
je závada.
Technická diagnostika – optimální strategie opravy
• Příčiny problému (závady) C ∈ C.
• Akce A ∈ A - opravné kroky, které mohou odstranit závadu.
• Otázky Q ∈ Q - kroky, které mohou pomoci identifikovat, kde
je závada.
• Ke každé akci i otázce je přiřazena cena
(cA značí cenu akce A, cQ cenu otázky Q).
Cena může znamenat:
– dobu potřebnou k provedení akce či otázky,
– cenu za náhradní díl, který použijeme
– rizikovost akce
– kombinaci výše uvedeného.
Technická diagnostika laserové tiskárny
Trouble: světlý tisk.
Troubleshooter: doporučí kroky, které vedou k odstranění
“trouble”
Technická diagnostika laserové tiskárny
Trouble: světlý tisk.
Troubleshooter: doporučí kroky, které vedou k odstranění
“trouble”
Akce a otázky
A1 : Remove, shake and reseat toner
A2 : Try another toner
A3 : Cycle power
Q1 : Is the printer configuration page printed light?
cena
5
15
1
2
Technická diagnostika laserové tiskárny
Trouble: světlý tisk.
Troubleshooter: doporučí kroky, které vedou k odstranění
“trouble”
Akce a otázky
A1 : Remove, shake and reseat toner
A2 : Try another toner
A3 : Cycle power
Q1 : Is the printer configuration page printed light?
Možné závady při světlém tisku
C1 : Toner low
C2 : Defective toner
C3 : Corrupted dataflow
C4 : Wrong driver setting
P(Ci )
0.4
0.3
0.2
0.1
cena
5
15
1
2
Bayesovská síť pro problém světlého tisku
Actions
Causes
Problem
A1
C1
A2
c1
c2
c3
c4
C2
A3
C3
Questions
C4
Q1
Očekávaná cena opravy - ECR
• Strategie může skončit neúspěšně - např. jsme vyčerpali
všechny možné akce:
- uplatní se penalizace c(e ` )
- penalizací může být např. cena, kterou zaplatíme za zavolání
servisních techniků
Očekávaná cena opravy - ECR
• Strategie může skončit neúspěšně - např. jsme vyčerpali
všechny možné akce:
- uplatní se penalizace c(e ` )
- penalizací může být např. cena, kterou zaplatíme za zavolání
servisních techniků
• Strategie může končit vyřešením problému c(e ` ) = 0.
Očekávaná cena opravy - ECR
• Strategie může skončit neúspěšně - např. jsme vyčerpali
všechny možné akce:
- uplatní se penalizace c(e ` )
- penalizací může být např. cena, kterou zaplatíme za zavolání
servisních techniků
• Strategie může končit vyřešením problému c(e ` ) = 0.
• Získaná evidence
(
e =
A = yes/no, A ∈ Provedené akce,
Q = yes/no, Q ∈ Zodpovězené otázky
)
Očekávaná cena opravy - ECR
• Strategie může skončit neúspěšně - např. jsme vyčerpali
všechny možné akce:
- uplatní se penalizace c(e ` )
- penalizací může být např. cena, kterou zaplatíme za zavolání
servisních techniků
• Strategie může končit vyřešením problému c(e ` ) = 0.
• Získaná evidence
(
e =
A = yes/no, A ∈ Provedené akce,
Q = yes/no, Q ∈ Zodpovězené otázky
• P(e) ... pravděpodobnost evidence e
)
Očekávaná cena opravy - ECR
• Strategie může skončit neúspěšně - např. jsme vyčerpali
všechny možné akce:
- uplatní se penalizace c(e ` )
- penalizací může být např. cena, kterou zaplatíme za zavolání
servisních techniků
• Strategie může končit vyřešením problému c(e ` ) = 0.
• Získaná evidence
(
e =
A = yes/no, A ∈ Provedené akce,
Q = yes/no, Q ∈ Zodpovězené otázky
• P(e) ... pravděpodobnost evidence e
• t(e) ... celková cena provedených akcí a otázek
)
Očekávaná cena opravy - ECR
• Strategie může skončit neúspěšně - např. jsme vyčerpali
všechny možné akce:
- uplatní se penalizace c(e ` )
- penalizací může být např. cena, kterou zaplatíme za zavolání
servisních techniků
• Strategie může končit vyřešením problému c(e ` ) = 0.
• Získaná evidence
(
e =
A = yes/no, A ∈ Provedené akce,
Q = yes/no, Q ∈ Zodpovězené otázky
)
• P(e) ... pravděpodobnost evidence e
• t(e) ... celková cena provedených akcí a otázek
X
ECR(s) =
`∈Listy
strategie s
P(e ` ) · (t(e ` ) + c(e ` ))
Ohodnocení strategie opravy - ECR
A1 = yes
Q1 = no
A1 = no
A2 = no
Q1 = yes
A2 = yes
Ohodnocení strategie opravy - ECR
A1 = yes
Q1 = no
A1 = no
A2 = no
Q1 = yes
A2 = yes
Strategie
Q1
A1
A2
očekávaná cena opravy (ECR)
p(Q1 = no, A1 = yes) · (cQ1 + cA1 + 0)
+ p(Q1 = no, A1 = no)
· (cQ1 + cA1 + cCS )
+ p(Q1 = yes, A2 = yes) · (cQ1 + cA2 + 0)
+ p(Q1 = yes, A2 = no) · (cQ1 + cA2 + cCS )
Cíl technické diagnostiky
Cíl: nalézt strategii s? takovou, že pro všechny strategie s platí
ECR(s? ) ≤ ECR(s) .
Cíl technické diagnostiky
Cíl: nalézt strategii s? takovou, že pro všechny strategie s platí
ECR(s? ) ≤ ECR(s) .
Polynomiálně řešitelná úloha
Cíl technické diagnostiky
Cíl: nalézt strategii s? takovou, že pro všechny strategie s platí
ECR(s? ) ≤ ECR(s) .
Polynomiálně řešitelná úloha
(1) každá akce řeší právě jednu závadu,
Cíl technické diagnostiky
Cíl: nalézt strategii s? takovou, že pro všechny strategie s platí
ECR(s? ) ≤ ECR(s) .
Polynomiálně řešitelná úloha
(1) každá akce řeší právě jednu závadu,
(2) všechny akce jsou navzájem podmíněně nezávislé při známých
příčinách
Cíl technické diagnostiky
Cíl: nalézt strategii s? takovou, že pro všechny strategie s platí
ECR(s? ) ≤ ECR(s) .
Polynomiálně řešitelná úloha
(1) každá akce řeší právě jednu závadu,
(2) všechny akce jsou navzájem podmíněně nezávislé při známých
příčinách
(3) platí, že zařízení má v jednom okamžiku pouze jednu závadu
(single fault assumption)
Cíl technické diagnostiky
Cíl: nalézt strategii s? takovou, že pro všechny strategie s platí
ECR(s? ) ≤ ECR(s) .
Polynomiálně řešitelná úloha
(1) každá akce řeší právě jednu závadu,
(2) všechny akce jsou navzájem podmíněně nezávislé při známých
příčinách
(3) platí, že zařízení má v jednom okamžiku pouze jednu závadu
(single fault assumption)
NP-těžká úloha
Cíl technické diagnostiky
Cíl: nalézt strategii s? takovou, že pro všechny strategie s platí
ECR(s? ) ≤ ECR(s) .
Polynomiálně řešitelná úloha
(1) každá akce řeší právě jednu závadu,
(2) všechny akce jsou navzájem podmíněně nezávislé při známých
příčinách
(3) platí, že zařízení má v jednom okamžiku pouze jednu závadu
(single fault assumption)
NP-těžká úloha
(1) některé akce řeší více než dvě závady
Reprezentace prostoru všech řešení AND/OR grafem
A1 = no, Q1 = 1
A1 = no
A1 = no, Q1 = 2
A1 = no, A2 = no,
Q1 = 1
Q1 = 1
A1 = no, A2 = no
∅
Q1 = 2
A1 = no, A2 = no,
Q1 = 2
A2 = no, Q1 = 1
A2 = no
A2 = no, Q1 = 2
Algoritmy pro nalezení optimálního řešení
• využití metod prohledávání stavového prostoru:
Algoritmy pro nalezení optimálního řešení
• využití metod prohledávání stavového prostoru:
• metoda větví a mezí (branch and bound)
Algoritmy pro nalezení optimálního řešení
• využití metod prohledávání stavového prostoru:
• metoda větví a mezí (branch and bound)
• metody dynamického programování
Algoritmy pro nalezení optimálního řešení
• využití metod prohledávání stavového prostoru:
• metoda větví a mezí (branch and bound)
• metody dynamického programování
• A? pro AND/OR grafy
Algoritmy pro nalezení optimálního řešení
• využití metod prohledávání stavového prostoru:
• metoda větví a mezí (branch and bound)
• metody dynamického programování
• A? pro AND/OR grafy
Prohledávání prostoru všech řešení je výpočetně náročné.
Suboptimální řešení v reálném čase
BATS troubleshooter:
• Vyvinutý v rámci společného projektu Hewlett-Packard a
Aalborg University.
Suboptimální řešení v reálném čase
BATS troubleshooter:
• Vyvinutý v rámci společného projektu Hewlett-Packard a
Aalborg University.
• Využívá několik heuristik založených na poměru p/c.
Suboptimální řešení v reálném čase
BATS troubleshooter:
• Vyvinutý v rámci společného projektu Hewlett-Packard a
Aalborg University.
• Využívá několik heuristik založených na poměru p/c.
Porovnání optimálního řešení s BATS troubleshooterem
Problem
53
Tray
Overrun
Load
Pjam
Scatter
NotDupl
Spots
MIO1
|A|
6
9
11
12
13
14
9
16
10
|Q|
2
3
3
3
4
4
9
5
10
OPTIM
433.238
129.214
106.204
38.3777
124.323
115.410
70.6740
161.385
250.452
BATS
443.305
129.214
112.456
38.4229
124.365
115.862
73.5984
162.246
253.310
Adaptivní test znalostí
Q1
Q2
Q5
wrong
Q3
Q4
Q4
wrong
correct
Q8
correct wrong
correct
Q5
Q7
Q2
Q6
wrong
Q7
Q1
Q8
Q9
Q10
correct wrong
Q3
Q6
Q6
correct wrong
Q8
Q4
Q9
correct wrong
Q7
Q7
correct
Q10
Příklad testu: Matematické operace se zlomky
Dovednost
Příklad
CP
Porovnávání (společný čitatel nebo
jmenovatel)
1
2
> 31 ,
AD
Sčítání (společný jmenovatel)
1
7
+
2
7
=
1+2
7
=
3
7
SB
Odčítání (společný jmenovatel)
2
5
−
1
5
=
2−1
5
=
1
5
MT
Násobení
1
2
·
3
5
2
3
3
10
=
1 2
2, 3
1
3
>
CD
Převod na společný jmenovatel
CL
Krácení
4
6
=
2·2
2·3
CIM
Převod na smíšené zlomky
7
2
=
3·2+1
2
CMI
Převod na nepravé zlomky
3 21 =
=
3 4
6, 6
2
3
=
= 3 12
3·2+1
2
=
7
2
Mylné postupy (Misconceptions)
Příklad
Četnost výskytu v datech
MAD
a
b
+
c
d
=
a+c
b+d
14.8%
MSB
a
b
−
c
d
=
a−c
b−d
9.4%
MMT1
a
b
·
c
b
=
a·c
b
14.1%
MMT2
a
b
·
c
b
=
a+c
b·b
8.1%
MMT3
a
b
·
c
d
=
a·d
b·c
15.4%
MMT4
a
b
·
c
d
=
a·c
b+d
8.1%
MC
a cb =
a·b
c
4.0%
Model studenta
HV2
AD
HV1
SB
ACMI
ACIM
ACL
ACD
CMI
CIM
CL
CD
MT
MMT1
MMT2
MMT3
CP
MAD
MSB
MC
MMT4
Model pro úlohu T 1
3 5
·
4 6
−
1
15 1
5 1
4
1
=
− = − = =
8
24 8
8 8
8
2
Model pro úlohu T 1
3 5
·
4 6
−
1
15 1
5 1
4
1
=
− = − = =
8
24 8
8 8
8
2
T 1 ⇔ MT & CL & ACL & SB & ¬MMT 3 & ¬MMT 4 & ¬MSB
Model pro úlohu T 1
3 5
·
4 6
−
1
15 1
5 1
4
1
=
− = − = =
8
24 8
8 8
8
2
T 1 ⇔ MT & CL & ACL & SB & ¬MMT 3 & ¬MMT 4 & ¬MSB
CL
ACL
SB
MSB
MT
MMT3
T1
MMT4
P(X1|T1)
X1
Model studenta spojený s modelem pro otázku T1
HV2
HV1
ACMI
ACIM
ACL
ACD
CIM
CL
CD
MT
MMT1
MMT2
MMT3
AD
SB
CMI
MAD
MSB
MC
T1
X1
MMT4
Adaptivní test
Opakujeme dva základní kroky:
1. odhadujeme úroveň jednotlivých znalostí studenta
Adaptivní test
Opakujeme dva základní kroky:
1. odhadujeme úroveň jednotlivých znalostí studenta
2. vybíráme vhodnou otázku na základě odhadu úrovně znalostí
Adaptivní test
Opakujeme dva základní kroky:
1. odhadujeme úroveň jednotlivých znalostí studenta
2. vybíráme vhodnou otázku na základě odhadu úrovně znalostí
Entropie jako míra informace:
Adaptivní test
Opakujeme dva základní kroky:
1. odhadujeme úroveň jednotlivých znalostí studenta
2. vybíráme vhodnou otázku na základě odhadu úrovně znalostí
Entropie jako míra informace:
P
s
P(S = s) · log P(S = s)
1
entropy
• H (P(S)) = −
0.5
0
0
0.5
probability
1
Adaptivní test
Opakujeme dva základní kroky:
1. odhadujeme úroveň jednotlivých znalostí studenta
2. vybíráme vhodnou otázku na základě odhadu úrovně znalostí
Entropie jako míra informace:
• H (P(S)) = −
P
s
P(S = s) · log P(S = s)
entropy
1
0.5
0
0
0.5
probability
1
• Čím je entropie nižší tím více toho o znalostech studenta víme.
Adaptivní test
Opakujeme dva základní kroky:
1. odhadujeme úroveň jednotlivých znalostí studenta
2. vybíráme vhodnou otázku na základě odhadu úrovně znalostí
Entropie jako míra informace:
• H (P(S)) = −
P
s
P(S = s) · log P(S = s)
entropy
1
0.5
0
0
0.5
probability
1
• Čím je entropie nižší tím více toho o znalostech studenta víme.
• Hladový algoritmus: V každém kroku vybereme otázku, která
nejvíce snižuje entropii.
Kvalita predikce jednotlivých dovedností
92
adaptive test
fixed descending order
fixed ascending order
90
88
86
84
82
80
78
76
74
0
2
4
6
8
10
12
14
Number of answered questions
16
18
20