MATEMATICKÝ MODEL BIOLOGICKÝCH NEURONOVÝCH SÍTÍ V
Transkript
MATEMATICKÝ MODEL BIOLOGICKÝCH NEURONOVÝCH SÍTÍ V TECHNICKÉ PRAXI Milan CHLADA [email protected] Oddělení nedestruktivního testování Ústav termomechaniky AVČR, v.v.i. Dolejškova 1402/5, 182 00 Praha 8 Smíchovská střední průmyslová škola - seminář Věda a technika - 25.5.2010 MATEMATICKÝ MODEL BIOLOGICKÝCH NEURONOVÝCH SÍTÍ V TECHNICKÉ PRAXI Matematické modelování Umělé neuronové sítě (ANN) Příklady využití ANN v praxi Smíchovská střední průmyslová škola - seminář Věda a technika - 25.5.2010 MATEMATICKÉ MODELOVÁNÍ ? MATEMATICKÝ MODEL BIOLOGICKÝCH NEURONOVÝCH SÍTÍ V TECHNICKÉ PRAXI MATEMATICKÉ MODELOVÁNÍ popis reálného světa řečí čísel zavedení čísel sčítání a násobení I 5 A 2 G 1 I & I II 5 + 5 = 10 I & I & I III 5 + 5 + 5 = 3 x 5 = 15 rovnoměrný pohyb kmitavý pohyb MATEMATICKÝ MODEL BIOLOGICKÝCH NEURONOVÝCH SÍTÍ V TECHNICKÉ PRAXI BIOLOGICKÁ NERVOVÁ SOUSTAVA (NEURONOVÁ SÍŤ) MATEMATICKÝ MODEL BIOLOGICKÝCH NEURONOVÝCH SÍTÍ V TECHNICKÉ PRAXI BIOLOGICKÝ NEURON MATEMATICKÝ MODEL BIOLOGICKÝCH NEURONOVÝCH SÍTÍ V TECHNICKÉ PRAXI AKTIVITA BIOLOGICKÉHO NEURONU reakce na příchozí elektrický vzruch MATEMATICKÝ MODEL BIOLOGICKÝCH NEURONOVÝCH SÍTÍ V TECHNICKÉ PRAXI MATEMATICKÝ MODEL NEURONU 1 x1 x2 . . . xn w1 w2 0.5 y fSIGN fSIG 0 wn fTANSIG -0.5 b -1 -5 -2.5 0 N y =f =f ∑ w i x i b i=1 MATEMATICKÝ MODEL BIOLOGICKÝCH NEURONOVÝCH SÍTÍ V TECHNICKÉ PRAXI 2.5 5 MATEMATICKÝ MODEL NEURONU demonstrace funkce jednoduchého perceptronu 1 x1 x2 0 .5 w1=1 sign w2=-2 y 0 -0 .5 b=50 -1 100 y = sign (x1 - 2x2 + 50) dělící přímka: x1 - 2x2 + 50 = 0 x2 50 0 0 20 60 40 x1 MATEMATICKÝ MODEL BIOLOGICKÝCH NEURONOVÝCH SÍTÍ V TECHNICKÉ PRAXI 80 100 MATEMATICKÝ MODEL NEURONU demonstrace funkce jednoduchého neuronu 1 x1 x2 0 .5 w1=1 fSIG w2=-2 0 y -0 .5 b=50 -1 100 y = sign (x1 - 2x2 + 50) dělící přímka: x1 - 2x2 + 50 = 0 80 x2 60 40 20 0 0 20 40 60 x1 MATEMATICKÝ MODEL BIOLOGICKÝCH NEURONOVÝCH SÍTÍ V TECHNICKÉ PRAXI 80 100 JEDNODUCHÁ NEURONOVÁ SÍŤ architektura 2-3-2-1: fSIG fSIG x1 y fSIG fSIG x2 fSIG váhy: W1=[1 10 1 -2 -2 1]; W2=[0.2 0.5 -0.5 0.1 -0.7 -0.1]; W3=[0.3 0.7]; x2 x1 MATEMATICKÝ MODEL BIOLOGICKÝCH NEURONOVÝCH SÍTÍ V TECHNICKÉ PRAXI JEDNODUCHÁ NEURONOVÁ SÍŤ architektura 2-3-2-1: fSIG fSIG x1 y fSIG fSIG x2 fSIG váhy: W1=[2 1 0.1 -1 -0.2 1.1]; x1 W2=[0.7 0.25 -0.5 0.1 0.9 -0.1]; W3=[0.3 0.1]; x2 MATEMATICKÝ MODEL BIOLOGICKÝCH NEURONOVÝCH SÍTÍ V TECHNICKÉ PRAXI UČENÍ nastavování vah a prahů Jednoduchý perceptron: perceptronové učení x1 x2 w1=1 w2=-2 sign y b=50 Vrstevnatá síť: backpropagation (zpětné šíření) fSIG fSIG x1 y fSIG fSIG x2 fSIG MATEMATICKÝ MODEL BIOLOGICKÝCH NEURONOVÝCH SÍTÍ V TECHNICKÉ PRAXI TECHNICKÁ PRAXE Požadavky: Spolehlivost a bezpečnost materiálových konstrukcí. Řešení: Aplikace vhodných nástrojů a metod. nedestruktivní testování konstrukcí (NDT) kontinuální monitorování stavu Efektivní metody: Sledování akustické emise (AE). NDT metoda pro detekci a identifikaci rostoucích materiálových defektů. (různé typy signálů detekovaných metodou AE přísluší k různým mechanismům poruch) Vývoj a aplikace nových algoritmů zpracování signálů AE na bázi umělých neuronových sítí: sítí: Rozšíření možností a zvěrohodnění diagnostického rozhodování na základě lokalizace a klasifikace emisních zdrojů. MATEMATICKÝ MODEL BIOLOGICKÝCH NEURONOVÝCH SÍTÍ V TECHNICKÉ PRAXI RŮZNÉ TYPY SIGNÁLŮ AE TYP 2 1.5 0.6 1 0.4 amplituda [V] amplituda [V] TYP 1 0.5 0 -0.5 0.2 0 -0.2 -1 -0.4 -1.5 0 0.5 1 0.3 1.5 2 2.5 -0.6 0 3 0.5 1 1.5 2 čas [ms] čas [ms] TYP 3 TYP 4 2.5 3 2.5 3 0.15 0.1 amplituda [V] amplituda [V] 0.2 0.1 0 -0.1 0 -0.05 -0.2 0 0.05 -0.1 0.5 1 1.5 čas [ms] 2 2.5 3 -0.15 0 0.5 1 1.5 2 čas [ms] MATEMATICKÝ MODEL BIOLOGICKÝCH NEURONOVÝCH SÍTÍ V TECHNICKÉ PRAXI POČÍTANÉ SIGNÁLOVÉ PARAMETRY Časová oblast: (1) amplituda signálu, (2) amplituda vektoru g, (3) doba nárůstu signálu, (4) doba nárůstu vektoru g, (5) RMS signálu, (6) moment energie signálu, (7-10) 1.-4. centrální moment vektoru g ve smyslu hustoty pravděpodobnosti. Parametry frekvenčního spektra: (11-15) parametry výkonové spektrální hustoty f(ω): ∫ f ω dω P X = 100⋅ X ∫ f ω dω , X ∈{ A , B , C , D , E } G kde G je celkový frekvenční rozsah, pět zvolených pásem X je vztaženo k Nyquistově frekvenci ωN následovně: A:(0-0.05)*ωN; B:(0.05-0.1)*ωN; C:(0.1-0.15)*ωN; D:(0.15-0.3)*ωN; E:(0.3-0.5)*ωN . (16-19) 1.-4. centrální moment f(ω) ve smyslu hustoty pravděpodobnosti MATEMATICKÝ MODEL BIOLOGICKÝCH NEURONOVÝCH SÍTÍ V TECHNICKÉ PRAXI LOKALIZACE ZDROJŮ AE POMOCÍ ANN Aplikace neuronových sítí (ANN) - osvědčená alternativa pro klasický triangulační algoritmus lokalizace zdrojů signálů AE. Obtížné určování začátku signálu - možné chybné výsledky obzvláště za přítomnosti vysokých hladin šumu. Nová metoda lokalizace zdrojů AE - jádrem ANN, na vstupech běžné p1,CH1 p2,CH1 . . . pN,CH4 f(Σ ) f(Σ ) f(Σ ) f(Σ ) . . . . . . f(Σ ) f(Σ ) f(Σ ) x f(Σ ) y w i2 MATEMATICKÝ MODEL BIOLOGICKÝCH NEURONOVÝCH SÍTÍ V TECHNICKÉ PRAXI Odhad souřadnic zdroje AE Vstupní parametry signálové parametry (RMS, doba nárůstu, max. amplituda apod.) LOKALIZACE ZDROJŮ AE POMOCÍ ANN Pen-testy na části nosníku letounu L-39 TRÉNINKOVÉ BODY TESTOVACÍ BODY SNÍMAČE S4 S3 10 9 8 7 6 5 4 3 2 S2 1 S1 13 12 11 10 9 8 JEDNOTKY ROZMÍSTĚNÍ PEN-TESTŮ 7 6 5 30mm 4 3 2 1 y MATEMATICKÝ MODEL BIOLOGICKÝCH NEURONOVÝCH SÍTÍ V TECHNICKÉ PRAXI x LOKALIZACE ZDROJŮ AE POMOCÍ ČASOVÝCH PROFILŮ 2D schéma rozmístění senzorů na tenké desce S4 Si - snímače (t4) S3 ZDROJ AE d = vT (čas tS) d = 2 Tv 2 )v + (t3) d 1 =( t1 -t S t2 S1 t1 šíření elastické vlny S2 značení: ts - čas inicializace zdroje AE ti - čas příchodu signálu Ti - čas šíření signálu od zdroje ke snímači Si T - normalizační perioda di - vzdálenost mezi zdrojem AE a snímačem d - vzdálenost mezi dvěma vhodně zvolenými body v - rychlost šíření elastické vlny MATEMATICKÝ MODEL BIOLOGICKÝCH NEURONOVÝCH SÍTÍ V TECHNICKÉ PRAXI LOKALIZACE ZDROJŮ AE POMOCÍ ČASOVÝCH PROFILŮ Časový profil je vektor s následovně definovanými složkami pi : N T i 1 pi = , kde T i = T i − ∑ T j N j =1 max {∣T j ∣} j ČASY PŘÍCHODŮ ČASOVÝ PROFIL p2 T4 S4 tS t2 t 1 + + S2 T1 S1 + S3 T2 S2 p4 p3 S4 T3 S3 p1 + S1 t4 t3 [s] -1 0 MATEMATICKÝ MODEL BIOLOGICKÝCH NEURONOVÝCH SÍTÍ V TECHNICKÉ PRAXI 1 LOKALIZACE ZDROJŮ AE POMOCÍ ČASOVÝCH PROFILŮ Výpočet pomocí časů příchodů (ts - čas inicializace zdroje AE) AE): N N ozn. 1 1 T i = t i − t S − ∑ t j − t S = t i − ∑ t j = ti N j =1 N j =1 ⇒ ti pi = max {∣tj ∣} j Nezávislost časových profilů na změně měřítka a materiálu: materiálu: pi = 1 ⋅d i v 1 ⋅max {∣dj ∣} v j N di s ⋅ di 1 = = , kde di = d i − ∑ d j N j =1 max {∣dj ∣} max {∣ s ⋅ dj ∣} j j MATEMATICKÝ MODEL BIOLOGICKÝCH NEURONOVÝCH SÍTÍ V TECHNICKÉ PRAXI LOKALIZACE ZDROJŮ AE POMOCÍ ČASOVÝCH PROFILŮ Zpětná projekce učících bodů do tréninkové oblasti: 100 souřadnice Y 200 300 400 500 600 100 200 300 400 500 600 700 800 900 souřadnice X MATEMATICKÝ MODEL BIOLOGICKÝCH NEURONOVÝCH SÍTÍ V TECHNICKÉ PRAXI 1000 LOKALIZACE ZDROJŮ AE POMOCÍ ČASOVÝCH PROFILŮ ANN LOKALIZACE - ZATĚŽOVACÍ SÍLA <20 20<70 >70 100 souřadnice Y 200 TRÉNINKOVÁ OBLAST 300 400 500 600 100 200 300 400 500 600 700 800 900 souřadnice X MATEMATICKÝ MODEL BIOLOGICKÝCH NEURONOVÝCH SÍTÍ V TECHNICKÉ PRAXI 1000 ROZPOZNÁVÁNÍ ZDROJŮ AE Primární selekce dat - identifikace emisních zdrojů, které jsou spojeny s destruktivními jevy v testované součásti - eliminace emisních projevů způsobených např. pohybem namáhaného vzorku v upínacích čelistech zatěžovacího zařízení, elektrickým rušením, nebo chybami AD převodníku věrohodnější závěry z měření emisní aktivity Klasifikace mechanismů poruch problémy: - zkreslení na cestě ke snímači (odlišnost signálů ikdyž pocházejí od stejného zdroje) - okamžitém působení více mechanismů vzniku poruch (např. současný růst trhliny a tření jejích hran o sebe) - získání spolehlivě identifikovaných dat pro účely návrhu klasifikátoru řešení: - navržena metoda rozpoznávání poměrného zastoupení modelových pulsů ve zdrojové funkci emisní události pouze z parametrů numericky generovaných signálů AE na základě umělých neuronových sítí (ANN) MATEMATICKÝ MODEL BIOLOGICKÝCH NEURONOVÝCH SÍTÍ V TECHNICKÉ PRAXI ROZPOZNÁVÁNÍ MODELOVÝCH ZDROJŮ AE Tři typické zdrojové funkce emisních událostí byly modelovány pulsy S1-S3 spolu s jejich lineárními kombinacemi S1 1 S2 1 0.5 0.5 0.5 0 0 0 -0.5 -0.5 -0.5 -1 0 500 1000 1500 1/2S1 + 1/2S2 1 -1 0 500 1000 1500 1/2S1 + 1/2S3 1 -1 0.5 0.5 0 0 0 -0.5 -0.5 -0.5 500 1000 1500 2/3S1 + 1/3S2 1 -1 0 500 1000 1500 2/3S1 + 1/3S3 1 0.5 0 0 0 -0.5 -0.5 -0.5 500 1000 1500 2/3S2 + 1/3S3 1 -1 0 500 1000 1500 1/3S1 + 2/3S3 1 -1 0.5 0.5 0 0 0 -0.5 -0.5 -0.5 500 1000 1500 -1 0 500 1000 1500 1000 0 0; 0 1 0 ;0 0 1; 1500 1/2S2 + 1/2S3 1/2 1/2 0 ; 1/2 0 1/2 ; 0 1/2 1/2; 500 1000 1500 1/3S1 + 2/3S2 2/3 1/3 0 ; 2/3 0 1/3 ; 1/3 2/3 0; 0 500 -1 0 1000 1500 1/3S2 + 2/3S3 1 0.5 -10 500 1 0.5 -1 0 0 -1 0 0.5 váhy kombinací: [1 1 0.5 -10 S2 1 0 2/3 1/3 ; 1/3 0 2/3 ; 0 1/3 2/3] 500 1000 1500 MATEMATICKÝ MODEL BIOLOGICKÝCH NEURONOVÝCH SÍTÍ V TECHNICKÉ PRAXI ROZPOZNÁVÁNÍ MODELOVÝCH ZDROJŮ AE Zkušební vzorek (páka podvozku malého dopravního letounu) piezoelektrické měniče Měřící aparatura zdroje / snímače AE: čtveřice piezoelektrických měničů zapojených přes multiplexer buzení pulzéru: generátor libovolných průběhů (arbitrary generator NI-5421) záznam AE: PAC µDisp (fr.vz. 10MHz, 16bitů, 15360 vzorků) MATEMATICKÝ MODEL BIOLOGICKÝCH NEURONOVÝCH SÍTÍ V TECHNICKÉ PRAXI ROZPOZNÁVÁNÍ MODELOVÝCH ZDROJŮ AE Výběr tréninkových a testovacích dat - parametry signálů z jednoho, či více snímačů, buzených vždy jedním vybraným vysílačem, Vstupní parametry p1 p2 . . . p14 f(Σ ) f(Σ ) f(Σ ) f(Σ ) . . . . . . f(Σ ) f(Σ ) wi2 f(Σ ) k1 f(Σ ) k2 f(Σ ) k3 odhad kombinace do kterého přicházelo všech 12 nakombinovaných pulsů, zesílených na různé amplitudy: tréninková data: 0.6V ; 3V ; 6V testovací data: 2.4V ; 3.6V zúžení učicích dat -> přesnost sítí při vybavování značně klesá (testovací data nelze jednoduše "interpolovat" na základě sousedních tréninkových) dobrá konvergence sítí -> možné rozšíření tréninkové množiny (předpoklad plné automatizace experimentu) Počty neronů: 3 - 17 - 5 - 3 (vstupy - parametry signálů z jednoho snímače) Učicí / testovací chyba (MSE): 0.0031 / 0.0033 MATEMATICKÝ MODEL BIOLOGICKÝCH NEURONOVÝCH SÍTÍ V TECHNICKÉ PRAXI ROZPOZNÁVÁNÍ REÁLNÝCH ZDROJŮ AE Úkol klasifikátoru zdrojů AE: Rozpoznání signálů typů "A" a "B", "B", pocházejících z příslušných dvou oblastí, kde jsou předpokládány různé zdrojové mechanismy. OBLAST "B" OBLAST "A" SNÍMAČ 1 MATEMATICKÝ MODEL BIOLOGICKÝCH NEURONOVÝCH SÍTÍ V TECHNICKÉ PRAXI KLASIFIKÁTOR ZDROJŮ AE Učení neuronové sítě f1 f2 tA . . . . . . .. .. .. wi 2 f6 MATEMATICKÝ MODEL BIOLOGICKÝCH NEURONOVÝCH SÍTÍ V TECHNICKÉ PRAXI tB TYP ZDROJE AE (odhad) VSTUPY (faktorová skóre) - architektura sítě (počty neuronů v každé vrstvě): vrstvě): 6-9-7-2 - inicializační váhy nastaveny statistickou optimalizací startovních potenciálů neuronů - váhy a prahy postupně korigovány resilientní verzí algoritmu back-propagation s momentem and regularizací (450 zpracovaných signálů použito pro učení) SHRNUTÍ Matematické modelování Umělé neuronové sítě (ANN) Příklady využití ANN v praxi Děkuji za pozornost... MATEMATICKÝ MODEL BIOLOGICKÝCH NEURONOVÝCH SÍTÍ V TECHNICKÉ PRAXI
Podobné dokumenty
Umělá Umělá inteligence II
mluvily sami za sebe
sebe“ místo převodu
do malého vektoru?
Odpovědí
p
jjsou neparametrické
p
modely,
y, které
nejsou charakterizovány vektorem parametrů, ale
„pamatují“ si tréninkové příklady.
P n...
Výzkum a činnost katedry vodního hospodářství a
signálu, který je do nich přiváděn spoji z nejbližší vrstvy proti směru šíření
signálu. Výstupem neuronu je jediná hodnota, která je sítí přenášena do
další vrstvy po směru šíření signálu. Hodnota ...
Zobrazit - Titulní strana
zahrady víří černá oblaka hmyzu nad všemi květy. Kdo uchvacuje
z věcí této země více, nežli je nutno k udržení života, k dílu poznání a
lásky, je spoluviníkem smrti. Řád udržující v otroctví a tmě ...
Vícevrstvá neuronová sít` jako univerzální aproximátor
to nejdůležitější: jakým způsobem jsou stanoveny synaptické váhy vedoucí ke korektní
odezvě na vstupní signál. Proces stanovení
synaptických vah je spjat s pojmem učení
(adaptace) neuronové sítě.
N...
CW_pomocník_ Automa_6_ 2011
procesoru plyne spousta výhod i pro práci s digitálním obrazem, získaným z připojených kamer nebo z jiného zdroje přístupného v počítačové síti. Programovatelný grafický procesor
umožňuje provádět ...