Biologicky inspirované algoritmy

Vztahy:

Předmět A4M33BIA nesmí být zapsán, je-li v témže semestru zapsán anebo již dříve absolvován předmět AE4M33BIA (vztah je symetrický)

Předmět A4M33BIA může při kontrole studijních plánů nahradit předmět AE4M33BIA

Předmět A4M33BIA může být splněn v zastoupení předmětem AE4M33BIA

Předmět A4M33BIA nesmí být zapsán, je-li v témže semestru zapsán anebo již dříve absolvován předmět AE4M33BIA (vztah je symetrický)

Garant předmětu:

Přednášející:

Cvičící:

Předmět zajišťuje:

katedra kybernetiky

Anotace:

Cílem předmětu je seznámit studenty s netradičními výpočetními technikami pro řešení složitých úloh klasifikace, modelování, shlukování, prohledávání a optimalizace. Biologicky inspirované algoritmy využívají analogií s nejrůznějšími jevy v přírodě či společnosti. Jádrem přednášek bude objasnění neuronových sítí a evolučních algoritmů.

Výsledek studentské ankety předmětu je zde: http://www.fel.cvut.cz/anketa/aktualni/courses/AD4M33BIA

Výsledek studentské ankety předmětu je zde: http://www.fel.cvut.cz/anketa/aktualni/courses/A4M33BIA

Požadavky:

Základní znalosti z oblasti optimalizace

Osnova přednášek:

1.Úvod - návaznost na předchozí předměty o optimalizaci, randomizované metody prohledávání, vztah k učení a modelování.

2.Co jsou to neuronové sítě, historie, typické úlohy, druhy učení neuronových sítí, perceptron.

3.Učení s učitelem - aproximace a klasifikace, lokální a globální jednotky v neuronových sítích. Vícevrstvý perceptron, RBF sítě, GMDH sítě.

4.Učení bez učitele - shlukování neuronovými sítěmi, samoorganizace, Hebbův zákon. Hopfieldova síť, asociativní paměti, ART sítě.

5.Kohonenova samoorganizující se mapa (SOM), kompetitivní učení. Posilované učení.

6.Algoritmus zpětného šíření chyby (back-propagation). Univerzální aproximace, Kolmogorovův teorém.

7.Zpracování časových posloupností, rekurentní neuronové sítě, Elmanova síť, back-propagation through time.

8.Standardní genetický algoritmus (SGA) - historie, základní cyklus, genetické operátory, schéma teorém.

9.Evoluční algoritmy s reálnou reprezentací - evoluční strategie, operátory křížení, diferenciální evoluce.

10.Neuroevoluce - evoluční postupy pro optimalizaci struktury a nastavení vah neuronové sítě, systém NEAT.

11.Vícekriteriální optimalizace - princip dominance, Pareto-optimální řešení, vícekriteriální evoluční algoritmy (NSGA-II, SPEA2).

12.Genetické programování (GP) - stromová reprezentace, inicializace, operátory, typované GP, automaticky definované funkce (ADF).

13.Rojová inteligence - optimalizace rojením částic (Particle Swarm Intelligence), mravenčí kolonie (Ant Colony Optimization).

14.Rezerva.

Osnova cvičení:

1.Organizační záležitosti. Black box neuronová síť (MLP), aproximace, klasifikace. Příklady na lokální prohledávání v Matlabu.

2.Software pro neuronové sítě, Mathematica, Weka.

3.Výběr první semestrální práce (představení dat z praxe).

4.Řešení semestrální úlohy z neuronových sítí.

5.Řešení semestrální úlohy z neuronových sítí.

6.Odevzdání semestrální úlohy z neuronových sítí.

7.Zadání témat na semestrální úlohu z evolučních algoritmů.

8.Realizace jednoduchého genetického algoritmu (SGA). Ukázky vlivu jednotlivých parametrů SGA na jeho výpočet. Příklady na evoluční algoritmy v Matlabu.

9.Řešení semestrální úlohy z evolučních algoritmů.

10.Úspěšné aplikace evolučních algoritmů.

11.Řešení semestrální úlohy z evolučních algoritmů.

12.Odevzdání semestrální úlohy z evolučních algoritmů.

13.Test.

14.Rezerva.

Cíle studia:

Cílem předmětu je seznámit studenty s netradičními výpočetními technikami pro řešení složitých úloh klasifikace, modelování, prohledávání a optimalizace. Jádrem přednášek bude objasnění neuronových sítí a evolučních algoritmů.

Studijní materiály:

1.Haykin, S.: Neural Networks: A Comprehensive Foundation, 2nd edition, Prentice Hall, 1998

2.Rojas, R.: Neural Networks: A Systematic Introduction, Springer, 1996

3.Michalewicz, Z.: Genetic Algorithms + Data Structures = Evolution Programs, Springer, 1998

4.Michalewicz, Z.: How to solve it? Modern heuristics. 2nd ed. Springer, 2004.

Poznámka:

URL: http://cw.felk.cvut.cz/doku.php/courses/a4m33bia/start

Další informace:

http://cw.felk.cvut.cz/doku.php/courses/a4m33bia/start

Pro tento předmět se rozvrh nepřipravuje

Předmět je součástí následujících studijních plánů: