Pravděpodobnostní Dynamické Rozhodování s Aktivním Průběžným Učením

advisor: Ing. Miroslav Kárný, DrSc.
e-mail: show e-mail
type: bachelor thesis, master thesis
branch of study: MI_MM, MI_AMSM, MINF, APIN
key words: adaptivita, rozhodování za neurčitosti, Bayesovské odhadování, řízení
link: http://www.utia.cz/people/karny
description: Pravděpodobnostní dynamické systémy nachází uplatnění v široké škále oborů od techniky přes ekonomii a medicínu až po elektronickou demokracii. Lze jimi modelovat například složitá průmyslová zařízení, dopravní toky, lymfatický systém končetiny, nebo třeba výherní automat známý jako jednoruký bandita. Často se setkáváme s případy, kdy je znám parametrizovaný model daného systému, ale jeho parametry nejsou přesně známy. Základní problém, který je pak nutno řešit, bývá odhadování těchto parametrů z pozorovaných (naměřených) dat - učení. V případě, že daný systém obsahuje také volitelné vstupy, přidává se dále problém nalezení optimálních hodnot vstupů takových, aby řízený systém co nejlépe sledoval předem zvolený cíl. Velmi zajímavá úloha vzniká kombinací dvou předchozích - učení a řízení současně. Zvolené hodnoty vstupních veličin mají pochopitelně vliv na chování systému, ale zároveň ovlivňují kvalitu učení. Vyvstává tak otázka, zda volit strategii řízení, která se vzhledem k právě dostupným znalostem jeví jako optimální, nebo zda dělat "úmyslné chyby", které za cenu krátkodobě horšího řízení přinesou lepší odhad parametrů systému a tím umožní dosáhnout celkově lepších výsledků. Úkoly: 1. Seznamte se se základy dynamického rozhodování za neurčitosti. 2. Porovnejte různé strategie řízení systému s neznámými parametry. 3. Najděte tyto strategie pro jednoduchý systém a implementujte je. 4. Experimentálně porovnejte získané výsledky řízení.
references: Vybrané části z: 1.V. Peterka, Bayesian approach to system identification, in P. Eykhoff ed., Trends and Progress in System Identification, p. 239-304, Pergamon Press, Oxford, 1981. 2. M. Kárný et al, Optimized Bayesian Dynamic Advising: Theory and Algorithms, Springer, London, 2006 3. M. Kárný et al, Dynamic Decsion Making: Fully Probabilistic Design, http://www.utia.cas.cz/AS/education/e-materials/main
note: Náplň tématu bude přizpůsobena zájmům studenta.
last update: 27.09.2017 10:03:30

administrator for this page: Ľubomíra Dvořáková | last update: 09/12/2011
Trojanova 13, 120 00 Praha 2, tel. 224 358 540, pevná linka 224 923 098, fax 234 358 643
Czech Technical Univeristy in Prague | Faculty of Nuclear Sciences and Physical Engineering | Department of Mathematics