Paralelní algoritmy ve strojovém učení

advisor: Ing. Tomáš Oberhuber, Ph.D.
e-mail: show e-mail
type: bachelor thesis, master thesis
branch of study: MI_MM, MINF
key words: strojové učení, umělá inteligence, backpropagation, GPU, HPC
description: Strojové učení patří v současnosti mezi jedno z nejrychleji se rozvíjejících odvětví. Nachází mnoho aplikací v celé řadě různých oborů. Mezi nejoblíbenější patří zejména neuronové sítě jejichž ucčení je optimalizační úloha. Ta je nejčastěji založena na algoritmu backpropagation. Tento algoritmus se ale bohužel těžko paralelizuje zejména na distribuovaných systémech, a to i přes to, že taková možnost by zřejmě umožnila učení komplexnějších sítí, které by dokázaly řešit složitější úlohy. Cílem tohoto tématu bude implementace a paralelizace nejen backpropagation algoritmu, ale i jiných algoritmů ze strojového učení na GPU případně na GPU klastrech. Dále půjde o hledání způsobů, jak tyto algoritmy optimalizovat. Implementované algoritmy budou pochopitelně testovány na reálných úlohách, takže student získá dobrou praxi i v aplikování metod strojového učení. Navíc se student naučí vyvíjet paralelní algoritmy pro vícejádrové procesory, GPU, distribuované systémy, programování s využitím moderních vlastností jazyka C++ a v jazyce Julia.
references: Charu C. Aggarwal, Neural Networks and Deep Learning: A Textbook, Springer, 2018.
last update: 07.08.2019 21:40:11

administrator for this page: Ľubomíra Dvořáková | last update: 09/12/2011
Trojanova 13, 120 00 Praha 2, tel. 224 358 540, pevná linka 224 923 098, fax 234 358 643
Czech Technical Univeristy in Prague | Faculty of Nuclear Sciences and Physical Engineering | Department of Mathematics