Paralelní algoritmy v optimalizacích

advisor: doc. Ing. Tomáš Oberhuber, Ph.D.
e-mail: show e-mail
type: bachelor thesis, master thesis
branch of study: MI_MM, MI_AMSM, MINF
key words: optimalizace, gradientní metody, lineární a nelineární programování, CPU, GPU, distribuované klastry
description: Optimalizační úlohy patří mezi jedny z nejčastěji řešených matematických úloh. Řada fyzikálních procesů se řídí minimalizací určitého energetického funkcionálu, metody strojového učení a zejména učení neuronových sítí je založeno na minimalizaci ztrátové funkce, řada statistických metod je založena na maximalizaci pravděpodobnosti, dále lze jmenovat různé úlohy z optimálního řízení, optimálních procesů nebo optimálního plánování. Třída optimalizačních úloh je opravdu velice široká stejně jako třída algoritmů, které tyto úlohy dokáží řešit. V mnoha případech ale tyto algoritmy vyžadují provedení časově velice náročných výpočtů. Cílem tohoto tématu je efektivní paralelizace těchto algoritmů pro běh na vícejádrových CPU, GPU a distribuovaných klastrech. Zabývat se budeme zejména gradientními metodami, ale také algoritmy pro lineární, kvadratické či polynomiální programování. Tam, kde to bude aspoň trochu možné, budou vybrané metody aplikované na reálné úlohy.
references: 1. J. Nocedal, S. J. Wright, Numerical Optimization, Springer, 2006. 2. F. Pacaud, M.l Schanen,S. Shin,D. A. Maldonado, M.i Anitescu, Parallel interior-point solver for block-structured nonlinear programs on SIMD/GPU architectures, Optimization Methods and Software, 2024, https://doi.org/10.1080/10556788.2024.2329646. 3. D. Applegate, M. Diaz, O. Hinder, H. Lu, M. Lubin, B. O\'Donoghue, W. Schudy, Practical Large-Scale Linear Programming using Primal-Dual Hybrid Gradient, Advances in Neural Information Processing Systems 34 (NeurIPS 2021).
last update: 07.05.2024 09:44:04

administrator for this page: Ľubomíra Dvořáková | last update: 09/12/2011
Trojanova 13, 120 00 Praha 2, tel. +420 770 127 494
Czech Technical Univeristy in Prague | Faculty of Nuclear Sciences and Physical Engineering | Department of Mathematics