doc. Ing. Tomáš Oberhuber, Ph.D.
e-mail: | show e-mail |
telephone: | +420 770 127 416 |
room: | 109c |
www: | http://mmg.fjfi.cvut.cz/~oberhuber/ |

Numerická knihovna s podporou GPU
advisor: | Ing. Tomáš Oberhuber, Ph.D. |
e-mail: | show e-mail |
type: | bachelor thesis, master thesis |
branch of study: | MI_MM |
key words: | numerická matematika, programování, paralelizace, gpu |
link: | http://tnl-project.org |
description: | Toto téma se zabývá vývojem numerické knihovny TNL (Template Numerical Library, www.tnl-project.org). Cílem tohoto projektu je vývoj moderní numerické knihovny využívajících pokročilých programovacích technik jazyka C++ jako zejména metaprogramování pomocí šablon. To je využito zejména k vývoji flexibilního a zároveň vysoce výkonného kódu s podporou moderních hardwarových architektur jako jsou vícejádrové procesory, karty GPU ale také distribuované architektury včetně superpočítačů. Student má možnost se výrazně zdokonalit v programování v jazyce C++, naučit se programování zmíněných architektur, to vše na pozadí vývoje některých numerických algoritmů z oblasti řešení parciálních diferenciálních rovnic, výpočetní dynamiky tekutin, zpracování obrazu nebo strojového učení. Knihovna TNL je nyní již veřejně dostupná a tak je dobrá šance, že kód vyvinutý studenty může být reálně použit potenciálními uživateli po celém světě. |
last update: | 14.02.2024 16:16:34 |
Vývoj efektivních paralelních numerických řešičů ve výpočetní dynamice tekutin
advisor: | Ing. Tomáš Oberhuber, Ph.D. a Ing. Radek Fučík, Ph.D. |
e-mail: | show e-mail |
type: | phd thesis |
branch of study: | MI_MM |
key words: | paralelní algoritmy, výpočetní dynamika tekutin, numerická matematika, GPU |
link: | http://geraldine.fjfi.cvut.cz/~oberhuber |
description: | Matematické modelování dynamiky tekutin patří mezi stěžejní oblasti výzkumu na katedře matematiky FJFI ČVUT v Praze s ekologickými, medicínskými nebo průmyslovými aplikacemi ve spolupráci s prestižními domácími i zahraničními pracovišti, např. IKEM Praha, Honeywell, Bosch, Ústavem termomechaniky AV ČR, VZLÚ nebo Colorado School of Mines. V rámci tohoto tématu se student bude zabývat vývojem paralelních algoritmů pro numerickou matematiku ve výpočetní dynamice tekutin s aplikacemi například v oblasti matematického modelování volného subsonického proudění stlačitelných nebo nestlačitelných tekutin a vícefázového kompozičního proudění v porézním prostředí s fázovými přechody. Hlavní část práce na tématu bude zahrnovat vývoj efektivních datových struktur pro práci s nestrukturovanými numerickými sítěmi na GPU a klastrech s GPU a zároveň výzkum nových modifikací metod pro efektivní řešení soustav lineárních rovnic vznikajících při řešení výše zmíněných úloh s cílem optimálního využití architektury GPU nebo i heterogenních systémů jako např. GPU klastry. |
references: | [1] Bauer P., Klement V., Oberhuber T., Žabka V., Implementation of the Vanka-type multigrid solver for the finite element approximation of the Navier-Stokes equations on GPU, Computer Physics Communication, Vol.200, pp.50-56,2016. [2] Brezzi, F., Fortin, M. Mixed and hybrid finite element methods (Vol. 15). Springer Science & Business Media, 2012. [3] R. Fučík, J. Klinkovský, J. Solovský, T. Oberhuber, J. Mikyška, Multidimensional Mixed–Hybrid Finite Element Method for Compositional Two-Phase Flow in Heterogeneous Porous Media and its Parallel Implementation on GPU, in review in Comp. Phys. Com. [4] B. G. Petri, R. Fučík, T. H. Illangasekare, K. M. Smits, J. A. Christ, T. Sakaki, and C. C. Sauck Effect of NAPL Source Morphology on Mass Transfer in the Vadose Zone, Groundwater, 53(5), 685-698, 2015. [5]Oberhuber T., Numerical solution for the anisotropic Willmore flow of graphs, Applied Numerical Mathematics, Vol. 88, pp.1--17, 2015. [6]Bauer, P., Beneš, M., Fučík, R., Hoang, H. D., Klement, V., Máca, R., Mach, J., Oberhuber, T., Strachota, P., Žabka, V., and Havlena, V. Numerical Simulation of Flow in Fluidized Beds, . Discrete. Cont. Dyn. S. S, issue 8, pages 833--846, 2015. [7] Oberhuber T., Suzuki A., Žabka V., The CUDA implementation of the method of lines for the curvature dependent flows, Kybernetika, 2011, vol. 47, num. 2, pages 251-272. [8] Saad Y., Iterative Methods for Sparse Linear Systems, SIAM, 2003. [9] Saad Y., Numerical Methods for Large Eigenvalue Problems, SIAM, 2011. [10] R. Fučík and J. Mikyška Mixed-hybrid finite element method for modelling two-phase flow in porous media, Journal of Math-for-Industry, Vol. 3 (2011C-2), pp. 9–19, 2011 [11] R. Fučík, T. H. Illangasekare, and M. Beneš Multidimensional self-similar analytical solutions of two-phase flow in porous media, Advances in Water Resources, Volume 90, April 2016, Pages 51–56 |
last update: | 15.02.2020 21:50:07 |
Implementace metody konečných prvků v knihovně TNL
advisor: | Ing. Tomáš Oberhuber, Ph.D. |
e-mail: | show e-mail |
type: | bachelor thesis, master thesis |
branch of study: | MI_MM, MINF, APIN |
key words: | Numerická matematika, metoda konečných prvků, paralelizace |
description: | Metoda konečných prvků je dnes jednou z nejoblíbenějších numerických metod pro řešení parciálních diferenciálních rovnic. Je to bezpochyby díky její univerzálnosti, ale také jisté eleganci, s jakou je odvozena. Tato metoda je proto velice zajímavá s pohledu matematického studia, neméně atraktivní je ale i z pohledu samotné implementace, kde lze využít nových vlastností moderních programovacích jazyků. Knihovna TNL (www.tnl-project.org) je numerická knihovna s podporou moderních hardwarových architektur vyvíjená na katedře matematiky na FJFI. Tato knihovna již obsahuje datové sktruktury pro ukládání nestrukturovaných sítí, které jsou pro metodu konečných prvků velice důležité. Student by se tak zabýval jen implementací samotné metody a její aplikací na vhodné typové úlohy. V případě zájmu je možné se věnovat podrobněji i matematickému pozadí metody konečných prvků. Téma je také vhodné k intenzivnímu procvičení programování v C++. |
last update: | 27.09.2023 16:40:03 |
Implementace metod pro řešení geometrických parciálních diferenciálních rovnic
advisor: | Ing. Tomáš Oberhuber, Ph.D. |
e-mail: | show e-mail |
type: | bachelor thesis, master thesis |
branch of study: | MI_MM, MINF, APIN |
key words: | evoluce křivek a ploch, numerická matematika, algoritmizace, HPC |
description: | Mnoho fyzikálních jevů lze popsat pomocí vývoje křivek a ploch. Jde o simulování různých rozhraní, například při fázových přeměnách, míšení různých látek, pohybu dislokačních křivek, ale také třeba šíření plamenu ve válcích spalovacích motorů, šíření požárů v přírodě až po zpracování medicínských dat. Tyto úlohy často vedou i k zajímavým algoritmům, ne pouze k návrhu vhodného numerického schématu. Toto téma je zaměřeno převážně implementačně. Jde tedy o implementaci již odvozených metod a jejich aplikaci na některé reálné úlohy. Zvolené algoritmy mohou být paralelizovány pro běh na vícejádrových procesorech, GPU a distribuovaných klastrech. |
references: | Osher S., Fedkiw R., Level Set Methods and Dynamic Implicit Surfaces, Springer 2003. |
note: | http://physbam.stanford.edu/~fedkiw/ |
last update: | 26.09.2017 13:55:19 |
Aplikace neuronových sítí ve zpracování medicínských dat
advisor: | Ing. Tomáš Pevný, Ph.D., Ing. Tomáš Oberhuber, Ph.D. |
e-mail: | show e-mail |
type: | bachelor thesis, master thesis |
branch of study: | MI_MM, MINF |
key words: | deep learning, magnetická rezonance, zpracování obrazu |
description: | Přestože magnetická rezonance je zavedená běžně používaná zobrazovací metoda, získávání kvalitních snímku pro diagnózu je stále obtížné kvůli nepřesným fyzikálním modelům a šumu při měření. Protože algoritmy strojového učení jsou do jisté míry vůči šumu robustní a nepotřebují fyzikální model (naučí se jej automaticky), jejich použití se zdá být zajímavou alternativou k běžně používaným metodám. V rámci tohoto tématu se bude řešit zejména problém, kdy máme k dispozici jen omezený počet anotovaných snímků. Téma je vedeno ve spolupraci s výzkumným ústavem Ikem v Praze. Žadatelé by měli být ochotni se naučit nové programovací jazyky (Julia), knihovny pro práci s neuronovými síťěmi (Flux.jl), a doplnit si potřebné matematické znalosti. |
references: | Goodfellow I., Bengio Y., Courville A., Deep learning, The MIT Press, 2016. |
last update: | 07.10.2017 12:57:53 |
Numerické metody pro řešení geometrických parciálních diferenciálních rovnic
advisor: | Ing. Tomáš Oberhuber, Ph.D. |
e-mail: | show e-mail |
type: | phd thesis |
branch of study: | MI_MM |
key words: | vrstevnicové metody, metoda fázového pole, parametrický popis, diferenciální geometrie |
description: | Téma se zabývá vývojem numerických metod pro řešení parciálních diferenciálních rovnic svázaných s diferenciální geometrií. Jde často o úlohy popisující pohyb rozhraní mezi ruznými prostředími, vývoj křivek a ploch, segmentaci obrazových dat nebo jejich registraci. Dále tyto rovnice nacházejí uplatnění v materiálových vědách nebo ve vícefázovém proudění. Mezi základní úlohy patří například vývoj podle střední křivosti, povrchové difůze nebo elastické energie. Výsledné parciální diferenciální rovnice často vykazují silné nelinearity, což činí jejich numerické řešení obtížným. Téma je podpořeno spoluprací s nemocnicí Ikem v Praze, Komenského univerzitou v Bratislavě a STU v Bratislavě. |
references: | Y. Giga, Surface Evolution Equations - A Level Set Approach, Birkhauser 2006. S. Osher, N. Paragios, Geometric Level Set Methods in Imaging, Vision and Graphics, Springer, 2003. W. Kuhnel, Differential Geometry - Curves - Surfaces - Manifolds, 2006, American Mathematical Society. |
last update: | 03.05.2018 14:49:51 |
Matematické modelování a numerická simulace formování mikrostruktur při fázových přechodech
advisor: | Ing. Tomáš Oberhuber, Ph.D. |
e-mail: | show e-mail |
type: | phd thesis |
branch of study: | MI_MM |
key words: | fázové přechody, růst krystalů, růst zrn, anizotropie, matematické modelování, numerická simulace, paralelizace, MPI, Op |
description: | Růst krystalů při tuhnnutí materiálů, tvorba zrn a jejich vzájemná interakce i existence více fází v krystalické sktruktuře mají zásadní vliv na makroskopické fyzikální vlastnosti příslušných materiálů. Cílem práce je zabývat se 1) návrhem matematických modelů těchto jevů na úrovni kontinua, 2) formulací příslušných soustav parciálních diferenciálních rovnic v třírozměrném prostoru, a 3) návrhem a implementací efektivních numerických algoritmů pro jejich řešení na počítači. K matematickému popisu vývoje více různě orientovaných zrn lze využít metodu fázového pole (phase-field) v kombinaci s vhodnou reprezentací anizotropie povrchové energie a její orientace [3,6]. K numerickému řešení pak předpokládáme použití metody konečných objemů pro prostorovou diskretizaci na nestrukturovaných sítích, s možností adaptivního zjemnění. Časová diskretizace může být provedena implicitním Eulerovým schématem či explicitními Rungeovými-Kuttovými metodami vyššího řádu přesnosti s adaptivní volbou časového kroku. K urychlení numerických simulací bude implementován paralelní algoritmus (podobně jako např. v [1]) s využitím více CPU jader (OpenMP), více výpočetních uzlů (MPI), a případně i mnohajádrových výpočetních akcelerátorů (GPGPU s využitím technologie CUDA). |
references: | [1] Strachota, P., Beneš, M. A Hybrid Parallel Numerical Algorithm for Three-Dimensional Phase Field Modeling of Crystal Growth. In ALGORITMY 2016, 20th Conference on Scientific Computing, Vysoké Tatry - Podbanské, Slovakia, March 14 - 18, 2016, Proceedings of contributed papers and posters, Comenius University, Bratislava, 2016, pp. 23-32. [2] Strachota, P., Beneš, M. Error estimate of the finite volume scheme for the Allen–Cahn equation. BIT Numer. Math. (2017). https://doi.org/10.1007/s10543-017-0687-4. [3] Strachota, P., Wodecki, A. High Resolution 3D Phase Field Simulations of Single Crystal and Polycrystalline Solidification. To appear in Acta Physica Polonica A, 2018. [4] Oberhuber, T., Numerical solution for the anisotropic Willmore flow of graphs, Applied Numerical Mathematics, Vol. 88, pp. 1-17, 2015. [5] Bauer, P., Klement, V., Oberhuber, T., Žabka, V. Implementation of the Vanka-type multigrid solver for the finite element approximation of the Navier-Stokes equations on GPU, Computer Physics Communication 200, pp. 50-56, 2016. [6] Korbuly B., Pusztai T., Henry H., Plapp M., Apel M., and Gránásy L., Grain coarsening in two-dimensional phase-field models with an orientation field, PHYSICAL REVIEW 95, pp. 053303-1 – 053303-12, 2017. [7] Gránásy L., Rátkai L., Szállás A., Korbuly B., Tóth G., Környei L., Pusztai T., Phase-Field Modeling of Polycrystalline Solidification: From Needle Crystals to Spherulites—A Review, Metall. and Mat. Trans. A, 45, pp. 1694–1719, 2014. [8] Ferreira A. F., Ferreira L. O., Assis A.C., Numerical simulation of the solidification of pure melt by a phase-field model using an adaptive computation domain, J. Braz. Soc. Mech. Sci. & Eng., 33 (2), pp. 125–130, 2011. |
note: | konzultant: Ing. Pavel Strachota, Ph.D. |
last update: | 14.05.2018 15:42:39 |
Vývoj systému pro konfigurování vědeckých výpočtů
advisor: | Ing. Tomáš Oberhuber, Ph.D. |
e-mail: | show e-mail |
type: | bachelor thesis, master thesis |
branch of study: | MI_AMSM, MINF, APIN |
key words: | C++, YAML, XML, Json, konfigurace |
description: | Template Numerical Library (TNL, www.tnl-project.org) je numerická knihovna jejímž cílem je usnadnit vývoj programů pro náročné počítačové simulace. Mezi cílové aplikace patří simulace proudění, analýza turbulencí nebo zpracování medicínských dat. Knihovna podporuje zejména výpočty na GPU včetně GPU klastrů. Je psána v jazyce C++ a silně využívá šablonové programování pro generování efektivního kódu. Při provádění složitějších počítačových simulací se nevyhneme zadávání celé řady vstupních parametrů. V praxi se běžně provádí výpočetní studie vyžadující provedení desítky výpočtů s různým nastavením. Cílem tohoto tématu je rozšířit již existující, velice jednoduchý, systém knihovny TNL pro zpracování vstupních parametrů a případně také navrhnout systém pro generování reportů výpočetních studií. Toto téma nevyžaduje žádnou znalost numerické matematiky a je dobré pro získání praxe s programováním v C++. |
last update: | 03.09.2018 15:12:31 |
Paralelní algoritmy pro výpočet rozkladů matic na GPU
advisor: | Ing. Jakub Klinkovský, Ing. Tomáš Oberhuber, PhD. |
e-mail: | show e-mail |
type: | bachelor thesis, master thesis |
branch of study: | MI_MM, MI_AMSM, MINF, APIN |
key words: | numerická matematika, rozklady matic, programování, C++, CUDA, GPU, HPC |
description: | Algoritmy pro efektivní výpočet LU, QR a SVD rozkladu matic jsou základem celé řady pokročilých algoritmů numerické lineární algebry. Používají se např. pro řešení soustav lineárních algebraických rovnic, řešení úlohy nejmenších čtverců, hledání spektra matice, výpočet determinantu, hodnosti matice apod. Tyto algoritmy jsou základem většiny pokročilých numerických metod v celé řadě oborů, své uplatnění najdou při řešení parciálních diferenciálních rovnic, ve zpracování obrazu, strojovém učení, statistických metodách atd. Výpočty rozkladů velkých matic vyžadují použití výkonných (super)počítačů a efektivních paralelních algoritmů. Ačkoliv je známá řada algoritmů, otázka jejich efektivní implementace pro masivně paralelní výpočetní architektury je stále otevřena s ohledem na jejich neustálý vývoj. Tématem této práce je seznámit se s moderními algoritmy pro výpočet rozkladů matic a prozkoumat jejich implementaci pro paralelní architektury jako jsou vícejádrové procesory a grafické karty (GPU) používané jako výpočetní akcelerátory v moderních superpočítačích. V případě dotazů mě neváhejte kontaktovat mailem: klinkovsky@mmg.fjfi.cvut.cz |
last update: | 11.06.2021 09:50:54 |
Vývoj paralelních řadících algoritmů na GPU
advisor: | Ing. Tomáš Oberhuber, Ph.D. |
e-mail: | show e-mail |
type: | bachelor thesis, master thesis |
branch of study: | MI_MM, MINF |
key words: | GPU, HPC, C++, algoritmizace |
description: | Ačkoliv vývoj řadících algoritmů prošel svým nejbouřlivějším vývojem v padesátých a šedesátých letech minulého století a mohlo by se zdát, že již mnoho k vymýšlení, není to tak docela pravda. Pokud jde o paralelní algoritmy a zejména řazení na GPU, bylo v posledních letech potřeba vyvinout nové postupy, jak tyto algoritmy implementovat. Cílem tohoto tématu je prostudovat současný stav vývoje paralelních algoritmů pro GPU a implementovat některé z nich v knihovně TNL (www.tnl-project.org). Kromě implementace na GPU v CUDA je možné se zabývat i hybridní implementací za pomocí OpenMP nebo MPI na systémy s více GPU kartami nebo vícejádrovými procesory. Řadící algoritmy pochopitelně nachází celou řadu aplikací v mnoha různých oblastech. V numerické matematice a v počítačových simulacích jde zejména o adaptivní numerické sítě, na jejichž implementaci v knihovně TNL se momentálně pracuje. |
last update: | 18.10.2023 15:33:57 |
Implementace B-stromů na GPU
advisor: | Ing. Tomáš Oberhuber, Ph.D. |
e-mail: | show e-mail |
type: | bachelor thesis, master thesis |
branch of study: | MI_MM, MINF |
key words: | HPC, GPU, C++, algoritmizace |
description: | Dynamické datové struktury patří mezi základní nástroje pro vývoj pokročilých algoritmů. Umožňují snadné a efektivní ukládání a vyhledávání dat organizovaných podle určitého klíče. Paralelní implementace těchto struktur je stále otevřený problém zejména pokud jde o implementaci na GPU. Cílem tohoto tématu je prostudovat existující algoritmy pro práci s B-stromy na GPU a vybrané z nich pak implementovat do knihovny TNL (www.tnl-project.org), což je knihovna zaměřená na snadný vývoj paralelních algoritmů. V ideálním případě student navrhne a implementuje vhodné optimalizace a na závěr provede porovnání výsledných algoritmů. |
last update: | 20.09.2020 18:13:52 |
Variační metody pro učení se a kalibraci matematických modelů
advisor: | Ing. Tomáš Oberhuber, Ph.D. |
e-mail: | show e-mail |
type: | phd thesis |
branch of study: | MI_MM |
key words: | variační metody, parciální diferenciální rovnice, strojové učení |
description: | Toto téma v sobě kombinuje oblasti strojového učení a matematického modelování pomocí parciálních diferenciálních rovnic. Podobně, jako se ve strojovém učení hledají vhodné parametry vah např. u neuronových sítí za pomocí algoritmu zpětné propagace, lze i do modelů založených na řešení parciálních diferenciálních rovnic (PDR) vložit řadu neznámých parametrů, které popisují jak použité diferenciální operátory a silové členy, tak i počáteční a okrajové podmínky. Volbou vhodné ztrátové funkce se pak můžeme pokoušet nastavit tyto parametry tak, aby výsledná PDR generovala požadovaná data. Tím vlastně získáme matematický model popisující např. naměřená experimentální data. Metody strojového učení nám tak mohou pomoci k lepšímu pochopení některých experimentálně naměřených jevů. Tento postup lze ale také využít na odvozování makroskopických modelů a výpočtů založených na modelech mikroskopických v situaci, kdy experimentální data nejsou dostupná. Zároveň lze tento přístup použít i pro řešení inverzní úlohy, tj. najít např. počáteční podmínku k určitému koncovému stavu. Obdobou algoritmu zpětné propagace je v tomto případě metoda pro odvození tzv. adjungované rovnice, která napočítá gradient vůči neznámým parametrům modelu. V rámci tohoto tématu se student bude zabývat právě odvozováním adjungovaných rovnic pro různé modely, jejich numerickým řešením a implementací výsledných numerických řešičů. Vše bude řešeno na pozadí úloh souvisejících se simulací proudění, porézním prostředím nebo zpracování dat z magnetické rezonance. |
references: | Charu C. Aggarval, Linear Algebra and Optimization Methods for Machine Learning, Springer, 2020. Fučík R., Klinkovský J., Solovský J., Oberhuber T., Mikyška J., Multidimensional Mixed-Hybrid Finite Element Method for Compositional Two-Phase Flow in Heterogeneous Porous Media and its Parallel Implementation on GPU, Computer Physics Communications, vol. 238, pp. 165-180. Bauer P., Klement V., Oberhuber T., Žabka V., Implementation of the Vanka-type multigrid solver for the finite element approximation of the Navier-Stokes equations on GPU, Computer Physics Communication, Vol.200, pp.50-56,2016. Oberhuber T., Numerical solution for the anisotropic Willmore flow of graphs, Applied Numerical Mathematics, Vol. 88, pp.1--17, 2015. Pevný, T.; Šmídl, V.; Trapp, M.; Poláček, O.; Oberhuber, T. Sum-Product-Transform Networks: Exploiting Symmetries using Invertible Transformations, In: Proceedings of the 10th International Conference on Probabilistic Graphical Models. Proceedings of Machine Learning Research, 2020. p. 341-352. vol. 138. Škardová K., Oberhuber T., Tintěra J., Chabiniok R., Signed-distance function based non-rigid registration of image series with varying image intensity, Discrete and Continuous Dynamical Systems S, vol. 14, no. 3, pp. 1145-1160, 2020. |
last update: | 10.05.2021 09:17:04 |
Metody strojového učení v numerické matematice
advisor: | Ing. Tomáš Oberhuber, Ph.D. |
e-mail: | show e-mail |
type: | bachelor thesis, master thesis |
branch of study: | MI_MM, MI_AMSM, MINF |
key words: | strojové učení, parciální diferenciální rovnice |
description: | Toto téma v sobě kombinuje oblasti strojového učení a matematického modelování pomocí parciálních diferenciálních rovnic. Podobně, jako se ve strojovém učení hledají vhodné parametry vah např. u neuronových sítí za pomocí algoritmu backpropagation, lze i do modelů založených na řešení parciálních diferenciálních rovnic (PDR) vložit řadu neznámých parametrů, které popisují jak použité diferenciální operátory a silové členy, tak i počáteční a okrajové podmínky. Volbou vhodné ztrátové funkce se pak můžeme pokoušet nastavit tyto parametry tak, aby výsledná PDR generovala požadovaná data. Tím vlastně získáme matematický model popisující např. naměřená experimentální data. Metody strojového učení nám tak mohou pomoci pochopit k lepšímu pochopení některých experimentálně naměřených jevů. Tento postup lze ale také využít na odvozování makroskopických modelů a výpočtů založených na modelech mikroskopických v situaci, kdy experimentální data nejsou dostupná. Zároveň lze tento přístup použít i pro řešení inverzní úlohy, tj. najít např. počáteční podmínku k určitému koncovému stavu. Obdobou algoritmu backpropagation je v tomto případě metoda pro odvození tzv. adjoint rovnice, která napočítá gradient vůči neznámým parametrům modelu. V rámci tohoto tématu se student bude zabývat právě odvozováním adjoint rovnic pro různé modely, jejich numerickým řešením a implementací výsledných numerických řešičů. Vše bude řešeno na pozadí úloh souvisejících se simulací proudění, porézním prostředí nebo zpracování dat z magnetické rezonance. Díky úzké spolupráci s nemocnicí IKEM lze řadu výsledků aplikovat například na zpracování medicínských dat. |
references: | Charu C. Aggarval, Linear Algebra and Optimization Methods for Machine Learning, Springer, 2020. |
last update: | 02.09.2021 09:34:49 |
Metoda konečných objemů pro obecné polyhedrální sítě a grafické akcelerátory GPU
advisor: | Ing. Jakub Klinkovský, Ing. Tomáš Oberhuber, PhD. |
e-mail: | show e-mail |
type: | bachelor thesis, master thesis |
branch of study: | MI_MM, MI_AMSM, MINF, APIN |
key words: | metoda konečných objemů, numerická matematika, objektově orientované programování, C++, CUDA, GPU, HPC |
description: | Metoda konečných objemů je pravděpodobně nejpopulárnější numerická metoda ve výpočetní dynamice tekutin. Metoda je založená na diskretizaci prostorové oblasti pomocí sítě a výpočtu integrálů přes jednotlivé elementy sítě pro členy vystupující v dané parciální diferenciální rovnici. Mezi hlavní výhody této metody patří její velká obecnost: lze ji aplikovat na řešení mnoha typů parciálních diferenciálních rovnic a lze ji použít pro řešení úloh v komplexní geometrii průmyslových aplikací s využitím nestrukturovaných sítí. V rámci této práce se zaměříme na formulaci metody konečných objemů pro obecné polyhedrální sítě a její implementaci pro grafické karty (GPU), které mnoho moderních superpočítačů využívá jako efektivní výpočetní akcelerátory. Pokusíme se o obecnou objektově orientovanou implementaci metody, která nebude svázána s jednou konkrétní aplikací, ale bude ji možné aplikovat pro mnoho různých rovnic. Téma je vedeno ve spolupráci s firmami CFD Support (https://www.cfdsupport.com) a M Computers (https://mcomputers.cz/). V případě dotazů mě neváhejte kontaktovat mailem: klinkovsky@mmg.fjfi.cvut.cz |
last update: | 27.09.2023 16:38:30 |
Numerické řešení parciálních diferenciálních rovnic v počítačové grafice
advisor: | doc. Ing. Tomáš Oberhuber, Ph.D. |
e-mail: | show e-mail |
type: | bachelor thesis, master thesis |
branch of study: | MI_MM, MINF |
key words: | parciální diferenciální rovnice, diferenciální geometrie, numerická matematika, počítačové grafika |
description: | Náplní tohoto tématu je aplikace numerických metod pro řešení parciálních diferenciálních rovnic (PDR) na úlohy počítačové grafiky. Jde například o úlohy jako syntéza textur [2], generování 3D modelů pomocí evoluce ploch [1] nebo analýza video sekvencí za pomocí výpočtu tzv. optického toku. V rámci tématu se student bude zabývat např. diferenciální geometrii, numerickými metodami pro řešení PDR, programováním v C++ a případně implementací některých algoritmů na GPU za pomoci knihovny TNL [4]. Téma je vedeno ve spolupráci s Fakultou elektrotechnickou (Prof. Daniel Sýkora) [3] a se společnostmi Adobe a Google. |
references: | [1] https://dcgi.fel.cvut.cz/home/sykorad/monster_mash [2] https://www.cc.gatech.edu/cpl/projects/textureoptimization/image_results.html [3] https://dcgi.fel.cvut.cz/home/sykorad/#software [4] www.tnl-project.org |
last update: | 26.08.2022 13:44:45 |
Optimalizace polyhedrálních sítí
advisor: | doc. Ing. Tomáš Oberhuber, Ph.D. |
e-mail: | show e-mail |
type: | bachelor thesis, master thesis |
branch of study: | MI_MM, MINF, APIN |
key words: | optimalizace, numerická matematika, numerické sítě |
description: | Cílem tohoto tématu je vývoj optimalizačních metod pro zlepšení kvality polyhedrálních sítí. Polyhedrální sítě [1] jsou využívané zejména v průmyslu pro komplexní počítačové simulace. Pokud je numerická síť v některých částech deformovaná, dochází při výpočtech s numerickými vztahy k výrazným chybám. Cílem je odvodit optimalizační metodu, která by dokázala zadanou síť modifikovat tak, aby nedocházelo k těmto chybám. Student by se prací na tomto tématu seznámil především s optimalizačními metodami a metodou konečných objemů. Odvozené metody budou implementovány v jazyce C++. Nejsou vyžadovány žádné předchozí zkušenosti nad rámec přednášek absolvovaných v prvních dvou letech studia na FJFI. Téma je vedeno ve spolupráci se Slovenskou technickou univerzitou v Bratislave. |
references: | [1] https://www.symscape.com/polyhedral-tetrahedral-hexahedral-mesh-comparison |
last update: | 05.09.2022 17:14:50 |
Physics-informed machine learning
advisor: | doc. Ing. Tomáš Oberhuber, Ph.D. |
e-mail: | show e-mail |
type: | bachelor thesis, master thesis |
branch of study: | MI_MM, MI_AMSM, MINF |
key words: | strojové učení, neuronové sítě, parciální diferenciální rovnice, optimalizační metody |
description: | Physics-informed machine learning (PIML) je nový obor, který kombinuje metody strojového učení a výpočetních simulací. Základem metod PIML je většinou modifikace vhodných neuronových sítí tak, aby respektovaly dané fyzikální zákonitosti, které jsou popsané pomocí (parciálních) diferenciálních nebo integrálních rovnic. Výsledné metody pak těží z aproximačních schopností neuronových sítí stejně jako z možnosti využít metod automatického derivování. Lze tak např. řešit parciální diferenciální rovnice bez nutnosti jejich explicitní diskretizace, čímž odpadá nutnost vytvářet numerickou síť a odvozovat numerické schéma. Velkou výhodou je, že takovéto metody řešení parciálních diferenciálních rovnic (PDR) lze snadno modifikovat přidáním učících dat. Lze pak lépe fitovat známé fyzikální modely na naměřená data nebo řešit různé inverzní úlohy či optimalizační úlohy s vazbami danými pomocí PDR. Tato oblast kombinuje postupy numerické matematiky, optimalizační metody a statistické zpracování dat. Student se tak v rámci práce na tomto tématu může věnovat fyzikálním simulacím a přesto si osvojit metody strojového učení a trénování neuronových sítí. V rámci tohoto tématu je možné se věnovat: 1. vývoji metod využívající neuronové sítě pro řešení parciálních diferenciálních rovnic, 2. aplikacím PIML na optimalizační úlohy s vazbami danými PDR s aplikacemi ve zpracování medicínských dat, optimální řízení v nanooptice nebo v proudění tekutin, 3. implementace paralelních algoritmů pro PIML v knihovně TNL. |
references: | 1. Ch. C. Aggarwal, Neural Networks and Deep Learning: A Textbook, Springer 2018. 2. G. Karniadakis, Y. Kevrekidis, L. Lu, P. Perdikaris, S. Wang, L. Yang, Physics-informed machine learning, Nature Reviews Physics, 3, pp. 422-440, 2021. 3. Ch. Meng, S. Seo, D. Cao, S. Griesemer, Y. Liu, When Physics Meets Machine Learning: A Survey of Physics-Informed Machine Learning, arXiv:2203.16797v1. |
last update: | 09.05.2024 15:21:41 |
Paralelní algoritmy v optimalizacích
advisor: | doc. Ing. Tomáš Oberhuber, Ph.D. |
e-mail: | show e-mail |
type: | bachelor thesis, master thesis |
branch of study: | MI_MM, MI_AMSM, MINF |
key words: | optimalizace, gradientní metody, lineární a nelineární programování, CPU, GPU, distribuované klastry |
description: | Optimalizační úlohy patří mezi jedny z nejčastěji řešených matematických úloh. Řada fyzikálních procesů se řídí minimalizací určitého energetického funkcionálu, metody strojového učení a zejména učení neuronových sítí je založeno na minimalizaci ztrátové funkce, řada statistických metod je založena na maximalizaci pravděpodobnosti, dále lze jmenovat různé úlohy z optimálního řízení, optimálních procesů nebo optimálního plánování. Třída optimalizačních úloh je opravdu velice široká stejně jako třída algoritmů, které tyto úlohy dokáží řešit. V mnoha případech ale tyto algoritmy vyžadují provedení časově velice náročných výpočtů. Cílem tohoto tématu je efektivní paralelizace těchto algoritmů pro běh na vícejádrových CPU, GPU a distribuovaných klastrech. Zabývat se budeme zejména gradientními metodami, ale také algoritmy pro lineární, kvadratické či polynomiální programování. Tam, kde to bude aspoň trochu možné, budou vybrané metody aplikované na reálné úlohy. |
references: | 1. J. Nocedal, S. J. Wright, Numerical Optimization, Springer, 2006. 2. F. Pacaud, M.l Schanen,S. Shin,D. A. Maldonado, M.i Anitescu, Parallel interior-point solver for block-structured nonlinear programs on SIMD/GPU architectures, Optimization Methods and Software, 2024, https://doi.org/10.1080/10556788.2024.2329646. 3. D. Applegate, M. Diaz, O. Hinder, H. Lu, M. Lubin, B. O\'Donoghue, W. Schudy, Practical Large-Scale Linear Programming using Primal-Dual Hybrid Gradient, Advances in Neural Information Processing Systems 34 (NeurIPS 2021). |
last update: | 07.05.2024 09:44:04 |
Paralelní algoritmy ve strojovém učení
advisor: | doc. Ing. Tomáš Oberhuber, Ph.D. |
e-mail: | show e-mail |
type: | bachelor thesis, master thesis |
branch of study: | MI_MM, MI_AMSM, MINF, APIN |
key words: | strojové učení, paralelní algoritmy, GPU |
description: | Strojové učení a umělá inteligence patří v současnosti mezi nejrychleji se rozvíjející oblasti. Obojí zároveň nabízí velice efektivní nástroje pro řešení řady netriviálních úloh. Metody strojového učení však stojí na výpočetně velice náročných algoritmech. Cílem tohoto tématu je vývoj paralelních algoritmů nebo optimalizace již existujících pro zvýšení výkonu výpočtu metod strojového učení. Dále se budeme zabývat paralelními algoritmy pro physics-informed machine learning (PIML), tj. oblast strojového učení, která se překrývá s numerickou matematikou. V PIML je tedy často nutné kombinovat metody strojového učení s numerickými metodami pro řešení parciálních diferenciálních rovnic. |
references: | 1. Ch. C. Aggarwal, Neural Networks and Deep Learning: A Textbook, Springer 2018. |
last update: | 07.05.2024 12:44:02 |
Paralelní grafové algoritmy
advisor: | doc. Ing. Tomáš Oberhuber, Ph.D. |
e-mail: | show e-mail |
type: | bachelor thesis, master thesis |
branch of study: | MI_MM, MI_AMSM, MINF |
key words: | grafové algoritmy, GPU, distribuované výpočty, C++ |
description: | Grafové algoritmy patří mezi ty nejzajímavější. Přestože řeší často úlohy tak jednoduché, že je pochopí i žák základní školy, správné pochopení všech detailů těchto algoritmů už není tak jednoduché a pokud mluvíme o paralelních algoritmech, platí to o to více. Cílem tohoto tématu je zejména paralelizace grafových algoritmů pro GPU nebo distribuované klastry. Budeme se zabývat např. algoritmy pro maximální toky, topologické řazení, hledání klíčových cest (critical path method), detekci komunit apod. Algoritmy budou implementovány v knihovně TNL (www.tnl-project.org) v jazyce C++. |
references: | 1. W. Kocay, D. L. Kreher, Graphs, Algorithms, and Optimization, Chapman and Hall/CRC, 2016. 2. R. Sedgewic, Algorithms in C, Part 5: Graph Algorithms, Addison-Wesley Professional, 2001. |
last update: | 14.05.2024 15:39:20 |
PDHG metoda pro lineární a kónické programování
advisor: | doc. Ing. Tomáš Oberhuber, Ph.D. |
e-mail: | show e-mail |
type: | bachelor thesis, master thesis |
branch of study: | MI_MM, MI_AMSM, MINF |
key words: | optimalizace, iterativní metody |
description: | Kónické programování je obecný rámec, který zahrnuje lineární programování (LP), kvadratické programování (QP), semidefinitní programování (SDP) a další typy konvexních úloh jako speciální případy. Umožňuje modelovat a řešit složitější optimalizační problémy, které nelze vyjádřit pouze pomocí lineárních nerovností a rovností. Zvláštní význam má semidefinitní programování (SDP) – optimalizace nad množinou pozitivně semidefinitních matic. Ačkoliv na první pohled vypadá matematicky náročněji než LP nebo QP, má řadu klíčových aplikací v teorii i praxi: 1. Strojové učení a statistika – relaxace složitých úloh jako SVM, robustní PCA, nebo optimalizace kernelů. 2. Kombinatorická optimalizace – aproximace NP-úplných úloh (např. Max-Cut, k-clustering) pomocí semidefinitních relaxací (např. slavná Goemans–Williamsonova relaxace). 3. Řízení a systémová teorie – návrh řídicích zákonů pomocí lineárních maticových nerovností (LMI). 4. Kvantová informatika a fyzika – optimalizace kvantových stavů a operací. 5. Ekonometrie a finanční inženýrství – modelování rizika, korelační matice. Díky své vysoké vyjadřovací síle jsou SDP modely velmi flexibilní a umožňují formulovat i úlohy, které nelze popsat lineárním modelem. Na druhou stranu, jejich řešení je výpočetně mnohem náročnější než v případě LP. Klasické metody jako metoda vnitřního bodu (interior-point methods) mají kvadratickou až kubickou složitost a špatně škálují – už středně velké SDP úlohy (např. s několika tisíci proměnnými) mohou být prakticky neřešitelné. Zde přichází ke slovu metody prvního řádu jako je PDHG (Primal–Dual Hybrid Gradient), které sice konvergují pomaleji, ale umožňují řešit mnohem větší úlohy a často využít akceleraci pomocí GPU. Cíle práce: 1. Porozumět teorii PDHG metody a jejím variantám (adaptivní kroky, over-relaxace, restartovací techniky). 2. Implementovat PDHG algoritmus pro úlohy v LP a/nebo SDP. 3. Ověřit možnosti paralelizace a akcelerace na GPU. 4. Otestovat výkon na reálných úlohách z oblasti strojového učení, statistiky nebo řízení. Přínosy pro studenta: 1. Získá znalosti o důležité, prakticky používané oblasti optimalizace. 2. Získá zkušenosti s návrhem paralelních algoritmů a programováním GPU. 3. Bude pracovat na tématu, které má reálné využití ve vědě i průmyslu. |
references: | 1. Applegate, David, et al. \"Practical large-scale linear programming using primal-dual hybrid gradient.\" Advances in Neural Information Processing Systems 34 (2021): 20243-20257. 2. Chambolle, Antonin, and Thomas Pock. A first-order primal-dual algorithm for convex problems with applications to imaging. Journal of mathematical imaging and vision 40 (2011): 120-145. |
last update: | 19.05.2025 10:59:01 |
Paralelní předzpracování úloh v lineárním programování
advisor: | doc. Ing. Tomáš Oberhuber, Ph.D. |
e-mail: | show e-mail |
type: | bachelor thesis, master thesis |
branch of study: | MI_MM, MI_AMSM, MINF |
key words: | lineární programování, GPU |
description: | Lineární programování (LP) představuje jeden z nejdůležitějších nástrojů moderní aplikované matematiky, informatiky a inženýrství. Denně se využívá v oblastech jako je: 1. Optimalizace dopravy a logistiky (např. rozvrhování tras a dodávek), 2. Plánování výroby (minimalizace nákladů, efektivní využití zdrojů), 3. Finanční modelování a řízení portfolia, 4. Energetika (např. optimalizace sítí a využití obnovitelných zdrojů), 5. Strojové učení a data science (např. SVM, robustní regrese). V reálných aplikacích však často čelíme velmi rozsáhlým úlohám se statisíci až miliony proměnných a omezení. Pro tyto případy klasické metody (např. Simplexová metoda nebo metoda vnitřního bodu) selhávají kvůli náročnosti na paměť i výpočetní čas. Moderní přístup představují metody prvního řádu jako je Primal–Dual Hybrid Gradient (PDHG), které umožňují řešit i extrémně rozsáhlé úlohy. Zvláště efektivní jsou v kombinaci s akcelerací pomocí grafických procesorů (GPU). Předzpracování (tzv. presolving) je klíčovou součástí řešení lineárních programovacích úloh. Jeho cílem je zjednodušit úlohu dříve, než je předána samotnému solveru – například odstraněním redundantních omezení, fixací proměnných, škálováním nebo detekcí degenerací. Kvalitní presolving může dramaticky snížit velikost úlohy i výpočetní čas. Zatímco samotné řešiče založené na PDHG již dokáží využít GPU, presolving bývá stále prováděn sekvenčně na CPU a jeho provedení pak trvá neúměrně dlouho vzhledem k následujícímu samotnému výpočtu. Cílem této práce je prozkoumat možnosti paralelizace vybraných presolvingových technik a jejich implementace na GPU, s důrazem na masivní paralelismus a efektivní práci s pamětí. Cíle práce: 1. Seznámit se s presolvingovými technikami v kontextu LP (např. fixed variable elimination, constraint aggregation, bound tightening, sparsity detection). 2. Vybrat vhodné techniky pro paralelizaci. 3. Navrhnout a implementovat jejich efektivní paralelní verzi pro GPU v knihovně TNL. 4. Otestovat na reálných LP úlohách (např. z knihoven Netlib, MIPLIB) a porovnat s existujícími nástroji (např. presolving ve SCIP nebo HiGHS). Přínosy pro studenta: 1. Získá znalosti o důležité, prakticky používané oblasti optimalizace. 2. Získá zkušenosti s návrhem paralelních algoritmů a programováním GPU. 3. Bude pracovat na tématu, které má reálné využití ve vědě i průmyslu. |
references: | 1. Achterberg, Tobias. Constraint integer programming. Diss. 2007. 2. Achterberg, Tobias, et al. \"Constraint integer programming: A new approach to integrate CP and MIP.\" International Conference on Integration of Artificial Intelligence (AI) and Operations Research (OR) Techniques in Constraint Programming. Berlin, Heidelberg: Springer Berlin Heidelberg, 2008. |
last update: | 19.05.2025 10:58:47 |
Deformabilní registrace medicínských dat
advisor: | doc. Ing. Tomáš Oberhuber, Ph.D. |
e-mail: | show e-mail |
type: | bachelor thesis, master thesis |
branch of study: | MI_MM, MI_AMSM, MINF |
key words: | zpracování medicínských dat, numerická matematika |
description: | Z důvodu delší doby dožití a velké úspěšnosti onkologické léčby se u stále většího počtu pacientů po několika letech znovu objevují nádory v místě primární léčby (např. radioterapii). V takových případech je pro správné nastavení nové léčby naprosto zásadní přesně lokalizovat oblast, která byla ozářena při předchozí terapii. Tato úloha je však velmi náročná, protože: 1. Mezi prvním a opakovaným zobrazením může uběhnout několik let. 2. Pacient může změnit tělesnou konstituci, může dojít k posunu či změně tvaru orgánů. 3. Snímky byly často pořízeny na jiných přístrojích s jiným rozlišením a orientací. 4. Změna tkání způsobená léčbou nebo chorobou vede k nelineárním a lokálním deformacím. Deformabilní registrace MRI a CT snímků pořízených s časovým odstupem je klíčovým nástrojem pro překlenutí těchto změn a umožňuje spolehlivě přenést původní plán ozařování do aktuální anatomie pacienta. Cílem je otestovat implementovat metodu registrace dat založenou na výpočtu SDF (signed-distance function) pro registraci 3D dat, aplikovat ji na data týkající se reiradiace nádoru a porovnat její úspěšnost s jinými, komerčně dostupnými metodami. Cíle práce: 1. Seznámit se se základy deformabilní registrace dat, zejména pak s SDF registrační metodou. 2. Provést implementaci této metody pro zpracování 3D dat v knihovně TNL. 3. Aplikovat implementovanou metodu na syntetická a reálná data. 4. Porovnat implementovanou metodu a jinými registračními metodami. Přínosy pro studenta: 1. Získá zkušenosti se zpracováním medicínských dat. 2. Naučí se vytvářet vysoce efektivní kód v jazyce C++ a programování v knihovně TNL s podporou GPU. 3. Zapojí se do reálného výzkumu nových výpočetních metod v moderní medicíně. |
references: | 1. Škardová K., Oberhuber T., Tintěra J., Chabiniok R., Signed-distance function based non-rigid registration of image series with varying image intensity, Discrete and Continuous Dynamical Systems S, vol. 14, no. 3, pp. 1145-1160, 2021. 2. Modersitzki, Jan. Numerical methods for image registration. OUP Oxford, 2003. 3. Mang, Andreas, et al. \"PDE-constrained optimization in medical image analysis.\" Optimization and Engineering 19 (2018): 765-812. |
last update: | 20.05.2025 09:05:14 |
Paralelní metody pro výpočet spektra matic
advisor: | doc. Ing. Tomáš Oberhuber, Ph.D. |
e-mail: | show e-mail |
type: | bachelor thesis, master thesis |
branch of study: | MI_MM, MI_AMSM, MINF |
key words: | spektrum matric, numerická matematika, GPU, paralelní algoritmy |
description: | Výpočet spektra matic – tedy jejich vlastních čísel a vlastních vektorů – je zásadní součástí mnoha algoritmů a vědeckých aplikací. Tato úloha má mnoho aplikací např. v: 1. Kvantové a jaderné fyzice (řešení operátorů, spektrální rozklady), 2. analýze stability dynamických systémů (např. lineární aproximace), 3. strojovém učení (např. PCA, kernelové metody, spektrální klasifikace), 4. strukturální mechanice (vlastní módy vibrací), 5. grafové analýze (např. Laplaceovo spektrum, Fiedlerův vektor). V oblasti semidefinitního programování (SDP) je klíčové ověřování, zda matice splňuje podmínku pozitivní semidefinitnosti, což znamená, že všechna její vlastní čísla musí být nezáporná. Pro velké řídké matice je výpočet spektra výpočetně velmi náročný a bez efektivní paralelizace prakticky neřešitelný. To platí zejména pro úlohy v oblasti SDP, kde se pozitivně semidefinitní podmínky uplatňují nad maticemi o rozměrech stovky až tisíce – často v rámci iterativního algoritmu. Cíle práce: 1. Prostudovat základní a pokročilé metody pro výpočet spektra: Jacobiho metoda, QR algoritmus, Lanczosova metoda, divide-and-conquer, Jacobi–Davidson apod. 2. Zaměřit se na metody vhodné pro kompletní spektrum středně velkých hermitovských/symetrických matic. 3. Implementovat paralelní variantu vybrané metody (např. na CPU pomocí OpenMP nebo na GPU pomocí CUDA/TNL). 4. Ověřit výkonnost na testovacích maticích ze SDP úloh (např. ze solverů nebo testovacích sad). 5. Porovnat s referenčními knihovnami (např. LAPACK, Eigen, cuSolver, SLEPc). Přínosy pro studenta: 1. Získá hluboké znalosti v oblasti lineární algebry a numerických metod. 2. Naučí se vytvářet efektivní kód v jazyce C++ včetně využití moderních vlastností tohoto jazyka, včetně programování s pomocí knihovny TNL s možností využití počítání na GPU. 3. Vyzkouší si práci se spektrálními daty v reálných aplikacích (SDP, ML, výpočetní fyzika). |
references: | 1. Saad, Yousef. Numerical methods for large eigenvalue problems: revised edition. Society for Industrial and Applied Mathematics, 2011. 2. Golub, Gene H., and Charles F. Van Loan. Matrix computations. JHU press, 2013. 3. Gu, Ming, and Stanley C. Eisenstat. \"A divide-and-conquer algorithm for the symmetric tridiagonal eigenproblem.\" SIAM Journal on Matrix Analysis and Applications 16.1 (1995): 172-191. |
last update: | 20.05.2025 09:07:57 |
Formáty pro řídké matice na GPU
advisor: | doc. Ing. Tomáš Oberhuber, Ph.D. |
e-mail: | show e-mail |
type: | bachelor thesis, master thesis |
branch of study: | MI_MM, MINF, APIN |
key words: | řídké matice, GPU, paralelní algoritmy |
description: | Vědecké a inženýrské výpočty často vedou na velké řídké matice – tedy matice, ve kterých je většina prvků nulová. Operace násobení řídké matice a vektoru (Sparse Matrix–Vector Multiplication, SpMV) je základním stavebním kamenem v mnoha algoritmech – zejména v: 1. numerickém řešení parciálních diferenciálních rovnic (např. FEM/FVM), 2. iterativních metodách pro řešení lineárních systémů (CG, BiCGStab, GMRES), 3. optimalizačních algoritmech (gradienty, Jacobiany), 4. strojovém učení (např. trénování sparse modelů). SpMV je paměťově omezená operace – to znamená, že její výkon je více ovlivněn přístupem do paměti než výpočetním výkonem samotného procesoru. Právě proto je její efektivní implementace na GPU velmi náročná, ale zároveň extrémně důležitá pro výkonnost celého systému. Mezi nejpopulárnější formáty pro ukládání řídkých matic patří CSR formát. Ačkoliv je tento formát velmi rozšířený a paměťově efektivní, paralelizace SpMV nad CSR na GPU je náročná kvůli: nerovnoměrnému počtu nenulových prvků v řádcích (load imbalance), neoptimálním přístupům do globální paměti GPU. Výzkum efektivních paralelních algoritmů pro GPU se tak dělí na snahy maximálně optimalizovat GPU kernely pro CSR formát nebo návrh nových formátů, lépe navržených přímo pro GPU. Cíle práce: 1. Prostudovat různé paralelní algoritmy pro SpMV nad CSR formátem na GPU nebo alternativní formáty. 2. Implementovat a porovnat vybrané algoritmy v knihovně TNL jako rozšíření datové abstrakce segmenty v této knihovně. 3. Porovnat výkon s existujícími knihovnami (např. cuSPARSE, Ginkgo). Přínosy pro studenta: 1. Získá detailní znalost programování pro GPU včetně praktické zkušenosti s vývojem a laděním GPU kernelů. 2. Naučí se pokročilé techniky programování v C++. 3. Přispěje k výzkumu nebo vývoji knihovny TNL. 4. Práce má přímé využití v HPC, numerické simulaci i optimalizaci. |
references: | 1. Oberhuber T., Klinkovský J., Fučík R., TNL: Numerical library for modern parallel architectures, Acta Polytechnica, vol. 61, no. SI, pp. 122-134, 2020. 2. Gao, Jianhua, et al. \"A systematic literature survey of sparse matrix-vector multiplication.\" arXiv preprint arXiv:2404.06047 (2024). 3. Zhao, Zhixiang, et al. \"Recursive Hybrid Compression for Sparse Matrix‐Vector Multiplication on GPU.\" Concurrency and Computation: Practice and Experience 37.4-5 (2025). 4. Jiang, Jiafan, Jianqiang Huang, and Haodong Bian. \"GTLB: A Load-Balanced SpMV Computation Method on GPU.\" Proceedings of the 2023 7th International Conference on High Performance Compilation, Computing and Communications. 2023. 5. Liu, Weifeng, and Brian Vinter. \"CSR5: An efficient storage format for cross-platform sparse matrix-vector multiplication.\" Proceedings of the 29th ACM on International Conference on Supercomputing. 2015. 6. Xu, Jianfei, Lianhua He, and Zhong Jin. \"Mixed precision SpMV on GPUs for irregular data with hierarchical precision selection.\" CCF Transactions on High Performance Computing (2025): 1-13. 7. Zeng, Guangsen, and Yi Zou. \"Leveraging Memory Copy Overlap for Efficient Sparse Matrix-Vector Multiplication on GPUs.\" Electronics 12.17 (2023): 3687. 8. Gao, Jianhua, et al. \"Revisiting thread configuration of SpMV kernels on GPU: A machine learning based approach.\" Journal of Parallel and Distributed Computing 185 (2024): 104799. |
last update: | 20.05.2025 09:10:53 |
Numerické metody pro výpočet optického toku ve zpracování obrazových dat
advisor: | doc. Ing. Tomáš Oberhuber, Ph.D. |
e-mail: | show e-mail |
type: | bachelor thesis, master thesis |
branch of study: | MI_MM, MI_AMSM, MINF |
key words: | zpracování obrazových dat, numerická matematika |
description: | Optický tok (optical flow) popisuje pohyb pixelů mezi dvěma po sobě jdoucími snímky. Jeho přesné určení je zásadní v mnoha aplikacích: 1. rekonstrukce nebo interpolace mezisnímků, 2. stabilizace videa, 3. sledování objektů (tracking), 4. komprese a predikce videa, 5. modelování deformací (např. tkání v medicíně). Cílem této práce je využít optický tok k co nejpřesnější rekonstrukci obrazové sekvence, tj. být schopen predikovat nebo generovat chybějící snímky mezi reálně zaznamenanými, případně rekonstruovat celou sekvenci z několika klíčových snímků. To klade vysoké nároky na přesnost, stabilitu a reprezentativnost výpočtu toku – tedy je nutné použít nebo navrhnout pokročilé algoritmy, které minimalizují chyby (zejména v oblastech s texturou, okraji nebo deformacemi). Cíle práce: 1. Prostudovat klasické (variační) nebo i moderní (založené na deep learningu, např. RAFT, FlowNet2) metody výpočtu optického toku. 2. Implementovat vybranou metodu pro výpočet optického toku. 3. Vyhodnotit kvalitu optického toku na reálných nebo syntetických datech pomocí metrik (např. EPE – endpoint error, warping error). 4. Vyvinout metodu pro rekonstrukci mezisnímků (např. pomocí semi lagrngeovských metod, WENO schémat nebo TVD schémat - Van Leer, Minmod, Sperbee) na základě vypočteného toku. 5. Ověřit kvalitu rekonstrukce pomocí metrik (např. PSNR, SSIM). 6. (Volitelně) zrychlit implementaci pomocí GPU. Přínosy pro studenta: 1. Získá hluboké znalosti v oblasti počítačového vidění a zpracování obrazu. 2. Vyzkouší si jak klasické, tak moderní (AI) metody výpočtu optického toku. 3. Může publikovat porovnání nebo přispět do open-source nástroje. |
references: | 1. Papenberg, Nils, et al. \"Highly accurate optic flow computation with theoretically justified warping.\" International Journal of Computer Vision 67 (2006): 141-158. 2. Mang, Andreas, et al. \"PDE-constrained optimization in medical image analysis.\" Optimization and Engineering 19 (2018): 765-812. 3. Staniforth, Andrew, and Jean Côté. \"Semi-Lagrangian integration schemes for atmospheric models—A review.\" Monthly weather review 119.9 (1991): 2206-2223. 4 .Falcone, Maurizio, and Roberto Ferretti, eds. Semi-Lagrangian approximation schemes for linear and Hamilton—Jacobi equations. Society for Industrial and Applied Mathematics, 2013. 5. Cockburn, Bernardo, et al. Essentially non-oscillatory and weighted essentially non-oscillatory schemes for hyperbolic conservation laws. Springer Berlin Heidelberg, 1998. 6. Jiang, Guang-Shan, and Chi-Wang Shu. \"Efficient implementation of weighted ENO schemes.\" Journal of computational physics 126.1 (1996): 202-228. 7. https://vision.middlebury.edu/flow/ 8. https://www.cvlibs.net/datasets/kitti/eval_stereo_flow.php |
last update: | 20.05.2025 09:14:01 |
Numerické metody modelování ploch v počítačové grafice
advisor: | doc. Ing. Tomáš Oberhuber, Ph.D. |
e-mail: | show e-mail |
type: | bachelor thesis, master thesis |
branch of study: | MI_MM, MI_AMSM, MINF |
key words: | počítačová grafika, diferenciální geometrie, numerické matematika |
description: | V mnoha aplikacích – od počítačové grafiky, přes zpracování obrazů až po výpočty v biologii a fyzice – je třeba modelovat evoluci hladkých ploch v čase. Tyto plochy se často vyvíjejí podle zákonů založených na jejich geometrických vlastnostech, zejména křivosti. Jedním z takových zákonů je surface diffusion, kde normálová rychlost je dána Laplace–Beltramiho operátorem střední křivosti. Tato evoluce popisuje např.: 1. vyhlazování povrchů, 2. difúzní tok v materiálových vědách, 3. vývoj biologických membrán, 4. modelování ploch v architektuře, 5. uměleckou modelaci ploch (např. Monster Mash). Cílem tohoto tématu je optimalizovat existující implementaci řešiče za pomoci využití Newtonovy metody a aplikovat jej zejména na modelování pomocí metody Monster Mash se snahou vytváření komplikovanějších tvarů. Cíle práce: 1. Seznámit se s modelem surface diffusion v diskrétní podobě pro reprezentaci uzlovými body (např. Lagrangeovský popis křivky nebo sítě bodů na ploše). 2. Implementovat implicitní metodu pro časovou diskretizaci. 3. Řešit nelineární rovnice pomocí Newtonovy metody, včetně výpočtu Jacobiánu a řešení lineárních systémů. 4. Zajistit tangenciální redistribuci bodů pro zachování numerické kvality sítě. 5. Ověřit a porovnat vývoj ploch na různých geometriích a srovnat výsledky s existujícími přístupy (např. Monster Mash). 6. (Volitelně) Rozšířit model o další efekty (např. elastická energie, objemové zachování, topologické změny). Přínosy pro studenta: 1. Naučí se formulovat a řešit geometrické evoluční PDE. 2. Získá zkušenosti s Newtonovou metodou pro nelineární systémy. 3. Vyzkouší si kombinaci diferenciální geometrie, numeriky a grafiky. 4. Práce může mít přímé uplatnění v modelování, animaci nebo výpočetní biologii. |
references: | 1. Dvorožňák, Marek, et al. \"Monster mash: a single-view approach to casual 3D modeling and animation.\" ACM Transactions on Graphics (ToG) 39.6 (2020): 1-12. 2. Morigi, Serena. \"Geometric surface evolution with tangential contribution.\" Journal of Computational and Applied Mathematics 233.5 (2010): 1277-1287. 3. Kelley, Carl T. Solving nonlinear equations with Newton\'s method. Society for Industrial and Applied Mathematics, 2003. |
last update: | 20.05.2025 09:17:18 |
Dávkové zpracování úloh na GPU v TNL
advisor: | doc. Ing. Tomáš Oberhuber, Ph.D. |
e-mail: | show e-mail |
type: | bachelor thesis, master thesis |
branch of study: | MI_MM, MI_AMSM, MINF, APIN |
key words: | paralelní algoritmy, HPC, GPU, C++ |
description: | Moderní grafické procesory (GPU) jsou optimalizovány pro výpočty s vysokým stupněm paralelismu. Pokud se na GPU provádějí malé úlohy jednotlivě, často se nedosáhne jejich plného výkonu – velká část výpočetní kapacity zůstane nevyužita. Proto je vhodné tyto menší úlohy sdružit do dávky a zpracovat je současně, tzv. batched processing. Tato technika je hojně využívána v: 1. lineární algebře (např. cuBLAS a cuSolver mají batched varianty funkcí), 2. optimalizačních metodách, 3. řešení systémů lineárních rovnic s různými parametry, 4. paralelních simulacích (např. se sadou různých počátečních podmínek). V knihovně TNL tato strategie umožní efektivně škálovat i výpočty, které samy o sobě GPU plně nevyužívají. Cíle práce: 1. Prostudovat principy dávkového zpracování na GPU (např. thread block per task, warp-level batching, grid-level batching). 2. Navrhnout rozhraní pro dávkové zpracování v rámci TNL (např. 3. BatchedLinearSystemSolver, BatchedSpMV, BatchedExplicitSolver). 3. Implementovat ukázkovou dávkovou verzi zvoleného numerického algoritmu (např. řešení ODE/PDE, SpMV, lineární systém). 4. Porovnat výkon dávkovaného a nedávkovaného řešení pro různé velikosti úloh. 5. (Volitelně) navrhnout dynamické rozvrhování práce v dávce (load balancing). 6. Ověřit použití v reálném scénáři – např. simulace více nezávislých fyzikálních jevů. Přínosy pro studenta: 1. Získá velice dobrou znalost programování pro GPU. 2. Získá praktické zkušenosti s pokročilým programováním v jazyce C++. 3. Osvojí si postupy potřebné pro vývoj větších softwarových projektů. |
references: | 1. Aggarwal, Isha, et al. \"Batched sparse iterative solvers for computational chemistry simulations on GPUs.\" 2021 12th Workshop on Latest Advances in Scalable Algorithms for Large-Scale Systems (ScalA). IEEE, 2021. 2. Oberhuber, Tomáš, Jakub Klinkovský, and Radek Fučík. \"TNL: Numerical library for modern parallel architectures.\" Acta Polytechnica 61.SI (2021): 122-134. |
last update: | 20.05.2025 09:22:26 |
Topologická analýza dat
advisor: | doc. Ing. Tomáš Oberhuber, Ph.D. |
e-mail: | show e-mail |
type: | bachelor thesis, master thesis |
branch of study: | MI_MM, MI_AMSM, MINF |
key words: | zpracování dat, paralelní algoritmy |
description: | V mnoha moderních aplikacích – jako je bioinformatika, analýza neuronálních dat, rozpoznávání obrazů nebo modelování materiálů – se setkáváme s daty, která mají složitou vnitřní strukturu. Klasické metody analýzy (statistika, PCA, klastry) často zachycují pouze lineární nebo lokální vztahy. Topologická data analysis (TDA) přistupuje k datům jinak – zkoumá globální a tvarové vlastnosti dat, jako jsou: 1. počet komponent (spojitost), 2. kruhové struktury (dutiny), 3. víceúrovňová propojení (homologie vyšších řádů). Oproti např. neuronovým sítím má TDA hlavně tyto výhody: 1. Výsledky jsou snadněji vysvětlitelné, na rozdíl od black-box výstupů neuronových sítí. 2. Není citlivá na malé perturbace nebo geometrické šumy. 3. TDA nepotřebuje velké množství trénovacích dat. 4. TDA nevyžaduje učení. Naopak může být využita jako předzpracování dat pro následnou aplikaci NN. Cílem je extrahovat invariantní charakteristiky dat, které jsou odolné vůči šumu a deformacím, ale zároveň dostatečně diskriminační, aby odhalily významné struktury. V současnosti je téměř nulová podpora využití GPU v TDA algoritmech. To může být další možnou náplní práce na tomto tématu. Cíle práce: 1. Prostudovat základy topologické analýzy: Ball Maper, filtraci, perzistentní homologii. 2. Implementovat vybrané algoritmy, ideálně s podporou GPU v knihovně TNL, případně porovnat s jinou existující implementací. 3. Vizualizovat výsledky (např. persistence diagramy, barcodes). 4. Aplikovat TDA na reálná nebo syntetická data (např. cloud point data, grafy, signály). Přínosy pro studenta: 1. Získá znalosti z moderní aplikované topologie. 2. Vyzkouší si práci s reálnými daty a jejich netriviální strukturou. 3. Naučí se kombinovat matematiku, numeriku a datovou analytiku. |
references: | 1. Carlsson, Gunnar. \"Topology and data.\" Bulletin of the American Mathematical Society 46.2 (2009): 255-308. 2. Edelsbrunner, Herbert, and John Harer. Computational topology: an introduction. American Mathematical Soc., 2010. 3. Carlsson, Gunnar, and Mikael Vejdemo-Johansson. Topological data analysis with applications. Cambridge University Press, 2021. |
last update: | 20.05.2025 09:24:48 |
Physics-informed machine learning
advisor: | doc. Ing. Tomáš Oberhuber, Ph.D. |
e-mail: | show e-mail |
type: | bachelor thesis, master thesis |
branch of study: | MI_MM, MI_AMSM, MINF |
key words: | neurnové sítě, numerické matematika |
description: | Physics-informed machine learning (PIML) představuje moderní výzkumný směr na pomezí strojového učení a numerického modelování, který propojuje data-driven přístup s fyzikálními znalostmi popsanými pomocí diferenciálních či integrálních rovnic. Základem PIML je obvykle návrh a trénink neuronových sítí, které jsou konstruovány tak, aby respektovaly fyzikální zákony – typicky ve formě parciálních diferenciálních rovnic (PDE). Tyto zákony jsou do modelu zakomponovány prostřednictvím modifikované ztrátové funkce, která penalizuje odchylky od fyzikálně platného chování. Tento přístup spojuje: 1. aproximační schopnosti neuronových sítí, 2. metody automatické diferenciace, 3. a znalost fyzikálních principů. Díky tomu lze například: 1. řešit PDE bez explicitní diskretizace – tedy bez potřeby generování sítě a odvozování numerického schématu, 2. kombinovat fyzikální modely s měřenými daty – například přidáním známých hodnot do trénovací množiny, 3. řešit inverzní nebo optimalizační úlohy, kde neznámé parametry či vstupy modelu mají být odhadnuty z výstupních dat. Tato oblast propojuje znalosti z numerické matematiky, optimalizace, diferenciální geometrie a statistiky. Studenti se tak mohou věnovat řešení fyzikálních problémů pomocí moderních nástrojů strojového učení, aniž by se museli vzdát přesnosti nebo interpretovatelnosti výstupu. Cíle práce: 1. Prostudovat základní principy physics-informed neural networks (PINN). 2. Implementovat PIML metodu pro řešení vhodné úlohy, např. ve zpracování medicínských dat, řešení nelineárních parciálních diferenciálních rovnic (Navierovy-Stokesovy rovnice, eikonální rovnice), fitování parametrů modelů nebo optimálního řízení. . 3. Umožnit přidání učících dat a testovat model na úlohách inverzního typu. 4. Ověřit výsledky porovnáním s klasickým numerickým řešením. 5. (Volitelně) Navrhnout paralelní implementaci v knihovně TNL nebo s využitím GPU. Přínos pro studenta: 1. Získá znalosti z oblasti strojového učení a fyzikálně založeného modelování. 2. Vyzkouší si návrh a trénink neuronových sítí v kombinaci s formulací diferenciálních rovnic. 3. Seznámí se s metodami automatického derivování a moderními optimalizačními technikami. 4. Osvojí si numerické řešení fyzikálních úloh bez nutnosti explicitní diskretizace. |
references: | 1. C. C. Aggarwal: Neural Networks and Deep Learning: A Textbook, Springer 2018. 2. G. Karniadakis et al.: Physics-informed machine learning, Nature Reviews Physics, 3, 422–440, 2021. 3. C. Meng et al.: When Physics Meets Machine Learning: A Survey of Physics-Informed Machine Learning, arXiv:2203.16797. |
last update: | 20.05.2025 09:27:52 |
Paralelní algoritmy ve strojovém učení
advisor: | doc. Ing. Tomáš Oberhuber, Ph.D. |
e-mail: | show e-mail |
type: | bachelor thesis, master thesis |
branch of study: | MI_MM, MI_AMSM, MINF, APIN |
key words: | strojové učení, paralelní algoritmy |
description: | Strojové učení a umělá inteligence patří v současnosti mezi nejrychleji se rozvíjející oblasti. Obojí zároveň nabízí velice efektivní nástroje pro řešení řady netriviálních úloh. Metody strojového učení však stojí na výpočetně velice náročných algoritmech. Cílem tohoto tématu je vývoj paralelních algoritmů nebo optimalizace již existujících pro zvýšení výkonu výpočtu metod strojového učení. Dále se budeme zabývat paralelními algoritmy pro physics-informed machine learning (PIML), tj. oblast strojového učení, která se překrývá s numerickou matematikou. V PIML je tedy často nutné kombinovat metody strojového učení s numerickými metodami pro řešení parciálních diferenciálních rovnic. Cíle práce: 1. Seznámit se se základy paralelniho programování v knihovně TNL. 2. Implementovat a porovnat paralelní varianty vybraných algoritmů (např. maticové operace, PCA, K-means, SVM, rozhodovací stromy, k-NN). 3. Ověřit škálování výpočtu s rostoucím objemem dat a počtem výpočetních jednotek. 4. (Volitelně) Integrace s knihovnou TNL a testování výkonu na GPU. Přínos pro studenta: 1. Získá praktické zkušenosti s návrhem výkonných paralelních algoritmů. 2. Naučí se analyzovat a optimalizovat výpočty s ohledem na architekturu CPU a GPU. 3. Prohloubí si znalosti z oblasti strojového učení a numerického programování. 4.Seznámí se s moderními nástroji pro paralelní výpočty v Pythonu nebo C++. |
references: | 1. Ch. C. Aggarwal, Neural Networks and Deep Learning: A Textbook, Springer 2018. 2. Goodfellow, I., Bengio, Y., Courville, A.: Deep Learning, MIT Press 2016. |
last update: | 20.05.2025 09:29:12 |
Paralelní grafové algoritmy
advisor: | doc. Ing. Tomáš Oberhuber, Ph.D. |
e-mail: | show e-mail |
type: | bachelor thesis, master thesis |
branch of study: | MI_MM, MI_AMSM, MINF, APIN |
key words: | grafové algoritmy, paralelní algoritmy |
description: | Grafy jsou přirozeným modelem pro popis vztahů v mnoha oblastech informatiky a vědy: od sociálních sítí přes neuronové struktury až po silniční mapy nebo chemické molekuly. Mnoho klasických algoritmů nad grafy – jako je hledání nejkratších cest, šíření informace, klasifikace vrcholů, maximální toky, topologické řazení, hledání klíčových cest (critical path method), detekci komunit – však bývá výpočetně náročných, zejména na velkých grafech. Zrychlení těchto algoritmů pomocí paralelizace na CPU nebo GPU je proto klíčové pro škálování na reálné aplikace. Paralelizace grafových algoritmů je výzvou kvůli: 1. nepravidelnému přístupu do paměti, 2. variabilnímu stupni vrcholů (load imbalance), 3. závislostem mezi výpočty. V současnosti existují pokročilé přístupy (např. level-synchronous BFS, frontier-based iterace, paralelní priority queues), a také knihovny jako Galois, Gunrock nebo cuGraph, které umožňují paralelní grafové výpočty na moderních architekturách. Cíle práce: 1. Prostudovat strategie paralelizace grafových algoritmů na CPU i GPU. 2. Implementovat nebo modifikovat vybraný algoritmus (např. PageRank, maximální tok, toplogické řazení) v knihovně TNL. 3. Porovnat efektivitu různých implementací (např. serial, OpenMP, CUDA). 4. Analyzovat vliv struktury grafu (např. degree distribution) na výkonnost. 5. Porovnat výkonnost s jinými implementacemi daného algoritmu. Přínos pro studenta: 1. Seznámí se s paralelními technikami pro práci s nepravidelnými datovými strukturami. 2. Získá zkušenosti s efektivním programováním na GPU a vícevláknových CPU. 3. Ziská zkušenosti s programováním v jazyce C++ s využitím jeho moderních vlastností. 4. Může přispět do open-source knihovny nebo připravit testovací scénáře na reálných grafech. |
references: | 1. W. Kocay, D. L. Kreher, Graphs, Algorithms, and Optimization, Chapman and Hall/CRC, 2016. 2. R. Sedgewic, Algorithms in C, Part 5: Graph Algorithms, Addison-Wesley Professional, 2001. 3. Wang, Yangzihao, et al. \"Gunrock: GPU graph analytics.\" ACM Transactions on Parallel Computing (TOPC) 4.1 (2017): 1-49. |
last update: | 20.05.2025 09:30:45 |
Paralelní přímé metody pro řešení řídkých soustav lineárních rovnic
advisor: | doc. Ing. Tomáš Oberhuber, Ph.D. |
e-mail: | show e-mail |
type: | bachelor thesis, master thesis |
branch of study: | MI_MM, MI_AMSM, MINF |
key words: | numerická matematika, paralelni algoritmy |
description: | Řešení soustav lineárních rovnic je základním krokem v celé řadě numerických algoritmů – od simulací fyzikálních jevů přes optimalizaci až po strojové učení. V případech, kdy matice má řídkou strukturu, je efektivní řešení klíčové jak z hlediska výpočetní náročnosti, tak paměťových nároků. Zatímco iterativní metody jsou často preferované pro velmi velké systémy, přímé metody (např. LU, Cholesky, QR rozklad) mají výhodu robustnosti, přesnosti a předvídatelnosti. Jejich paralelizace je však náročná kvůli nepravidelné závislosti mezi prvky a proměnné struktuře výplně během faktorizace. Moderní přístupy – včetně eliminačních stromů, blokového rozdělení a task-based paralelizace – umožňují efektivní implementaci přímých metod i na víceprocesorových nebo GPU architekturách. Cíle práce: 1. Prostudovat základní přímé metody pro řídké systémy (např. LU, Cholesky, multifrontal). 2. Seznámit se s technikami paralelizace (např. nested dissection, tree-based scheduling). Implementovat zjednodušenou paralelní variantu zvolené metody v knihovně TNL (např. LU rozklad s řídkou strukturou). 3. Porovnat výkonnost se sériovou implementací a s knihovnami jako cuSolver, SuperLU nebo MUMPS. Přínos pro studenta: 1. Získá hluboké porozumění algoritmům pro faktorizaci řídkých matic. 2. Naučí se návrh paralelních algoritmů pro nerovnoměrně zatížené výpočty. 3. Získá zkušenosti s efektivním programováním v jazuce C++ včetně jeho moderních vlastností. 4. Práce má přímé využití v numerických simulacích, FEM/FVM, i HPC. |
references: | 1. Timothy A. Davis, Direct Methods for Sparse Linear Systems, SIAM, 2006. 2. Timothy A. Davis, Sivasankaran Rajamanickam, Wissam M. Sid-Lakhdar, A survey of direct methods for sparse linear systems, Acta Numerica, no.25, pp. 383-566, 2016, doi:10.1017/S0962492916000076. |
last update: | 20.05.2025 09:32:15 |
Metoda konečných prvků s interpolací pomocí neuronových sítí
advisor: | doc. Ing. Tomáš Oberhuber, Ph.D. |
e-mail: | show e-mail |
type: | bachelor thesis, master thesis |
branch of study: | MI_MM, MINF |
key words: | metoda konečných prvků, neuronové sítě |
description: | Metoda konečných prvků (FEM – Finite Element Method) je dnes jedním z nejrozšířenějších nástrojů pro numerické řešení parciálních diferenciálních rovnic (PDE). Díky své flexibilitě při práci s nepravidelnými doménami a složitými okrajovými podmínkami nachází uplatnění v oblastech jako je mechanika kontinua, termodynamika, elektromagnetismus nebo proudění tekutin. Navzdory své robustnosti má klasická FEM několik omezení: 1. báze funkcí (např. lineární nebo kvadratické) jsou pevně dané a neadaptivní, 2. interpolace závisí na kvalitně použité numerické sítě, 3. pro dosažení vyšší přesnosti je často nutné zahušťování sítě, což zvyšuje výpočetní náročnost. V posledních letech se objevuje snaha tyto limity překonat pomocí nástrojů strojového učení, konkrétně neuronových sítí. Jedním z přístupů je nahradit tradiční FEM báze trénovatelnou neuronovou strukturou, která se dokáže lépe přizpůsobit tvaru řešení i kvalitě diskrétní sítě. Tento přístup je znám jako neuronové FEM. Cíle práce (jde o cíle na víceletou navazující práci): 1. Seznámit se se základy metody konečných prvků včetně prvků vyšších řádů. 2. Implementovat základní metodu FEM v knihovně TNL. 3. Otestovat implementaci na vhodných úlohách. 4. Seznámit se se základy neuronových sítí a jejich využití v metodě konečných prvků. 5. Implementovat metodu Finite Element Neural Network Interpolation (FENNI) v knihovně TNL a otestovat na vhodných úlohách. Přínos pro studenta: 1. Získá velice dobré znalosti jako metody konečných prvků, tak i základy neuronvých sítí a jejich využití pro numerické výpočty. 2. Získá velice dobrou znalost jazyka C++. 3. Přispěje k rozvoji nejnovějších numerických metod pro řešení parciálních diferenciálních rovnic. |
references: | 1. Škardová, Kateřina, Alexandre Daby-Seesaram, and Martin Genet. \"Finite Element Neural Network Interpolation. Part I: Interpretable and Adaptive Discretization for Solving PDEs.\" arXiv preprint arXiv:2412.05719 (2024). |
last update: | 28.05.2025 10:56:31 |
V3S Database
The application records results of science and research, and other academic activities. The V3S application serves as a tool for submitting data to the RIV database, exporting data for statistic analyses, and internal evaluation of research.
List of publications in V3S
Books
2006
BiBTeX
title = {{Numerical Scheme for the Willmore Flow}},
author = {Oberhuber, T.},
address = {Bologna},
booktitle = {{Science and Supercomputing in Europe, Report 2006}},
publisher = {CINECA},
year = {2006},
pages = {554--558}
}
Articles
2013
BiBTeX
title = {{Numerical Simulation of Anisotropic Mean Curvature of Graphs in Relative Geometry}},
author = {Hoang, D. and Bene{\v s}, M. and Oberhuber, T.},
journal = {Acta Polytechnica Hungarrica},
year = {2013},
volume = {10},
number = {7},
pages = {99--115}
}
2012
BiBTeX
title = {{Graph cuts in segmentation of a left ventricle from MRI data}},
author = {Oberhuber, T. and Louck{\' y}, J.},
journal = {COE Lecture Note Series: Kyushu University},
year = {2012},
volume = {36},
pages = {46--54}
}
BiBTeX
title = {{Comparison of finite volume schemes for the mean curvature flow level set equation}},
author = {Handlovi{\v c}ov{\' a}, A. and Mikula, K. and Oberhuber, T.},
journal = {RIMS Kokyuroku},
year = {2012},
volume = {B35},
pages = {9--22}
}
BiBTeX
title = {{Mathematical modelling of combustion and biofuel co-firing in industrial steam generators}},
author = {Bene{\v s}, M. and Oberhuber, T. and Strachota, P. and Straka, R. and Havlena, V.},
journal = {RIMS Kokyuroku},
year = {2012},
volume = {B35},
pages = {141--157}
}
2011
BiBTeX
title = {{The CUDA implentation of the method of lines for the curvature dependent flows}},
author = {Oberhuber, T. and Suzuki, A. S. and {\v Z}abka, V.},
journal = {Kybernetika},
year = {2011},
volume = {47},
number = {2},
pages = {251--272}
}
BiBTeX
title = {{New Row-grouped CSR format for storing the sparse matrices on GPU with implementation in CUDA}},
author = {Oberhuber, T. and Vacata, J. V. and Suzuki, A.S.},
journal = {Acta Technica CSAV},
year = {2011},
volume = {56},
number = {4},
pages = {447--466}
}
BiBTeX
title = {{Image segmentation using CUDA implementations of the Runge-Kutta-Merson and GMRES methods}},
author = {Oberhuber, T. and Suzuki, A. and Vacata, J. and {\v Z}abka, V.},
journal = {Journal of Math-for-Industry},
year = {2011},
volume = {2011},
number = {3},
pages = {73--79}
}
2009
BiBTeX
title = {{Comparison study for level set and direct Lagrangean methods for computing Willmore flow of closed planar curves}},
author = {Bene{\v s}, M. and Mikula, K. and Oberhuber, T. and {\v S}ev{\v c}ovi{\v c}, D.},
journal = {Computing and Visualization in Science},
year = {2009},
volume = {12},
number = {6},
pages = {307--317}
}
2007
BiBTeX
title = {{Finite Difference Scheme for the Wilmore Flow of Graps}},
author = {Oberhuber, T.},
journal = {Kybernetika},
year = {2007},
volume = {43},
number = {6},
pages = {855--867},
month = {december}
}
2006
BiBTeX
title = {{Numerical Solution for the Willmore Flow of Graphs}},
author = {Oberhuber, T.},
journal = {COE Lecture Note Series: Kyushu University},
year = {2006},
volume = {2005},
number = {3},
pages = {126--138}
}
Contributions in proceedings
2014
BiBTeX
title = {{GPU Implementation of the Finite Element Method}},
author = {Bauer, P. and Klement, V. and Oberhuber, T. and {\v Z}abka, V.},
address = {Praha},
booktitle = {{Seminar on Numerical Analysis \& Winter School: Proceedings of the Conference SNA '14}},
publisher = {{\' U}stav Informatiky AV {\v C}R, v.v.i.},
year = {2014},
pages = {11--13}
}
2013
BiBTeX
title = {{Implementation of the Finite Element Method for the Heat Equation}},
author = {{\v Z}abka, V. and Oberhuber, T.},
address = {Praha},
booktitle = {{Doktorandsk{\' e} dny 2013}},
publisher = {{\v C}esk{\' a} technika - nakladatelstv{\'\i} {\v C}VUT},
year = {2013},
pages = {321--330}
}
2012
BiBTeX
title = {{Design of a General-purpose Unstructured Mesh in C++}},
author = {{\v Z}abka, V. and Oberhuber, T.},
address = {Praha},
booktitle = {{Doktorandsk{\' e} dny 2012}},
publisher = {{\v C}esk{\' a} technika - nakladatelstv{\'\i} {\v C}VUT},
year = {2012},
pages = {299--306}
}
BiBTeX
title = {{Improved Row-grouped CSR Format for Storing of Sparse Matrices on GPU}},
author = {Oberhuber, T. and Heller, M.},
address = {Bratislava},
booktitle = {{Algoritmy 2012 Proceedings of Contributed Papers and Posters}},
publisher = {Slovak University of Technology, Faculty of Civil Engineering},
year = {2012},
pages = {282--290}
}
BiBTeX
title = {{Towards a Formalism of Configuration Properties Propagation}},
author = {Fabian, D. and Ma{\v r}{\'\i}k, R. and Oberhuber, T.},
address = {Tilburg},
booktitle = {{Workshop on Configuration at ECAI 2012}},
publisher = {CEUR Workshop Proceedings},
year = {2012},
pages = {15--20}
}
BiBTeX
title = {{Numerical solution of the Stokes problem using CUDA}},
author = {Bauer, P. and Oberhuber, T. and {\v Z}abka, V.},
address = {Liberec},
booktitle = {{Seminar on Numerical Analysis}},
publisher = {Technical University of Liberec},
year = {2012},
pages = {13--15}
}
2011
BiBTeX
title = {{Implementation of the Schur Complement Method for the Stokes Problem}},
author = {{\v Z}abka, V. and Oberhuber, T.},
address = {Praha},
booktitle = {{Doktorandsk{\' e} dny 2011}},
publisher = {{\v C}esk{\' a} technika - nakladatelstv{\'\i} {\v C}VUT},
year = {2011},
pages = {295--303}
}
2009
BiBTeX
title = {{Complementary finite volume scheme for the anisotropic surface diffusion flow}},
author = {Oberhuber, T.},
address = {Bratislava},
booktitle = {{Algoritmy 2009 Proceedings of Contributed Papers and Posters}},
publisher = {Slovak University of Technology, Faculty of Civil Engineering},
year = {2009},
pages = {153--164}
}
2007
BiBTeX
title = {{Method of Lines for the Level Set Method for Solving Willmore Flow Geometric Equation}},
author = {Bene{\v s}, M. and Mikula, K. and {\v S}ev{\v c}ovi{\v c}, D. and Oberhuber, T.},
address = {Bratislava},
booktitle = {{MAGIA 2007}},
publisher = {Slovak University of Technology, Faculty of Civil Engineering},
year = {2007},
volume = {1},
pages = {37--44}
}
2006
BiBTeX
title = {{Numerical Scheme for the Willmore Flow}},
author = {Oberhuber, T.},
address = {Praha},
booktitle = {{Doktorandsk{\' e} dny 2006}},
publisher = {{\v C}esk{\' a} technika - nakladatelstv{\'\i} {\v C}VUT},
year = {2006},
pages = {139--148}
}
2005
BiBTeX
title = {{Numerical Recovery of the Signed Distance Function}},
author = {Oberhuber, T.},
address = {Praha},
booktitle = {{Proceedings of Czech - Japanese Seminar in Applied Mathematics 2004}},
publisher = {{\v C}VUT, Fakulta jadern{\' a} a fyzik{\' a}ln{\v e} in{\v z}en{\' y}rsk{\' a}},
year = {2005},
pages = {148--164}
}
BiBTeX
title = {{On a Numerical Scheme for the Willmore Flow}},
author = {Oberhuber, T.},
address = {Bratislava},
booktitle = {{EQUADIFF 11, International Conference on Differential Equations}},
publisher = {Comenius University},
year = {2005},
pages = {68}
}
BiBTeX
title = {{Graph cuts in segmentation of a left ventricle from MRI data}},
author = {Oberhuber, T. and Louck{\' y}, J.},
booktitle = {{}},
pages = {46--54}
}
Others
2013
BiBTeX
title = {{Numerical study of two-phase flow in the combustion chamber of a FBC boiler}},
author = {Oberhuber, T. and M{\' a}ca, R. and Fu{\v c}{\'\i}k, R.},
address = {Praha},
institution = {Honeywell, spol. s r.o.},
publisher = {{\v C}VUT, Fakulta jadern{\' a} a fyzik{\' a}ln{\v e} in{\v z}en{\' y}rsk{\' a}},
year = {2013},
number = {MMG-5},
pages = {11}
}
BiBTeX
title = {{Numerical study of single-phase flow with different Reynolds numbers in the combustion chamber of a FBC boiler}},
author = {Oberhuber, T. and Klement, V. and {\v Z}abka, V. and M{\' a}ca, R. and Fu{\v c}{\'\i}k, R.},
address = {Praha},
institution = {Honeywell, spol. s r.o.},
publisher = {{\v C}VUT, Fakulta jadern{\' a} a fyzik{\' a}ln{\v e} in{\v z}en{\' y}rsk{\' a}},
year = {2013},
number = {MMG-4},
pages = {11}
}
BiBTeX
title = {{Simulation of Biomass Co-Firing and Pollutant Development in an Industrial Pulverized Coal Boiler with Air Staging Control}},
author = {Bene{\v s}, M. and Strachota, P. and Mach, J. and Hoang, D. and Havlena, V. and Oberhuber, T. and Fu{\v c}{\'\i}k, R. and Bauer, P. and {\v Z}abka, V. and Klement, V. and M{\' a}ca, R.},
address = {Praha},
institution = {Honeywell, spol. s r.o.},
publisher = {{\v C}VUT, Fakulta jadern{\' a} a fyzik{\' a}ln{\v e} in{\v z}en{\' y}rsk{\' a}},
year = {2013},
number = {MMG-3},
pages = {25}
}
2009
BiBTeX
title = {{Numerical Solution of Willmore Flow}},
author = {Oberhuber, T.},
address = {Prague},
year = {2009},
pages = {308},
school = {Faculty of Nuclear Sciences and Physical Engineering}
}
2006
BiBTeX
title = {{Quench Tank Internal Geometry Optimization - Addendum}},
author = {Bene{\v s}, M. and Miky{\v s}ka, J. and Oberhuber, T.},
address = {Prague},
institution = {Caterpillar, Inc.},
publisher = {Faculty of Nuclear Sciences and Physical Engineering},
year = {2006},
number = {Inter},
pages = {25}
}
BiBTeX
title = {{Quench Tank Internal Geometry Optimization}},
author = {Bene{\v s}, M. and Miky{\v s}ka, J. and Oberhuber, T. and Bedna{\v r}{\'\i}k, P.},
address = {Prague},
institution = {Caterpillar, Inc.},
publisher = {Faculty of Nuclear Sciences and Physical Engineering},
year = {2006},
number = {Inter},
pages = {35}
}
BiBTeX
title = {{Quench Tank Internal Geometry Optimization II}},
author = {Bene{\v s}, M. and Miky{\v s}ka, J. and Oberhuber, T. and Bedna{\v r}{\'\i}k, P.},
address = {Prague},
institution = {Caterpillar, Inc.},
publisher = {Faculty of Nuclear Sciences and Physical Engineering},
year = {2006},
number = {Inter},
pages = {106}
}
2005
BiBTeX
title = {{Proceedings of Czech - Japanese Seminar in Applied Mathematics 2004}},
address = {Praha},
editor = {Bene{\v s}, M. and Miky{\v s}ka, J. and Oberhuber, T.},
publisher = {{\v C}VUT, Fakulta jadern{\' a} a fyzik{\' a}ln{\v e} in{\v z}en{\' y}rsk{\' a}},
year = {2005},
pages = {206}
}