Robustní strojové učení a adversariální vzorky

advisor: Mgr. Lukáš Adam, Ph.D.
e-mail: show e-mail
type: bachelor thesis, master thesis
branch of study: MI_MM, MI_AMSM, MINF
key words: Strojové učení, optimalizace, adversariální vzorky, neuronové sítě, algoritmy.
description: Strojové hluboké učení zažilo v posledním desetiletí velký rozmach. Ukázalo se však, že malá perturbace vstupu (obrázku) může vést k velké změně výstupu (predikce). Tyto modifikované vstupy jsou známé jako adversariální vzorky. Existují speciální postupy, jak trénovat neuronovou síť tak, aby byla robustní vzhledem k těmto adversariálním vzorkům. Požadavkem těchto postupů je schopnost najít adversariální vzorky. Očekává se, že student poskytne přehled o existujících metodách pro vyhledání adversariální vzorků. Dále numericky porovná vybrané jednoduché metody založené na mixed integer programování a metodě největšího spádu (gradient descent). Tyto metody začlení do standardních postupů pro výcvik trénování hlubokých sítí. V případě zájmu mě neváhejte kontaktovat na adam@utia.cas.cz
references: [1] J. Nocedal, and S. Wright. Numerical optimization. Springer Science & Business Media, 2006. [2] C. Liu, T. Arnon, C. Lazarus, C. Barrett, and M. J. Kochenderfer. Algorithms for verifying deep neural networks. arXiv preprint arXiv:1903.06758, 2019. [3] C. Szegedy, W. Zaremba, I. Sutskever, J. Bruna, D. Erhan, I. Goodfellow, and R. Fergus. Intriguing properties of neural networks. arXiv preprint arXiv:1312.6199, 2013.
last update: 19.08.2020 12:54:29

administrator for this page: Ľubomíra Dvořáková | last update: 09/12/2011
Trojanova 13, 120 00 Praha 2, tel. 224 358 540, pevná linka 224 923 098, fax 234 358 643
Czech Technical Univeristy in Prague | Faculty of Nuclear Sciences and Physical Engineering | Department of Mathematics