Robustní strojové učení a adversariální vzorky
| advisor: | Mgr. Lukáš Adam, Ph.D. |
| e-mail: | show e-mail |
| type: | bachelor thesis, master thesis |
| branch of study: | MI_MM, MI_AMSM, MINF |
| key words: | Strojové učení, optimalizace, adversariální vzorky, neuronové sítě, algoritmy. |
| description: | Strojové hluboké učení zažilo v posledním desetiletí velký rozmach. Ukázalo se však, že malá perturbace vstupu (obrázku) může vést k velké změně výstupu (predikce). Tyto modifikované vstupy jsou známé jako adversariální vzorky. Existují speciální postupy, jak trénovat neuronovou síť tak, aby byla robustní vzhledem k těmto adversariálním vzorkům. Požadavkem těchto postupů je schopnost najít adversariální vzorky. Očekává se, že student poskytne přehled o existujících metodách pro vyhledání adversariální vzorků. Dále numericky porovná vybrané jednoduché metody založené na mixed integer programování a metodě největšího spádu (gradient descent). Tyto metody začlení do standardních postupů pro výcvik trénování hlubokých sítí. V případě zájmu mě neváhejte kontaktovat na adam@utia.cas.cz |
| references: | [1] J. Nocedal, and S. Wright. Numerical optimization. Springer Science & Business Media, 2006. [2] C. Liu, T. Arnon, C. Lazarus, C. Barrett, and M. J. Kochenderfer. Algorithms for verifying deep neural networks. arXiv preprint arXiv:1903.06758, 2019. [3] C. Szegedy, W. Zaremba, I. Sutskever, J. Bruna, D. Erhan, I. Goodfellow, and R. Fergus. Intriguing properties of neural networks. arXiv preprint arXiv:1312.6199, 2013. |
| last update: | 19.08.2020 12:54:29 |
administrator for this page:
Ľubomíra Dvořáková | last update: 09/12/2011