Robustní strojové učení a adversariální vzorky
školitel: | Mgr. Lukáš Adam, Ph.D. |
e-mail: | zobrazit e-mail |
typ práce: | bakalářská práce, diplomová práce |
zaměření: | MI_MM, MI_AMSM, MINF |
klíčová slova: | Strojové učení, optimalizace, adversariální vzorky, neuronové sítě, algoritmy. |
popis: | Strojové hluboké učení zažilo v posledním desetiletí velký rozmach. Ukázalo se však, že malá perturbace vstupu (obrázku) může vést k velké změně výstupu (predikce). Tyto modifikované vstupy jsou známé jako adversariální vzorky. Existují speciální postupy, jak trénovat neuronovou síť tak, aby byla robustní vzhledem k těmto adversariálním vzorkům. Požadavkem těchto postupů je schopnost najít adversariální vzorky. Očekává se, že student poskytne přehled o existujících metodách pro vyhledání adversariální vzorků. Dále numericky porovná vybrané jednoduché metody založené na mixed integer programování a metodě největšího spádu (gradient descent). Tyto metody začlení do standardních postupů pro výcvik trénování hlubokých sítí. V případě zájmu mě neváhejte kontaktovat na adam@utia.cas.cz |
literatura: | [1] J. Nocedal, and S. Wright. Numerical optimization. Springer Science & Business Media, 2006. [2] C. Liu, T. Arnon, C. Lazarus, C. Barrett, and M. J. Kochenderfer. Algorithms for verifying deep neural networks. arXiv preprint arXiv:1903.06758, 2019. [3] C. Szegedy, W. Zaremba, I. Sutskever, J. Bruna, D. Erhan, I. Goodfellow, and R. Fergus. Intriguing properties of neural networks. arXiv preprint arXiv:1312.6199, 2013. |
naposledy změněno: | 19.08.2020 12:54:29 |
za obsah této stránky zodpovídá:
Čestmír Burdík | naposledy změněno: 9.9.2021