zpwiki/pages/students/2017/stanislav_matsunych

Stanislav Matsunych

Bakalársky projekt 2019

Pozrieť si

• https://medium.com/@shivambansal36/language-modelling-text-generation-using-lstms-deep-learning-for-nlp-ed36b224b275
• https://towardsdatascience.com/character-level-language-model-1439f5dd87fe

Prejsť si tutoriál

• http://karpathy.github.io/2015/05/21/rnn-effectiveness/
• https://machinelearningmastery.com/develop-character-based-neural-language-model-keras/

Cielom je:

Vytvoriť jazykový model slovenského jazyka na báze rekurentných neurónových sietí

• V prvom semestri bude výstup:

• jednoduchý program na vytvorenie LM a generovanie znakov z neho

• Vypracujte rešerš na tému "Rekurentné neurónové siete na tvorbu jazykových modelov " (LSTM, GRU) cca 10 strán

Možné trénovacie texty: Zlatý fond sme

Bakalárska práca 2019

Generovanie a modelovanie prirodzeného jazyka pomocou rekurentných neurónových sietí

Návrh na zadanie

1. Vypracovať prehľad metód generovania prirodzeného jazyka pomocou rekurentných neurónových sietí
2. Vyberte si vhodnú metódu na zostavenie modelu prirodzeného jazyka a natrénujte model na vhodných dátach.
3. Vytvorte aplikáciu, ktorá bude demonštrovať generovanie prirodzeného jazyka
4. Vyhodnotte vytvorený model a navrhnite jeho zlepšenia.