56 lines
1.6 KiB
Markdown
56 lines
1.6 KiB
Markdown
|
|
# Lukáš Pokrývka
|
|
|
|
*Rok začiatku štúdia:* 2016
|
|
|
|
## Diplomový projekt 1 2020
|
|
|
|
Ulohy na semester:
|
|
|
|
- podrobne si naštudovať vybranú metódu trénovania neurónových sietí
|
|
- identifikujte možný spôsob paralelizácie
|
|
- natrénujte zvolený model metódou paralelizácie
|
|
|
|
|
|
Stretnutie 9.3.2020
|
|
|
|
Úlohy na ďalšie stretnutie:
|
|
|
|
- Skúste natrénovať slovenský word2vec model podľa tutoriálu: http://spark.apache.org/docs/latest/ml-features.html#word2vec (podľa dát z emailu)
|
|
- Pozrite si niečo o metóde BERT
|
|
|
|
- https://medium.com/huggingface/introducing-fastbert-a-simple-deep-learning-library-for-bert-models-89ff763ad384
|
|
- https://github.com/huggingface/transformers
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
## Tímový projekt 2019
|
|
|
|
*Úlohy tímového projektu:*
|
|
|
|
- Vypracujte min. 4 stranový rešerš na tému: "Paralelné spracovanie prirodzeného jazyka" (využitie napr. s word2vec, word embeddings, GloVe, fastText).
|
|
- Citujte min. 10 najvýznamnejších bibliografických zdrojov.
|
|
|
|
*Písomná práca:* [Paralelné spracovanie prirodzeného jazyka](./timovy_projekt)
|
|
|
|
## Diplomová práca 2021
|
|
|
|
### Paralelné trénovanie neurónových sietí
|
|
|
|
*Meno vedúceho:* Ing. Daniel Hládek, PhD.
|
|
|
|
*Návrh na zadanie DP:*
|
|
|
|
1. Vypracujte prehľad literatúry na tému "Paralelné trénovanie neurónových sietí".
|
|
2. Vyberte vhodnú metódu paralelného trénovania.
|
|
3. Pripravte dáta a vykonajte sadu experimentov pre overenie funkčnosti a výkonu paralelného trénovania.
|
|
4. Navrhnite možné zlepšenia paralelného trénovania neurónových sietí.
|
|
|
|
|
|
- Zaujímavá príručka [Word2vec na Spark](http://spark.apache.org/docs/latest/ml-features.html#word2vec)
|