From 20246378bc4d40485a2d13aafeec93b748919e7b Mon Sep 17 00:00:00 2001 From: dano Date: Fri, 13 Nov 2020 09:37:48 +0000 Subject: [PATCH] Update 'pages/students/2018/ondrej_megela/README.md' --- pages/students/2018/ondrej_megela/README.md | 12 ++++++++++-- 1 file changed, 10 insertions(+), 2 deletions(-) diff --git a/pages/students/2018/ondrej_megela/README.md b/pages/students/2018/ondrej_megela/README.md index b848647653..e5cf3e1276 100644 --- a/pages/students/2018/ondrej_megela/README.md +++ b/pages/students/2018/ondrej_megela/README.md @@ -17,9 +17,17 @@ Názov: Neurónové jazykové modelovanie s pomocou nástroja Fairseq Návrh na zadanie: 1. Vypracujte prehľad metód jazykového modelovania pomoocu neurónových sietí -2. Vytvorte jazykový model metódou BERT alebo poodobnou metódou. +2. Vytvorte jazykový model metódou BERT alebo podobnou metódou. 3. Vyhodnnotte vytvorený jazykový model a navrhnite zlepšenia. +Virtuálne stretnutie 13.11.2020 + +Stav: + +- Vypracované poznámky aj k transformer a BERT +- Vyskúšaná release verzia Fairseq. Stále trvá technický problém s tutoriálom. +- Vyskúšaný BERT tutoriáli. Chyba "illegal instruction" pri extrahovaní príznakov "extract features from ROBERTA". + Virtuálne stretnutie 30.10.2020 @@ -28,7 +36,7 @@ Stav: - nainštalovaný Pytorch a fairseq - problémy s tutoriálom. Riešenie by mohlo byť použitie release verzie 0.9.0, pip install fairseq=0.9.0 -Do ďďalšieho stretnutia: +Do ďalšieho stretnutia: - Vyriešte technické porblémy - prejdide si tutoriál https://fairseq.readthedocs.io/en/latest/getting_started.html#training-a-new-model