Update 'pages/topics/bert/README.md'
This commit is contained in:
parent
ea8087dcc4
commit
6d0186d562
@ -49,6 +49,8 @@ author: Daniel Hládek
|
|||||||
- V SLovak Bert bola veľkosť vstupného vektora 512. Máme toľko pamäte?
|
- V SLovak Bert bola veľkosť vstupného vektora 512. Máme toľko pamäte?
|
||||||
- learning rate by malo byť priamo úmerné s batch_size. Malý batch size by mal mať malý learning rate.
|
- learning rate by malo byť priamo úmerné s batch_size. Malý batch size by mal mať malý learning rate.
|
||||||
- electra prepare skript defaultne odstraňuje diakritiku a dáva malé písmená.
|
- electra prepare skript defaultne odstraňuje diakritiku a dáva malé písmená.
|
||||||
|
- ELECTRA ingoruje pokyn na ponechanie diakritiky!!!! Ponechanie diakritiky funguje iba pre "prepare", inak sa diakritika stále odstraňuje. Ne ponechanie diakritiky sú potrebné úpravy v zdrojových kódoch.
|
||||||
|
|
||||||
|
|
||||||
## Budúci výskum
|
## Budúci výskum
|
||||||
|
|
||||||
|
Loading…
Reference in New Issue
Block a user