KEMT/zpwiki
31
1
Fork 9
Code Issues Pull Requests Releases Wiki Activity

Update 'pages/students/2018/ondrej_megela/README.md'

Browse Source
This commit is contained in:
dano 2022-10-07 08:27:53 +00:00
parent 3d042fedb5
commit d26ba7a260
1 changed files with 26 additions and 0 deletions
Show Stats Download Patch File Download Diff File Expand all files Collapse all files

26
pages/students/2018/ondrej_megela/README.md
View File

@ -22,6 +22,32 @@ Pozrieť toto:
https://paperswithcode.com/task/text-generation?page=3
# Diplomová práca 2023
Súvisiace práce:
- Dávid Omasta
Cieľ: Využiť slovenský generatívny model na tvorbu databázy otázok a odpovedí.
Stav:
- PatilSuraj zatiaľ nefunguje. Funguje iba na T5 a Bart vlastné anglické, nefunguje na gpt-j ano na mt5. Stále je tam možnosť vyskúšať vlastný slovenský BART.
Úlohy:
- Vyskúšať slovenský GPT model v úlohe few-shot learning. Inšpirácia https://huggingface.co/blog/few-shot-learning-gpt-neo-and-inference-api. Použite niektorý prístup z patilsuraj.
- Vyoracujte písomný prehľad generatívnych jazykových modelov.
- Vypracujte písomný prehľad metód generovania otázok pomocou jazykového modelu. Nezabudnite na odkazy na odbornú literatúru.
Zásobník úloh:
- Dotrénovať slovenský GPT model pomocou HF skriptu run_clm.py
- Zistiť aký veľký model nám funguje.
- Vybrať vhodný server na dorénovanie. Koľko GRAM potrebujeme?
- Záložná možnosť - písať pre anglický jazyk.
## Diplomový projekt 1 2022
Cieľ: