From 6e55139ffc80d72a163b00e5a25d1fd59c211f7b Mon Sep 17 00:00:00 2001 From: dano Date: Fri, 12 Apr 2024 08:25:20 +0000 Subject: [PATCH] Update 'pages/students/2021/eduard_matovka/README.md' --- pages/students/2021/eduard_matovka/README.md | 13 +++++++++++++ 1 file changed, 13 insertions(+) diff --git a/pages/students/2021/eduard_matovka/README.md b/pages/students/2021/eduard_matovka/README.md index d1db9883..ecf0b682 100644 --- a/pages/students/2021/eduard_matovka/README.md +++ b/pages/students/2021/eduard_matovka/README.md @@ -42,6 +42,19 @@ Stretnutie 12.4. Stav: - Vyskúšaná LLAMA2 cez HF PEFT (SlovakAlpaca+). Je náročná na RAM. Zatiaľ to vyzerá horšie ako LLAMA1. +- Práca na texte. + +Úlohy: + +- Vyskúšajte model Gemma. Vyskúšajte model RWKV (tento nie je Trannsformer, je to RNN) s množinou SlovakAlpaca. Výsledky experimentov (BLEU alebo ROUGE) dajte do tabuľky. +- Pokračujte v písaní práce. Opíšte experimenty. Opíšte aj dataset ktorý používate. V teroetickej časti opíšte metódy neurónových sietí aj úlohu ktorú riešime. Ako súvisí s konverzáciou. +- Pokračujte v otvorených úlohách: Zdrojáky dajte na git, dáta na školský server. + + +Zásobník úloh: + +- Ako zlepšíme veľké jazykové modely pre slovenčinu? + Stretnutie 8.3.