This commit is contained in:
Daniel Hládek 2026-02-27 10:34:15 +01:00
parent 142e1fcab6
commit b5820c81aa

View File

@ -21,6 +21,11 @@ Ciele na semester:
- Dotrénujte a vyhodnotte Slovak Mistral. - Dotrénujte a vyhodnotte Slovak Mistral.
Stretnutie 27.2.
- Obozn8mte sa problematikou podľa zadaných zdrojov.
- Pozrite si https://allenai.org/olmo
Úlohy: Úlohy:
- Oboznámte sa s problematikou veľkých jazykových modelov. Towards Data Science - Oboznámte sa s problematikou veľkých jazykových modelov. Towards Data Science
@ -35,8 +40,8 @@ Zásobník úloh:
- Pracujte na teoretickej časti: opíšte základné pojmy, metódy a dátové množiny. Používajte google scholar a bibliografické odkazy. - Pracujte na teoretickej časti: opíšte základné pojmy, metódy a dátové množiny. Používajte google scholar a bibliografické odkazy.
- Najprv pracujte s domácou GPU, ak nebude stačiť pracujte s Google Coolab, ak nebude stačiť požiadajte konzultanta. - Najprv pracujte s domácou GPU, ak nebude stačiť pracujte s Google Coolab, ak nebude stačiť požiadajte konzultanta.
- Naštudovať a vyskúšať PEFT-QLORA. - Naštudovať a vyskúšať PEFT-QLORA.
- Oboznámte sa s Huggingface TRL.
- Oboznámte sa s knižnicou "unsloth". - Oboznámte sa s knižnicou "unsloth".
- Oboznámte sa s Huggingface TRL.
- Oboznámte sa s https://github.com/hiyouga/LLaMA-Factory - Oboznámte sa s https://github.com/hiyouga/LLaMA-Factory