diff --git a/pages/students/2021/artur_hyrenko/README.md b/pages/students/2021/artur_hyrenko/README.md index acb240fde..b962617e2 100644 --- a/pages/students/2021/artur_hyrenko/README.md +++ b/pages/students/2021/artur_hyrenko/README.md @@ -14,6 +14,24 @@ rok začiatku štúdia: 2021 Vyhodndotenie jazykových modelov +Stretnutie 4.4.2025 + +Stav: + +- Preštudované niektoré jazykové modely. + +Úlohy: + +- Pokračujte v štúdiu Python, Anaconda, Transformers, dive into deep learning. +- Napíšte poznámky o tom ako funguje model typu GPT, napr. LLAMA alebo DeepSeek. Napíšte ako sa trénuje - čo na to potrebujeme a v akých fázach to prebieha. Napíšte aj odkazy na odbornú literatúru. +- Zisite ako prebieha dotrénovanie pomocou PEFT-LORA a napíšte o tom poznáky, +- Zistite ako prebieha dotrénovanie typu reinforcement learning a napíšte o tom poznámky. + +Zásobník úloh: + +- Môžeme riešiť problém bezpečnosti jazykových modelov. Ako upraviť model tak, aby neprezradil citlivé alebo nebezpečné informácie. +- Dotrénujme existujúci jazykový model (napr. SlovakMistral) na úlohu instruct a využime reinforcement learning na potlačenie neželaných vlastností. + Stretnutie 28.2.2025