Update pages/students/2021/artur_hyrenko/README.md

This commit is contained in:
dano 2025-04-04 14:24:06 +00:00
parent e0db83de31
commit 6784848681

View File

@ -18,7 +18,20 @@ Stretnutie 4.4.2025
Stav:
-
- Preštudované niektoré jazykové modely.
Úlohy:
- Pokračujte v štúdiu Python, Anaconda, Transformers, dive into deep learning.
- Napíšte poznámky o tom ako funguje model typu GPT, napr. LLAMA alebo DeepSeek. Napíšte ako sa trénuje - čo na to potrebujeme a v akých fázach to prebieha. Napíšte aj odkazy na odbornú literatúru.
- Zisite ako prebieha dotrénovanie pomocou PEFT-LORA a napíšte o tom poznáky,
- Zistite ako prebieha dotrénovanie typu reinforcement learning a napíšte o tom poznámky.
Zásobník úloh:
- Môžeme riešiť problém bezpečnosti jazykových modelov. Ako upraviť model tak, aby neprezradil citlivé alebo nebezpečné informácie.
- Dotrénujme existujúci jazykový model (napr. SlovakMistral) na úlohu instruct a využime reinforcement learning na potlačenie neželaných vlastností.
Stretnutie 28.2.2025