Update pages/students/2021/artur_hyrenko/README.md
This commit is contained in:
parent
e0db83de31
commit
6784848681
@ -18,7 +18,20 @@ Stretnutie 4.4.2025
|
||||
|
||||
Stav:
|
||||
|
||||
-
|
||||
- Preštudované niektoré jazykové modely.
|
||||
|
||||
Úlohy:
|
||||
|
||||
- Pokračujte v štúdiu Python, Anaconda, Transformers, dive into deep learning.
|
||||
- Napíšte poznámky o tom ako funguje model typu GPT, napr. LLAMA alebo DeepSeek. Napíšte ako sa trénuje - čo na to potrebujeme a v akých fázach to prebieha. Napíšte aj odkazy na odbornú literatúru.
|
||||
- Zisite ako prebieha dotrénovanie pomocou PEFT-LORA a napíšte o tom poznáky,
|
||||
- Zistite ako prebieha dotrénovanie typu reinforcement learning a napíšte o tom poznámky.
|
||||
|
||||
Zásobník úloh:
|
||||
|
||||
- Môžeme riešiť problém bezpečnosti jazykových modelov. Ako upraviť model tak, aby neprezradil citlivé alebo nebezpečné informácie.
|
||||
- Dotrénujme existujúci jazykový model (napr. SlovakMistral) na úlohu instruct a využime reinforcement learning na potlačenie neželaných vlastností.
|
||||
|
||||
|
||||
Stretnutie 28.2.2025
|
||||
|
||||
|
Loading…
Reference in New Issue
Block a user