forked from KEMT/zpwiki
Update pages/students/2022/tetiana_mohorian/README.md
This commit is contained in:
parent
d64df15f33
commit
d7f39c528f
@ -27,6 +27,29 @@ Rozpoznávanie nenávistnej reči pomocou veľkých jazykových modelov.
|
|||||||
- Na adaptáciu použite "prompting" a "LORA".
|
- Na adaptáciu použite "prompting" a "LORA".
|
||||||
- Vyhodnotte model pomocou [overovacej množiny](https://huggingface.co/datasets/TUKE-KEMT/hate_speech_slovak).
|
- Vyhodnotte model pomocou [overovacej množiny](https://huggingface.co/datasets/TUKE-KEMT/hate_speech_slovak).
|
||||||
|
|
||||||
|
Stretnutie 12.11.2024
|
||||||
|
|
||||||
|
Stav:
|
||||||
|
|
||||||
|
- Vyskúšané few shot Distillbert, BERT, GPT3, T5, najlepšie výsledky mal DistillBERT : 65F1. Problém je, že tieto modely nevedia po slovensky.
|
||||||
|
- Na vyhodnotenie použitý svoj skript a framework llm-eval-harness.
|
||||||
|
- Pokračuje písanie.
|
||||||
|
|
||||||
|
Úlohy:
|
||||||
|
|
||||||
|
- Pošlite mi draft BP na ďalšie stretnutie.
|
||||||
|
- Urobte si repozitár na KEMT GIT a dajte tam zdrojové kódy na spustenie experimentov.
|
||||||
|
- Pokračujte v písaní.
|
||||||
|
- Vyskúšajte vyhodnotiť modely v rôznych veľkostiach (small, base, large, 1B, 3B, 7B): mt5, slovak-t5-base, slovak-t5-small, Qwen2.5, Slovak Mistral, LLama3, SlovakBERT .
|
||||||
|
- Napíšte ChatGPT prompt na detekciu nenávistnej reči.
|
||||||
|
- Ak Vám nebude stačiť GPU Vášho počítača, vedúci Vám pridelí prístup na školský server alebo môžete vyskúšať Google Colab.
|
||||||
|
|
||||||
|
|
||||||
|
Zásobník úloh:
|
||||||
|
|
||||||
|
- Zistite čo je to PEFT a kvantizácia a ako sa to používa.
|
||||||
|
- Dotrénujte jazykový model pre rozponávanie HS pomocou metódy PEFT.
|
||||||
|
|
||||||
Stretnutie 18.10.2024
|
Stretnutie 18.10.2024
|
||||||
|
|
||||||
Stav:
|
Stav:
|
||||||
@ -46,9 +69,8 @@ Stav:
|
|||||||
|
|
||||||
Zásobník úloh:
|
Zásobník úloh:
|
||||||
|
|
||||||
- Dotrénujte vybrané modely na úlohu detekcie nenávistnej reči. Model bude vykonávať binárnu klasifikáciu.
|
- [ ] Dotrénujte vybrané modely na úlohu detekcie nenávistnej reči. Model bude vykonávať binárnu klasifikáciu.
|
||||||
- Pripravte skript pre overenie LLM na úlohe rozpoznávanie nenávistnej reči.
|
- [x] Pripravte skript pre overenie LLM na úlohe rozpoznávanie nenávistnej reči. Pripravte postup pre overenie pomocu existujúceho frameworku pre overenie.
|
||||||
- Pripravte postup pre overenie pomocu existujúceho frameworku pre overenie.
|
|
||||||
|
|
||||||
Stretnutie 3.10.2024
|
Stretnutie 3.10.2024
|
||||||
|
|
||||||
|
Loading…
Reference in New Issue
Block a user