Compare commits

..

No commits in common. "0e383c5122f79682b5b8ada3bcac46fb5073f433" and "33253f7f6233744d49bf82b0fb962cb9be8096cd" have entirely different histories.

2 changed files with 5 additions and 46 deletions

View File

@ -22,27 +22,6 @@ Možné ciele:
- Vyhodnotiť viacero jazykových modelov vo viacerých jazykoch.
- Navrhnúť zlepšenia na zvýšenie bezpečnosti.
Stretnutie 3.11.2025
Stav:
- Vyskúšané modely (mistral, openchat) pre generovanie nebezpečných odpovedí a pre detekciu nebezpečných promptov.
- Splnená väčšina otvorených úloh.
Úlohy:
- Ako číselne vyhodnotiť "nebezpečnosť modelu"? Prečítajte si články. Aké sú metriky? Aké sú databázy?
- Nájsť alebo natrénovať model pre detekciu nebezpečných promptov a nebezpečných odpovedí.
- Číselne porovnajte nebezpečnosť viacerých mdoelov. llama, gemma, qwen gpt-oss, Výsledky dajte do tabuľky.
- Vybrať vhodný model pre potlačenie nebezpečných odpovedí pomocou DPO. Ako hodnotenie poslúži datababáza nebezpečných promptov, alebo iný model alebo aj náhodná hodnota.
- Skripty dávajte na GIT.
- Pokračujte v písaní.
Zásobník úloh:
- Zarovnajte ľubovoľný model zvolenou metódou.
- Pripravte postup pre zarovnanie slovenského modelu.
Stretnutie 10.10.2025:
Stav:
@ -57,11 +36,11 @@ Preštudované:
Úlohy:
- [x] pozrite si databázy PKU-Alignment/PKU-SafeRLHF alebo aurora-m/adversarial-prompts . Vyhľadajte iné databázy.
- [x] Vyskúšajte LLM s týmito databázami. Ako sa bydú správať?
- [x] Oboznámte sa s pojmom LLM alignment. Ako upravíme správanie jazykového modelu pomocou reinformcement learning?
- [ ] Používajte google scholar a píšte si poznámky.
- [-] Pokračujte v otvorených úlohách - DPO.
- pozrite si databázy PKU-Alignment/PKU-SafeRLHF alebo aurora-m/adversarial-prompts . Vyhľadajte iné databázy.
- Vyskúšajte LLM s týmito databázami. Ako sa bydú správať?
- Oboznámte sa s pojmom LLM alignment. Ako upravíme správanie jazykového modelu pomocou reinformcement learning?
- Používajte google scholar a píšte si poznámky.
- Pokračujte v otvorených úlohách - DPO.
Zásobník úloh:

View File

@ -26,23 +26,3 @@ Orchestrácia veľkých jazykových modelov pomocou model context protokolu s vy
- Vybrať viacero vhodných modelov a sprístupniť ich pomoocou Webového rozhrania a REST API
- Pridať podporu RAG, vyhľadávania na webe, volania funkcií a nástrojov.
Stretnutie 24.10.2025
Stav:
- Funguje OpenWebUI : WebUI, Proxy, MCP Adapter, OLLAMA server
Úlohy:
- Pridať RAG. Musí byť nejaká vektorová databáza.
- Dokončiť Docker Compose Skripty aj dokumentáciu a dať ich na KEMT GIT
- Do práce pidajte prehľad LLM Deployment - prečítaje a citujete články z Google scholar.
Budúce úlohy:
- Nasadiť systém do produkcie na školskom servri.
- Navrhnúť politiku prístupu pre študentov, Autentifikácia pomocou LDAP?
- Dalo by sa urobiť aj dotrénovanie?
- Pozrieť pluginy - doplniť zaujímavé vlastnosti.