Merge branch 'master' of git.kemt.fei.tuke.sk:KEMT/zpwiki
This commit is contained in:
commit
470211bec2
71
AGENTS.md
Normal file
71
AGENTS.md
Normal file
@ -0,0 +1,71 @@
|
||||
# Repository Description for Agents
|
||||
|
||||
This repository hosts the GRAV CMS-based wiki for the Department of Electronics and Multimedia Telecommunications (KEMT) at Technical University in Košice (TUKE). It is a collaborative academic platform where students and faculty share final theses, project notes, and NLP (Natural Language Processing) research materials.
|
||||
|
||||
## System Overview
|
||||
|
||||
- **CMS**: [GRAV](https://getgrav.org/) — a flat-file CMS that stores content as Markdown files.
|
||||
- **Content format**: Each page is a directory containing a `README.md` file with YAML frontmatter (title, taxonomy, author, publication status).
|
||||
- **Version control**: All changes are tracked via Git on the institution's GitLab instance (`git.kemt.fei.tuke.sk`).
|
||||
|
||||
## Directory Structure
|
||||
|
||||
```
|
||||
pages/ # Root of GRAV CMS content
|
||||
├── home/ # Homepage (index page)
|
||||
├── 02.browse/ # Browse/search landing page
|
||||
├── 04.categories/ # Category listing pages
|
||||
├── 05.tags/ # Tag listing pages
|
||||
├── taxonomy/ # Taxonomy index pages
|
||||
├── authors/ # Author profile pages
|
||||
├── interns/ # Intern profiles (organized by student name)
|
||||
├── students/ # Student profiles (organized by year of enrollment)
|
||||
│ └── <start_year>/
|
||||
│ └── <student_name>/README.md
|
||||
└── topics/ # Project notes and reference materials
|
||||
```
|
||||
|
||||
## Student Profiles (`pages/students/`)
|
||||
|
||||
Each student has an individual profile directory named `<first_name>_<last_name>` organized under a year subdirectory (`2016`–`2024`). Profiles track academic work including:
|
||||
|
||||
- **Study year** (`rok začiatku štúdia`)
|
||||
- **Thesis type**: bakalársky projekt (bp), magistrský projekt (mp), bakalárska práca (bp), diplomová práca (dp), veterinárna práca (vp)
|
||||
- **Thesis topic and goals** (`Téma`, `Ciele na semester`)
|
||||
- **Thesis assignment** (`Zadanie` / `Návrh na zadanie`)
|
||||
- **Meeting logs** (`Stretnutie`) — dated records with tasks assigned, progress notes, and current status (`Stav`)
|
||||
- **Tasks** (`Úlohy`) — specific deliverables and assignments
|
||||
- **Project outputs** — code repositories, models, demo applications
|
||||
- **Tags** — project domains (e.g., `nlp`, `rag`, `ner`, `chatbot`, `multimodal`, `dataset`, `evaluation`)
|
||||
|
||||
Example path: `pages/students/2022/jakub_schwarc/README.md`
|
||||
|
||||
## Project Notes (`pages/topics/`)
|
||||
|
||||
Each topic is a directory (or file) under `pages/topics/` containing:
|
||||
|
||||
- **Project descriptions** — goals, scope, applications
|
||||
- **Task lists** — planned and completed work items
|
||||
- **Research references** — papers, datasets, tools, frameworks
|
||||
- **People** — team members involved
|
||||
- **Notes** — meeting notes, experimental results, troubleshooting
|
||||
|
||||
Topics cover NLP research areas including BERT training, chatbot development, hate speech detection, named entity recognition, machine translation, sequence-to-sequence models, legal text processing, morphological analysis, and Slovak question answering.
|
||||
|
||||
## Grav-specific Conventions
|
||||
|
||||
- **Numeric prefixes** (`02.`, `04.`, `05.`) control page ordering in the GRAV navigation tree.
|
||||
- **YAML frontmatter** uses `taxonomy` for categories (`[dp2027]`, `[bp2025]`, `[project]`, `[info]`) and tags (`[nlp]`, `[rag]`, `[ner]`).
|
||||
- **`published: true`** controls page visibility.
|
||||
- **`process.markdown: false`** and **`process.twig: true`** disable Markdown rendering and enable Twig templates (used for dynamic collection pages like the topics index).
|
||||
- **Relative links** to other pages use paths like `/students/2022/jakub_schwarc` or `/topics/hatespeech`.
|
||||
|
||||
## Configuration (`config/`)
|
||||
|
||||
- `config/plugins/` — GRAV plugin settings
|
||||
- `config/themes/` — Theme configuration
|
||||
|
||||
## Themes (`themes/`)
|
||||
|
||||
- `knowledge-base/` — Primary knowledge-base theme
|
||||
- `mytheme/` — Custom theme
|
||||
@ -10,6 +10,36 @@ taxonomy:
|
||||
|
||||
rok začiatku štúdia: 2022
|
||||
|
||||
# Diplomová práca 2027
|
||||
|
||||
Stretnutie 1.10.ľ2026
|
||||
|
||||
Stav:
|
||||
|
||||
- vytvorený repozitár s konfiguráciami
|
||||
- vyskúšaná AYA collection dataset - zbehlo 86 percent datasetu. Kolísala evaluácia.
|
||||
- vyskúšaná lm-eval a Alpaca.
|
||||
- Momentálne máme k dispozicii SlovakAlpaca a slovenskú časť AYA colections.
|
||||
- porovnanie AYA a Alpaca dotrénovania. Alpaca vyzerá lepšie.
|
||||
- prípravených 10 experimentov s eval a loss priebehom.
|
||||
- výsledky sú na https://git.kemt.fei.tuke.sk/js886io/Diplomovka
|
||||
|
||||
Úlohy:
|
||||
|
||||
- Navrhnite scenár pre dotrénovanie jazykového modelu. Ake LORA spôsoby? Ako nastaviť lm factory?
|
||||
- Pripravte experiment na optimalizáciu hyperparametrov. Najdôležitejší je LR. Na ostetné sa môžete spýtať AI. Tú istú kofiguráciu spúštate s roznym LR v "menšom" experimente a sledujete evall loss. Sledujte aj gradient pre identifikáciu "explosion". Porovnanie má zmysel iba v rámci tohot experimentu.
|
||||
- Napíšte projekt na HPC Perun.
|
||||
- Pripravte skript, ktorý zozbiera a pripravý trénovacie dáta, ktoré mame k dispozícii. Dáta rozdeľte na 3 časti. train, test, eval. Test a eval by mali byť tak, nastavené, aby vyhodnotenie na nich netrovalo príáliš dlho. Stačí iba jedna mnoižina ak sú dáta podobné.
|
||||
- pripravte skript, ktorý vyhodnotí výsledný model. Na vyhodnotenie použite "eval" časť dát.
|
||||
- napíšte poznámky do DP, kde opíšete metódy ktoré používate - Supervised Fine Tuning, modely ktoré používate, spôsob vyhodnotenie.
|
||||
|
||||
Úlohy na neskôr:
|
||||
|
||||
- zlepšite trénovacie dáta
|
||||
- použite vyhodnotenie SK-bench.
|
||||
- Použite iný multilinguálny model na dotrénovanie - napr. OLMO.
|
||||
|
||||
|
||||
# Diplomový projekt 2026
|
||||
|
||||
|
||||
|
||||
@ -13,13 +13,49 @@ rok začiatku štúdia: 2022
|
||||
|
||||
# Diplomová práca 2027
|
||||
|
||||
|
||||
Expertný agentový systém na podporu rozhodovania v lekárni
|
||||
|
||||
Návrh na zadanie (draft):
|
||||
|
||||
- Opíšte spôsoby vyhľadávania pomcou znalostných grafov.
|
||||
- Opíšte spôsoby vyhodnotneia takýchto systémov.
|
||||
- Opíšte Váš systém.
|
||||
- Vyhodnoote Váš systém.
|
||||
|
||||
|
||||
Cieľ:
|
||||
|
||||
- Vylepšiť agenta pre prácu so znalostným grafom - interakcie a kontraindikácie.
|
||||
- Vylepšiť agenta pre prácu so znalostným grafom - interakcie a kontraindikácie aj indikácie.
|
||||
- Zostaviť znalostný graf z databázy príbalových letákov adc a s jeho pomocou zlepšiť generovanie odpovede.
|
||||
|
||||
|
||||
Stretnutie 2.10.2026
|
||||
|
||||
Stav:
|
||||
|
||||
- Pomocou scrapera je získaná kompletná databáza ADC. Z týchto dát existuje štruktúrovaný znalostný graf pre 35000 liekov. Unikatny počet je cca 1500 až 2000. LLM exctrahuje vzťahy aj entity.
|
||||
- Prebieha deduplikácia - rôzna gramáž môže mať skoro ten istý leták.
|
||||
- Problém je rýchlosť - LLM za jeden deň dokáže spracovať cca 100 liekov. Celá databáza cca 2 až 3 týždne.
|
||||
- Plán je spracovávať menšie dáta, nie celý leták. Budeme sa sústrediť na sekcie s interakciami a kontraindikáciami.
|
||||
- Je potrebné prideliť školský server.
|
||||
- Ako vytvoriť web DEMO?
|
||||
- Kódy sú na školskom kemt gite.
|
||||
|
||||
Úlohy:
|
||||
|
||||
- Vyhodnotte navrhnutý systém vo vzorových scenároch.
|
||||
- Pracujte na texte diplomovej práce. Opíšte spôsoby vyhľadávania pomcou znalostných grafov. Opíšte spôsoby vyhodnotneia takýchto systémov. Opíšte Váš systém. Vyhodnoote Váš systém.
|
||||
- Vypracujte webové demo s Vašim agentom. Do výsledkov pridajte overenie a odôvodnenie výžsledkov - zobrazenie relevantnej časti znalostného grafu aj z textov z ADC.
|
||||
- Pracujte aj s indikáciou.
|
||||
|
||||
Zásobník úloh:
|
||||
|
||||
- Pridajte znalosti o dávkovaní.
|
||||
|
||||
|
||||
# Diplomový projekt 2026
|
||||
|
||||
Stretnutie 14.5.
|
||||
|
||||
Stav:
|
||||
|
||||
@ -20,15 +20,37 @@ Myšlienky:
|
||||
|
||||
Možné úlohy:
|
||||
|
||||
- Navrhnite agenta, ktorý bude budovať a využívať znalostný graf pri vyhľadávaní.
|
||||
- Môže to byť v oblasti vzdelávania, práva alebo medicíny.
|
||||
- Navrhnite agenta, ktorý bude budovať a využívať znalostný graf pri vyhľadávaní. Môže to byť v oblasti vzdelávania, práva alebo medicíny.
|
||||
- Zostavte multilinguálny znalostný graf, ktorý môže pomôcť pri generovaní.
|
||||
- Napíšte vedecký článok.
|
||||
|
||||
Stretnutie 2.10.2026
|
||||
|
||||
Stav:
|
||||
|
||||
- urobený experiment. Ako by sa dal využiť znalostný graf pri vyhľadávaní? Je tam zlepšenie? Urobené tri znalostné grafy z verejného anotovaného korpusu otázok a odpovedí. Grafy sú urobené pomocou LightRAG.
|
||||
- Vyzerá to tak, že vyhľadávanie s pomocou automaticky urobený graf dáva lepšie výsledky pri multi hop otázkach. Pri jednoduchých otázkach nemá lepšie výsledky.
|
||||
- Uzly sú entity extrahované z textu.
|
||||
- Je to vyskúšané aj na slovenských dátach SkQuad.
|
||||
|
||||
Úlohy:
|
||||
|
||||
- Nájdite vhodné dátové množiny pre zostavenie a overenie multilinguálnych znalostných grafov. Dáta by mali mať prekrývajúcu sa časť - preloženú ručne alebo kvalitne strojovo. Potom môžeme porovnať automaticky vytvoreé znalostné grafy medzi viacerými jazykmi. Môžeme skúsiť "preložiť" znalostný graf z jedného jazyka do druhého.
|
||||
- Zistite spôsoby vyhodnotenia znalostných gradov vzhľadom na textové dáta. Ako veľmi spolu "súvisia" a ako veľmi "súhlasia". Aké metriky sa používajú? graf vs text. Napíšte poznámky.
|
||||
|
||||
Zásobník úloh:
|
||||
|
||||
- porovnajte znalostný graf s textom, povedze ako súvisia
|
||||
- navrhnite spôsob multilinguálnej reprezentácie znalostných grafov. Ako využiť znalostný graf z jedného jazyka v inom jazyku. Dá sa spraviť znalostný graf ktorý je "nezávislý" na jazyku?
|
||||
|
||||
|
||||
|
||||
Existujúca práca:
|
||||
|
||||
- LightRAG - pozrite si to.
|
||||
|
||||
|
||||
|
||||
Stretnutie 15.5.
|
||||
|
||||
Stav:
|
||||
|
||||
@ -14,14 +14,21 @@ rok začiatku štúdia: 2024
|
||||
|
||||
Automatická tvorba myšlienkových máp
|
||||
|
||||
Predbežné úlohy:
|
||||
|
||||
- Naučte sa Python, nainštalujte si Anaconda
|
||||
- Zistite, ako funguje entity recognition a dependency parsing, a ako sa tieto techniky dajú využiť na identifikáciu kľúčových pojmov a ich vzťahov. Napíšte krátku správu (2-3 strany) s relevantnými vedeckými článkami
|
||||
- Oboznámte sa s nástrojmi na vizualizáciu grafov a knowledge graphov (napr. [NetworkX](https://networkx.org/), [Graphviz](https://graphviz.org/))
|
||||
|
||||
Možné ciele semestrálneho projektu:
|
||||
|
||||
- Implementovať pipeline na extrakciu kľúčových pojmov a ich vzťahov zo vstupného textu.
|
||||
- Vytvoriť vizualizáciu myšlienkovej mapy z automaticky extrahovaných entít.
|
||||
- Vytvoriť nástroj ktorý sa dá využiť pri vzdelávaní.
|
||||
- Vyhodnotiť kvalitu vytvoreného grafu. Ako veľmi je graf pravdivý vzhľadom na pôvvodný text.
|
||||
|
||||
úlohy:
|
||||
|
||||
- Naučte sa Python, nainštalujte si Anaconda.
|
||||
- Zistite, čo je to myšlenkoá mapa, ako sa vytvára. Ako ju vieme zobraziť? Viaceré poznámkovače to majú v sebe zabudovanbé. Ako ju vieme využiť pri vzdelávaní? Urobte si poznámky na túto tému.
|
||||
- Zistite, ako je množné automaticky vytvárať myšlienkové mapy pomocou jazykových modelov.
|
||||
- Zistite ako funguje rozpoznávanie pomenovaných entít (named entity recognition) a dependency parsing, a ako sa tieto techniky dajú využiť na identifikáciu kľúčových pojmov a ich vzťahov. Napíšte krátku správu (2-3 strany) s relevantnými vedeckými článkami
|
||||
- Oboznámte sa s nástrojmi na vizualizáciu grafov a znalostnycb grafov (napr. [NetworkX](https://networkx.org/), [Graphviz](https://graphviz.org/))
|
||||
|
||||
- Porovnať rôzne metódy extrakcie kľúčových slov a zhodnotiť ich vhodnosť pre generovanie myšlienkových máp.
|
||||
|
||||
|
||||
|
||||
@ -14,6 +14,27 @@ rok začiatku štúdia: 2024
|
||||
|
||||
Zarovnávanie veľkých jazykových modelov
|
||||
|
||||
Možné ciele semestrálneho projektu:
|
||||
|
||||
- Zlepšenie bezpečnosti jazykových modelov.
|
||||
- Prípravu nových dát alebo zlepšenie existujúcich dát pre zarovnanie jazykových modelov. Napr. príprava korpusu Modrý koník alebo Modrá strecha.
|
||||
- Výber najlepších metód a hyperparametrov pre zarovanie LLM.
|
||||
|
||||
Update 5.10
|
||||
|
||||
Stav:
|
||||
|
||||
- Preštudované problematika
|
||||
|
||||
Úlohy:
|
||||
|
||||
|
||||
|
||||
- Získajte dáta zo serra Modrý koník. Použite wget na získanie HTML súborov.
|
||||
- Napíšte skript na tvorbu dátovej množiny vhodnej pre zarovnnie jazykového modelu pomocou frameworku trl.
|
||||
- Pokračujte v štúdu Python a reinformcement learning.
|
||||
- reporty vo formáte markdown, konfigurácie a kódy dávajte na kemt git.
|
||||
|
||||
Stretnutie 23.9.2026
|
||||
|
||||
Úlohy:
|
||||
@ -26,11 +47,6 @@ Stretnutie 23.9.2026
|
||||
- Zistite, čo je to kontrolované učenie a čo je to učenie odmenou a trestom (reinforcement learning). Napíšte o tom krátku správu (2 alebo 3 strany) kde uvediete aj relevantné vedecké články.
|
||||
- Oboznámte sa s frameworkom [TRL](https://huggingface.co/docs/trl/en/index)
|
||||
|
||||
Možné ciele semestrálneho projektu:
|
||||
|
||||
- Zlepšenie bezpečnosti jazykových modelov.
|
||||
- Prípravu nových dát alebo zlepšenie existujúcich dát pre zarovnanie jazykových modelov. Napr. príprava korpusu Modrý koník alebo Modrá strecha.
|
||||
- Výber najlepších metód a hyperparametrov pre zarovanie LLM.
|
||||
|
||||
|
||||
|
||||
|
||||
Loading…
Reference in New Issue
Block a user