diff --git a/AGENTS.md b/AGENTS.md new file mode 100644 index 00000000..20e36855 --- /dev/null +++ b/AGENTS.md @@ -0,0 +1,71 @@ +# Repository Description for Agents + +This repository hosts the GRAV CMS-based wiki for the Department of Electronics and Multimedia Telecommunications (KEMT) at Technical University in Košice (TUKE). It is a collaborative academic platform where students and faculty share final theses, project notes, and NLP (Natural Language Processing) research materials. + +## System Overview + +- **CMS**: [GRAV](https://getgrav.org/) — a flat-file CMS that stores content as Markdown files. +- **Content format**: Each page is a directory containing a `README.md` file with YAML frontmatter (title, taxonomy, author, publication status). +- **Version control**: All changes are tracked via Git on the institution's GitLab instance (`git.kemt.fei.tuke.sk`). + +## Directory Structure + +``` +pages/ # Root of GRAV CMS content +├── home/ # Homepage (index page) +├── 02.browse/ # Browse/search landing page +├── 04.categories/ # Category listing pages +├── 05.tags/ # Tag listing pages +├── taxonomy/ # Taxonomy index pages +├── authors/ # Author profile pages +├── interns/ # Intern profiles (organized by student name) +├── students/ # Student profiles (organized by year of enrollment) +│ └── / +│ └── /README.md +└── topics/ # Project notes and reference materials +``` + +## Student Profiles (`pages/students/`) + +Each student has an individual profile directory named `_` organized under a year subdirectory (`2016`–`2024`). Profiles track academic work including: + +- **Study year** (`rok začiatku štúdia`) +- **Thesis type**: bakalársky projekt (bp), magistrský projekt (mp), bakalárska práca (bp), diplomová práca (dp), veterinárna práca (vp) +- **Thesis topic and goals** (`Téma`, `Ciele na semester`) +- **Thesis assignment** (`Zadanie` / `Návrh na zadanie`) +- **Meeting logs** (`Stretnutie`) — dated records with tasks assigned, progress notes, and current status (`Stav`) +- **Tasks** (`Úlohy`) — specific deliverables and assignments +- **Project outputs** — code repositories, models, demo applications +- **Tags** — project domains (e.g., `nlp`, `rag`, `ner`, `chatbot`, `multimodal`, `dataset`, `evaluation`) + +Example path: `pages/students/2022/jakub_schwarc/README.md` + +## Project Notes (`pages/topics/`) + +Each topic is a directory (or file) under `pages/topics/` containing: + +- **Project descriptions** — goals, scope, applications +- **Task lists** — planned and completed work items +- **Research references** — papers, datasets, tools, frameworks +- **People** — team members involved +- **Notes** — meeting notes, experimental results, troubleshooting + +Topics cover NLP research areas including BERT training, chatbot development, hate speech detection, named entity recognition, machine translation, sequence-to-sequence models, legal text processing, morphological analysis, and Slovak question answering. + +## Grav-specific Conventions + +- **Numeric prefixes** (`02.`, `04.`, `05.`) control page ordering in the GRAV navigation tree. +- **YAML frontmatter** uses `taxonomy` for categories (`[dp2027]`, `[bp2025]`, `[project]`, `[info]`) and tags (`[nlp]`, `[rag]`, `[ner]`). +- **`published: true`** controls page visibility. +- **`process.markdown: false`** and **`process.twig: true`** disable Markdown rendering and enable Twig templates (used for dynamic collection pages like the topics index). +- **Relative links** to other pages use paths like `/students/2022/jakub_schwarc` or `/topics/hatespeech`. + +## Configuration (`config/`) + +- `config/plugins/` — GRAV plugin settings +- `config/themes/` — Theme configuration + +## Themes (`themes/`) + +- `knowledge-base/` — Primary knowledge-base theme +- `mytheme/` — Custom theme diff --git a/pages/students/2022/jakub_schwarc/README.md b/pages/students/2022/jakub_schwarc/README.md index 798422d9..0623e53b 100644 --- a/pages/students/2022/jakub_schwarc/README.md +++ b/pages/students/2022/jakub_schwarc/README.md @@ -10,6 +10,36 @@ taxonomy: rok začiatku štúdia: 2022 +# Diplomová práca 2027 + +Stretnutie 1.10.ľ2026 + +Stav: + +- vytvorený repozitár s konfiguráciami +- vyskúšaná AYA collection dataset - zbehlo 86 percent datasetu. Kolísala evaluácia. +- vyskúšaná lm-eval a Alpaca. +- Momentálne máme k dispozicii SlovakAlpaca a slovenskú časť AYA colections. +- porovnanie AYA a Alpaca dotrénovania. Alpaca vyzerá lepšie. +- prípravených 10 experimentov s eval a loss priebehom. +- výsledky sú na https://git.kemt.fei.tuke.sk/js886io/Diplomovka + +Úlohy: + +- Navrhnite scenár pre dotrénovanie jazykového modelu. Ake LORA spôsoby? Ako nastaviť lm factory? +- Pripravte experiment na optimalizáciu hyperparametrov. Najdôležitejší je LR. Na ostetné sa môžete spýtať AI. Tú istú kofiguráciu spúštate s roznym LR v "menšom" experimente a sledujete evall loss. Sledujte aj gradient pre identifikáciu "explosion". Porovnanie má zmysel iba v rámci tohot experimentu. +- Napíšte projekt na HPC Perun. +- Pripravte skript, ktorý zozbiera a pripravý trénovacie dáta, ktoré mame k dispozícii. Dáta rozdeľte na 3 časti. train, test, eval. Test a eval by mali byť tak, nastavené, aby vyhodnotenie na nich netrovalo príáliš dlho. Stačí iba jedna mnoižina ak sú dáta podobné. +- pripravte skript, ktorý vyhodnotí výsledný model. Na vyhodnotenie použite "eval" časť dát. +- napíšte poznámky do DP, kde opíšete metódy ktoré používate - Supervised Fine Tuning, modely ktoré používate, spôsob vyhodnotenie. + +Úlohy na neskôr: + +- zlepšite trénovacie dáta +- použite vyhodnotenie SK-bench. +- Použite iný multilinguálny model na dotrénovanie - napr. OLMO. + + # Diplomový projekt 2026 diff --git a/pages/students/2022/oleh_poiasnik/README.md b/pages/students/2022/oleh_poiasnik/README.md index 0fa6da5b..b9f1f577 100644 --- a/pages/students/2022/oleh_poiasnik/README.md +++ b/pages/students/2022/oleh_poiasnik/README.md @@ -13,13 +13,49 @@ rok začiatku štúdia: 2022 # Diplomová práca 2027 + Expertný agentový systém na podporu rozhodovania v lekárni +Návrh na zadanie (draft): + +- Opíšte spôsoby vyhľadávania pomcou znalostných grafov. +- Opíšte spôsoby vyhodnotneia takýchto systémov. +- Opíšte Váš systém. +- Vyhodnoote Váš systém. + + Cieľ: -- Vylepšiť agenta pre prácu so znalostným grafom - interakcie a kontraindikácie. +- Vylepšiť agenta pre prácu so znalostným grafom - interakcie a kontraindikácie aj indikácie. - Zostaviť znalostný graf z databázy príbalových letákov adc a s jeho pomocou zlepšiť generovanie odpovede. + +Stretnutie 2.10.2026 + +Stav: + +- Pomocou scrapera je získaná kompletná databáza ADC. Z týchto dát existuje štruktúrovaný znalostný graf pre 35000 liekov. Unikatny počet je cca 1500 až 2000. LLM exctrahuje vzťahy aj entity. +- Prebieha deduplikácia - rôzna gramáž môže mať skoro ten istý leták. +- Problém je rýchlosť - LLM za jeden deň dokáže spracovať cca 100 liekov. Celá databáza cca 2 až 3 týždne. +- Plán je spracovávať menšie dáta, nie celý leták. Budeme sa sústrediť na sekcie s interakciami a kontraindikáciami. +- Je potrebné prideliť školský server. +- Ako vytvoriť web DEMO? +- Kódy sú na školskom kemt gite. + +Úlohy: + +- Vyhodnotte navrhnutý systém vo vzorových scenároch. +- Pracujte na texte diplomovej práce. Opíšte spôsoby vyhľadávania pomcou znalostných grafov. Opíšte spôsoby vyhodnotneia takýchto systémov. Opíšte Váš systém. Vyhodnoote Váš systém. +- Vypracujte webové demo s Vašim agentom. Do výsledkov pridajte overenie a odôvodnenie výžsledkov - zobrazenie relevantnej časti znalostného grafu aj z textov z ADC. +- Pracujte aj s indikáciou. + +Zásobník úloh: + +- Pridajte znalosti o dávkovaní. + + +# Diplomový projekt 2026 + Stretnutie 14.5. Stav: diff --git a/pages/students/2022/valerii_kutsenko/README.md b/pages/students/2022/valerii_kutsenko/README.md index ad53a6b6..5609f41c 100644 --- a/pages/students/2022/valerii_kutsenko/README.md +++ b/pages/students/2022/valerii_kutsenko/README.md @@ -20,15 +20,37 @@ Myšlienky: Možné úlohy: -- Navrhnite agenta, ktorý bude budovať a využívať znalostný graf pri vyhľadávaní. -- Môže to byť v oblasti vzdelávania, práva alebo medicíny. +- Navrhnite agenta, ktorý bude budovať a využívať znalostný graf pri vyhľadávaní. Môže to byť v oblasti vzdelávania, práva alebo medicíny. - Zostavte multilinguálny znalostný graf, ktorý môže pomôcť pri generovaní. +- Napíšte vedecký článok. + +Stretnutie 2.10.2026 + +Stav: + +- urobený experiment. Ako by sa dal využiť znalostný graf pri vyhľadávaní? Je tam zlepšenie? Urobené tri znalostné grafy z verejného anotovaného korpusu otázok a odpovedí. Grafy sú urobené pomocou LightRAG. +- Vyzerá to tak, že vyhľadávanie s pomocou automaticky urobený graf dáva lepšie výsledky pri multi hop otázkach. Pri jednoduchých otázkach nemá lepšie výsledky. +- Uzly sú entity extrahované z textu. +- Je to vyskúšané aj na slovenských dátach SkQuad. + +Úlohy: + +- Nájdite vhodné dátové množiny pre zostavenie a overenie multilinguálnych znalostných grafov. Dáta by mali mať prekrývajúcu sa časť - preloženú ručne alebo kvalitne strojovo. Potom môžeme porovnať automaticky vytvoreé znalostné grafy medzi viacerými jazykmi. Môžeme skúsiť "preložiť" znalostný graf z jedného jazyka do druhého. +- Zistite spôsoby vyhodnotenia znalostných gradov vzhľadom na textové dáta. Ako veľmi spolu "súvisia" a ako veľmi "súhlasia". Aké metriky sa používajú? graf vs text. Napíšte poznámky. + +Zásobník úloh: + +- porovnajte znalostný graf s textom, povedze ako súvisia +- navrhnite spôsob multilinguálnej reprezentácie znalostných grafov. Ako využiť znalostný graf z jedného jazyka v inom jazyku. Dá sa spraviť znalostný graf ktorý je "nezávislý" na jazyku? + + Existujúca práca: - LightRAG - pozrite si to. + Stretnutie 15.5. Stav: diff --git a/pages/students/2024/adrian_ondra/README.md b/pages/students/2024/adrian_ondra/README.md index d7323914..cbe8a023 100644 --- a/pages/students/2024/adrian_ondra/README.md +++ b/pages/students/2024/adrian_ondra/README.md @@ -14,14 +14,21 @@ rok začiatku štúdia: 2024 Automatická tvorba myšlienkových máp -Predbežné úlohy: - -- Naučte sa Python, nainštalujte si Anaconda -- Zistite, ako funguje entity recognition a dependency parsing, a ako sa tieto techniky dajú využiť na identifikáciu kľúčových pojmov a ich vzťahov. Napíšte krátku správu (2-3 strany) s relevantnými vedeckými článkami -- Oboznámte sa s nástrojmi na vizualizáciu grafov a knowledge graphov (napr. [NetworkX](https://networkx.org/), [Graphviz](https://graphviz.org/)) Možné ciele semestrálneho projektu: -- Implementovať pipeline na extrakciu kľúčových pojmov a ich vzťahov zo vstupného textu. - Vytvoriť vizualizáciu myšlienkovej mapy z automaticky extrahovaných entít. +- Vytvoriť nástroj ktorý sa dá využiť pri vzdelávaní. +- Vyhodnotiť kvalitu vytvoreného grafu. Ako veľmi je graf pravdivý vzhľadom na pôvvodný text. + + úlohy: + +- Naučte sa Python, nainštalujte si Anaconda. +- Zistite, čo je to myšlenkoá mapa, ako sa vytvára. Ako ju vieme zobraziť? Viaceré poznámkovače to majú v sebe zabudovanbé. Ako ju vieme využiť pri vzdelávaní? Urobte si poznámky na túto tému. +- Zistite, ako je množné automaticky vytvárať myšlienkové mapy pomocou jazykových modelov. +- Zistite ako funguje rozpoznávanie pomenovaných entít (named entity recognition) a dependency parsing, a ako sa tieto techniky dajú využiť na identifikáciu kľúčových pojmov a ich vzťahov. Napíšte krátku správu (2-3 strany) s relevantnými vedeckými článkami +- Oboznámte sa s nástrojmi na vizualizáciu grafov a znalostnycb grafov (napr. [NetworkX](https://networkx.org/), [Graphviz](https://graphviz.org/)) + - Porovnať rôzne metódy extrakcie kľúčových slov a zhodnotiť ich vhodnosť pre generovanie myšlienkových máp. + + diff --git a/pages/students/2024/kristian_sokolsky/README.md b/pages/students/2024/kristian_sokolsky/README.md index 3459b5a0..580f7456 100644 --- a/pages/students/2024/kristian_sokolsky/README.md +++ b/pages/students/2024/kristian_sokolsky/README.md @@ -14,6 +14,27 @@ rok začiatku štúdia: 2024 Zarovnávanie veľkých jazykových modelov +Možné ciele semestrálneho projektu: + +- Zlepšenie bezpečnosti jazykových modelov. +- Prípravu nových dát alebo zlepšenie existujúcich dát pre zarovnanie jazykových modelov. Napr. príprava korpusu Modrý koník alebo Modrá strecha. +- Výber najlepších metód a hyperparametrov pre zarovanie LLM. + +Update 5.10 + +Stav: + +- Preštudované problematika + +Úlohy: + + + +- Získajte dáta zo serra Modrý koník. Použite wget na získanie HTML súborov. +- Napíšte skript na tvorbu dátovej množiny vhodnej pre zarovnnie jazykového modelu pomocou frameworku trl. +- Pokračujte v štúdu Python a reinformcement learning. +- reporty vo formáte markdown, konfigurácie a kódy dávajte na kemt git. + Stretnutie 23.9.2026 Úlohy: @@ -26,11 +47,6 @@ Stretnutie 23.9.2026 - Zistite, čo je to kontrolované učenie a čo je to učenie odmenou a trestom (reinforcement learning). Napíšte o tom krátku správu (2 alebo 3 strany) kde uvediete aj relevantné vedecké články. - Oboznámte sa s frameworkom [TRL](https://huggingface.co/docs/trl/en/index) -Možné ciele semestrálneho projektu: - -- Zlepšenie bezpečnosti jazykových modelov. -- Prípravu nových dát alebo zlepšenie existujúcich dát pre zarovnanie jazykových modelov. Napr. príprava korpusu Modrý koník alebo Modrá strecha. -- Výber najlepších metód a hyperparametrov pre zarovanie LLM.