2020-10-01 13:46:14 +00:00
---
title: Dárius Lindvai
published: true
taxonomy:
category: [dp2021,bp2019]
tag: [nn,interpunction,nlp]
author: Daniel Hladek
---
2020-01-17 13:45:57 +00:00
# Dárius Lindvai
2020-09-25 09:04:59 +00:00
Rok začiatku štúdia: 2016
Repozitár so [zdrojovými kódmi ](https://git.kemt.fei.tuke.sk/dl874wn/dp2021 )
2020-01-17 13:45:57 +00:00
2021-02-09 14:21:32 +00:00
Názov: Obnovenie interpunkcie pomocou hlbokých neurónových sietí
1. Vypracujte prehľad metód na obnovenie interpunkcie pomocou neurónových sietí.
2. Vyberte vhodnú metódu obnovenia interpunkcie pomocou neurónových sietí.
3. Pripravte množinu dát na trénovanie neurónovej siete, navrhnite a vykonajte sadu experimentov s rôznymi parametrami.
4. Vyhodnoťte experimenty a navrhnite možné zlepšenia.
2020-09-25 08:28:56 +00:00
## Diplomový projekt 2 2020
2021-01-25 13:07:23 +00:00
Stretnutie 25.1.2021
Stav:
- Vypracovaný report experimentov
- Prezentácia
2021-01-25 13:21:02 +00:00
Do ďalšieho stretnutia:
- Dopísať časť kde opíšete Vašu metódu
- Rozšíriť teoretickú časť - zistite a napíšte čo je Transformer, BERT, RNN a Adversarial (kontradiktórne učenie) learning.
2021-01-25 13:07:23 +00:00
2020-11-20 11:52:57 +00:00
Virtuálne stretnutie 20.11.2020
Stav:
- Urobené úlohy z ďalšieho stretnutia
- Práca na písomnej časti, ešte treba spracovať experimenty.
Do ďalšieho stretnutia:
- Finalizovať text.
2020-11-06 13:55:51 +00:00
Virtuálne stretnutie 6.11.2020
Stav:
- Vypracovaná tabuľka s 5 experimentami.
- vytvorený repozitár.
Na ďalšie stretnutie:
- nahrať kódy na repozitár.
- závislosťi (názvy balíčkov) poznačte do súboru requirements.txt.
- Prepracujte experiment tak aby akceptoval argumenty z príkazového riadka. (sys.argv)
- K experimentom zapísať skript na spustenie. V skripte by mali byť parametre s ktorými ste spustili experiment.
- dopracujte report.
- do teorie urobte prehľad metód punctuation restoration a opis Vašej metódy.
2020-09-25 08:28:56 +00:00
Virtuálne stretnutie 25.9.2020
Urobené:
2020-11-06 13:55:51 +00:00
- skript pre vyhodnotenie experimentov.
2020-09-25 08:28:56 +00:00
2020-09-25 08:39:48 +00:00
2020-09-25 08:28:56 +00:00
Úlohy do ďalšieho stretnutia:
2020-09-25 08:39:48 +00:00
- vytvorte nový repozitár so zdrojovými kódmi (nazvite ho dp2021)
2020-09-25 08:28:56 +00:00
- vykonať a vyhodnotiť experimenty
- Zvážiť publikovanie na http://conf.uni-obuda.hu/sami2021/paper.html
- napísať draft na min. 4 strany s teóriou, experimantami aj bibliografipou. Môže byť aj po slovensky, potom to preložíme do nagličtiny.
2020-02-20 09:45:46 +00:00
## Diplomový projekt 2020
2020-06-25 09:10:02 +00:00
[Výstupy ](dp2021 )
2020-06-25 08:59:22 +00:00
Úlohy na diplomový projekt:
- 1. Vybrať a pripraviť dátovú množinu na natrénovanie
- 2. Vybrať a implementovať neurónovú sieť
- 3. Vykonať sadu experimentov na overenie presnosti klasifikácie zvolenej neurónovej siete
## Zápis o činnosti
2020-06-26 08:18:13 +00:00
Virtuálne stretnutie 26.6.
Urobené:
- Trénovanie modelu BiLSTM+CFR a jeho vyhodnotenie Precision Recall pre každú triedu
Treba urobiť:
- Vyhodnotenie na testovacej množine
2020-06-26 08:27:42 +00:00
- Doplnenie skriptu pre prípravu dát
- Krátky záznam o experimentoch - stručný opis nastavenia, dát a záznam výsledkov.
2020-06-26 08:18:13 +00:00
2020-05-14 09:40:36 +00:00
Virtuálne stretnutie 14.5.2020:
Prebrali sme premenu [Pytorch Tensor na NumPy Maticu ](https://pytorch.org/tutorials/beginner/blitz/tensor_tutorial.html )
- Pokračuje práca na Precision Recall - konfidenčná matica
2020-05-08 08:10:40 +00:00
Revízia 8.5.2020:
- Práca pokračuje.
- Precision-recall vypočítate z konfidenčnej matice [takto ](https://towardsdatascience.com/multi-class-metrics-made-simple-part-i-precision-and-recall-9250280bddc2 ).
2020-04-17 05:25:16 +00:00
Revízia 17.4.2020:
2020-04-17 05:31:32 +00:00
- Upravené zdrojové kódy BiLSTM+CRF pre Punctuation Restoration
- *repozitár [dp2021 ](./dp2021/ )*
Nové úlohy:
- Pripravte si trénovaciu a testovaciu množinu.
- Natrénujte neurónovú sieť na väčších dátach, použite server idoc.
- Vyhodnnotte presnosť vo forme Precision-Recall pre každú triedu
2020-04-15 08:18:08 +00:00
2020-03-09 09:50:40 +00:00
Stretnutie 9.3.2020:
Pozrieť si:
- https://github.com/sgrvinod/a-PyTorch-Tutorial-to-Sequence-Labeling
- Comparison of Recurrent Neural Networks for Slovak
Punctuation Restoration (poslané emailom)
Skúste upraviť kódy:
- https://pytorch.org/tutorials/beginner/nlp/advanced_tutorial.html
- repozitár https://git.kemt.fei.tuke.sk/dano/comma
na problém dopĺňania interpunkcie.
Na ďalšie stretnutie rozbehané kódy.
2020-02-20 09:45:46 +00:00
Stretnutie 20.2.2020
2020-03-08 18:29:31 +00:00
Úlohy na ďalšie stretnutie:
2020-02-20 10:02:42 +00:00
- Ako zmeniť postupnosť slov na postupnosť vektorov?
2020-03-08 19:36:47 +00:00
- [Slovo na číslo] (https://hackernoon.com/what-is-one-hot-encoding-why-and-when-do-you-have-to-use-it-e3c6186d008f)
2020-02-20 10:02:42 +00:00
- Ako použiť postupnosť vektorov na natrénovanie neurónovej siete?
2020-03-08 19:36:47 +00:00
- [Sequence Tagging, Vocab ](https://pytorch.org/text/ )
2020-02-20 09:45:46 +00:00
2020-01-17 13:45:57 +00:00
## Tímový projekt 2019
2020-01-30 10:01:39 +00:00
*Projektové stránky:*
2020-01-23 10:07:08 +00:00
2020-01-25 16:25:37 +00:00
- [Spracovanie prirodzeného jazyka ](/topics/nlp )
2020-01-25 16:27:48 +00:00
- [Python ](/topics/python )
2020-01-23 10:07:08 +00:00
2020-01-30 10:01:39 +00:00
*Úlohy na vypracovanie:*
2020-01-17 13:45:57 +00:00
- [rešerš ](./timovy_projekt/resers ) tak na 3 strany - čo najnovšie sa píše na tému "puctuation restoration"
2020-01-30 09:56:38 +00:00
- krátky program a [tutoriál ](./timovy_projekt/tutorial ) (program s rozsiahlym komentárom) v Pythone na využitie LSTM, napr. [ako ](https://pytorch.org/tutorials/beginner/nlp/sequence_models_tutorial.html ).
- [zaujímavý blog ](http://jalammar.github.io/illustrated-transformer/ )
2020-02-21 09:38:56 +00:00
*Výstup TP:*
- Písomná práca: [rešerš ](./timovy_projekt/resers )
- Tutoriál: [tutoriál ](./timovy_projekt/tutorial )
