2020-10-01 13:33:21 +00:00
---
title: Jakub Maruniak
published: true
taxonomy:
2020-10-01 13:46:14 +00:00
category: [dp2021,bp2019]
2020-10-16 07:20:23 +00:00
tag: [spacy,ner,annotation,nlp]
2020-10-01 13:33:21 +00:00
author: Daniel Hladek
---
2020-01-31 07:58:13 +00:00
# Jakub Maruniak
2020-03-09 10:38:01 +00:00
2019-11-28 08:54:01 +00:00
2020-09-25 09:07:24 +00:00
*Rok začiatku štúdia*: 2016
2020-06-18 13:33:46 +00:00
2020-09-25 09:07:24 +00:00
## Diplomový projekt 2
2020-06-30 07:55:27 +00:00
2020-10-16 07:29:17 +00:00
Ciele:
- Anotovať sadu dát s použitím produkčnej anotačnej schémy, natrénovať a vyhodnotiť model.
2020-06-30 07:55:27 +00:00
Zásobník úloh:
- Použiť model na podporu anotácie
2020-06-30 08:03:02 +00:00
- Do konca ZS vytvoriť report vo forme článku.
2020-10-30 08:34:28 +00:00
- Spísať pravidlá pre validáciu. Aký výsledok anotácie je dobrý? Je potrebné anotované dáta skontrolovať?
2020-11-13 08:18:55 +00:00
Virtuálne stretnutie 13.11.2020:
- výsledky skopírované do [adresára ](./dp2021 )
- prečítané 3 články - porovnanie manuálnej anotácie a poloautomatickej.
2020-10-30 08:34:28 +00:00
Virtuálne stretnutie 30.10.2020:
Stav:
- Vylepšený návod
2020-11-13 08:18:55 +00:00
- Vyskúšaný export dát a trénovanie modelu z databázy. Problém pri trénovaní Spacy - iné výsledky ako cez Prodigy trénovanie
- Práca na textovej časti.
2020-06-18 13:33:46 +00:00
2020-10-30 08:34:28 +00:00
Úlohy do ďalšieho stretnutia:
- Vytvorte si repozitár s názvom dp2021 a tam pridajte skripty a poznámky.
- Pokračujte v písaní práce. Vykonajte prieskum literatúry "named entity corpora" aj poznámky.
- Vytvorte systém pre zistenie množstva a druhu anotovaných dát. Koľko článkov? Koľko entít jednotlivvých typov? Výsledná tabuľka pôjde do práce.
- Pripraviť sa na produkčné anotácie. Je schéma pripravená?
2020-10-16 07:29:17 +00:00
2020-10-16 07:20:23 +00:00
Virtuálne stretnutie 16.10.2020:
Stav:
- Spísané stručné poznámky k procesu anotácie
- Pokusne anotovaných niekoľko článkov
2020-10-16 07:29:17 +00:00
Úlohy na ďálšie stretnutie:
- Vylepšiť oficiálny návod na anotáciu NER https://zp.kemt.fei.tuke.sk/topics/named-entity/navod podľa poznámok a skúsenosti pri anotácii. Pridajte pravidlá pre učenie Accept a Reject článku. Ktorý paragraf je vhodný na anotáciu?
2020-10-16 07:20:23 +00:00
- Pripraviť skript na výber anotovaných dát z databázy a úpravu do podoby vhodnej pre trénovanie.
- Spísať pravidlá pre validáciu. Aký výsledok anotácie je dobrý? Je potrebné anotované dáta skontrolovať?
2020-10-16 07:29:17 +00:00
- Pokračujte v písaní DP.
2020-10-09 07:19:31 +00:00
Virtuálne stretnutie 9.10.2020:
Stav:
- Vyskúšané trénovanie modelu podľa repozitára spacy-skmodel
- Začiatok práce na textovej časti (vo Worde do šablóny ZP).
Úlophy na ďalšie stretnutie:
- Prečítajte si návod na anotáciu a navrhnite zlepšenia návodu. Cieľ je napísať presnú metodiku anotácie.
- Pokusne antujte niekoľko článkov, spíšte problémové miesta.
Stretnutie 25.9.2020:
2020-09-25 09:07:24 +00:00
Urobené:
Oboznámenie sa procesom anotácie NER
Úlohy na ďalšie stretnutie:
- Natrénovať a vyhodnotiť model podľa https://git.kemt.fei.tuke.sk/dano/spacy-skmodel
- začať pracovať na textovej časti podľa https://www.ieee.org/conferences/publishing/templates.html
Návrhny na zlepšenie:
Je potrebné rozbehať produkčnú anotáciu NER
## Diplomový projekt 1 2020
Výstupy (18.6.2020):
- [Anotačná schéma ](https://git.kemt.fei.tuke.sk/KEMT/zpwiki/src/branch/master/pages/students/2016/jakub_maruniak/dp2021/annotation )
- [nasadenie anotačnej schémy ](http://skner.tukekemt.xyz )
- [Korpus 1300 viet z wikipédie ](https://git.kemt.fei.tuke.sk/KEMT/zpwiki/src/branch/master/pages/students/2016/jakub_maruniak/dp2021/annotation/ner/textfile.csv )
2020-06-18 13:33:46 +00:00
2020-03-09 10:38:01 +00:00
Úlohy na semester:
- Rozbehať anotačnú schému pre vyznačovanie slovenských pomenovaných entít
- Vybrať a pripraviť vhodné dáta na anotáciu
2020-06-30 07:55:27 +00:00
Stretnutie 30.6.2020:
- Dodaný korpus 1300 viet
- Je dobré dáta rozdeliť na vety (odporúčanie, ľahšie sa sleduje anotované množstvo).
2020-03-09 10:38:01 +00:00
2020-05-15 08:17:03 +00:00
Virtuálne stretnutie 15.5.2020:
- Rozbehaná slovenská anotačná schéma pre pomenované entity
- Problém so slovenským NER modelom z wiki dát
Úlohy:
- vytvoriť do repozitára annotation adresár ner so všetkým potrebným pre spustenie slovenskej ner schémy (skripty, vzorové textové dáta).
- vyriešiť problém so spacy modelom.
2020-05-13 12:57:06 +00:00
Revízia 21.4.:
Odkaz na projekt: https://git.kemt.fei.tuke.sk/KEMT/zpwiki/src/branch/master/pages/students/2016/jakub_maruniak/dp2021/annotation
Revízia 9.4. a 17.4.
Nové úlohy:
- vytvorte skript pre anotáciu slovenských pomenovaných entít.
- Pozrite si https://prodi.gy/docs/named-entity-recognition (aj video)
- Spustite schému "Manual annotation with suggestions from a model" (použite aj [príklady ](https://git.kemt.fei.tuke.sk/dano/annotation )
- Ako zdroj dát použite https://git.kemt.fei.tuke.sk/dano/spacy-skmodel/src/branch/master/sources/skner/wikiann-sk.bio
- Urobte skript, ktorý zmení wiki dáta do [spacy formátu ](https://raw.githubusercontent.com/explosion/prodigy-recipes/master/example-datasets/raw_shares-newsapi.jsonl )
- Uložte skript na GIT a pridajte odkaz do profilu
2020-03-09 10:38:01 +00:00
Stretnutie 9.3.2020:
Vyvorený prístup do repozitára https://git.kemt.fei.tuke.sk/dano/annotation
Úlohy na ďalšie stretnutie:
- Oboznámte sa s so [systémom Docker ](https://student.kemt.fei.tuke.sk/predmety/zct )
- Rozbehajte si anotáciu z repozitára
- Skúste upraviť proces tak aby bol vhodný na anotáciu slovenských pomenovaných entít
Návrh možných entít na anotáciu:
- OSOBA
- MIESTO alebo politická geografická entita
- ORGANIZACIA
- PRODUKT
- INE
2019-12-16 09:46:30 +00:00
## Tímový projekt 2019
2019-11-17 14:30:40 +00:00
2019-12-16 10:00:15 +00:00
#### Anotácia textových dát
2020-01-17 13:47:11 +00:00
2020-01-22 21:10:27 +00:00
*Úlohy tímového projektu*:
2020-03-09 10:38:01 +00:00
2019-12-16 10:00:15 +00:00
- Vypracujte min. 4. stranový rešerš na tému "Crowdsourcing"
- citujte min. 10 najvýznamnejších bibliografických zdrojov
2019-12-16 10:00:27 +00:00
2020-01-22 21:10:45 +00:00
*Písomná práca*: [Rešerš ](./timovy_projekt )
2020-01-22 21:10:27 +00:00
2020-01-23 08:28:20 +00:00
*Návrh na zadanie DP*:
2020-02-07 09:58:21 +00:00
1. Vypracujte prehľad metód prípravy textových korpusov pomocou crowdsourcingu.
2. Pripravte postup na anotáciu textového korpusu pre systém Prodigy pre trénovanie modelu vo vybranej úlohe spracovania prirodzeného jazyka.
3. Vytvorte množinu textových dát v slovenskom jazyku vhodných na trénovanie štatistického modelu spracovania prirodzeného jazyka pomocou knižnice Spacy.
4. Natrénujte štatistický model pomocou knižnice Spacy a zistite, aký vplyv má veľkosť trénovacej množiny na presnosť klasifikátora.
2020-01-23 08:34:09 +00:00
2020-01-31 07:57:51 +00:00
*Návrh na názov DP*:
2020-03-09 10:38:01 +00:00
2020-02-07 09:58:21 +00:00
Anotácia textových dát v slovenskom jazyku pomocou metódy crowdsourcingu
2020-01-23 08:34:09 +00:00
2020-01-31 07:57:51 +00:00
*Spolupráca s projektom*:
2020-03-09 10:38:01 +00:00
2020-01-25 16:29:42 +00:00
- [Podpora slovenčiny v Spacy ](/topics/spacy )
2020-01-25 16:26:46 +00:00
- [Anotácia textových dát ](/topics/prodigy )
2020-01-25 16:23:44 +00:00
- [Rozpoznávanie pomenovaných entít ](/topics/named-entity )
2020-01-25 16:25:37 +00:00
- [Spracovanie prir. jazyka ](/topics/nlp )
2020-01-25 16:27:48 +00:00
- [Programovanie v jazyku Python ](/topics/python )
