du707zr/dmytro_ushatenko
1
0
Fork 0
forked from KEMT/zpwiki
Code Issues Pull Requests Releases Wiki Activity

Aktualizovat „pages/students/2016/jakub_maruniak/dp2021/annotation/README.md“

Browse Source
This commit is contained in:
Jakub Maruniak 2020-11-24 10:53:47 +00:00
parent ff8282e81d
commit 45be53a4d4
1 changed files with 7 additions and 4 deletions
Show Stats Download Patch File Download Diff File Expand all files Collapse all files

11
pages/students/2016/jakub_maruniak/dp2021/annotation/README.md
View File

@ -17,12 +17,15 @@ winpty docker run --name prodigy -it -p 8080:8080 -v C://Users/jakub/Desktop/ann
- `./01_text_to_sent.sh` spustenie skriptu *text_to_sent.py*, ktorý rozdelí články na jednotlivé vety - `./01_text_to_sent.sh` spustenie skriptu *text_to_sent.py*, ktorý rozdelí články na jednotlivé vety
- `./02_ner_manual.sh` spustenie manuálneho anotačného procesu pre NER - `./02_ner_manual.sh` spustenie manuálneho anotačného procesu pre NER
- `./03_export.sh` exportovanie anotovaných dát vo formáte json potrebnom pre spracovanie vo spacy. Možnosť rozdelenia na trénovacie (70%) a testovacie dáta (30%) (--eval-split 0.3). - `./03_export.sh` exportovanie anotovaných dát vo formáte json potrebnom pre spracovanie vo spacy. Možnosť rozdelenia na trénovacie (70%) a testovacie dáta (30%) (--eval-split 0.3).
Pozn. aby --eval-split fungoval správne, je potrebné v inštalácii prodigy (cestu zistíme pomocou 'prodigy stats') v súbore recipes/train.py upraviť funkciu data_to_spacy (mal by byť riadok 327). V novej verzii by to malo byť opravené. Do riadku treba pridať parameter eval_split. Pozn. aby --eval-split fungoval správne, je potrebné v inštalácii prodigy (cestu zistíme pomocou `prodigy stats`) v súbore `recipes/train.py` upraviť funkciu `data_to_spacy` (mal by byť riadok 327). V novej verzii by to malo byť opravené. Do riadku treba pridať parameter eval_split.
'json_data, eval_data, split = train_eval_split(json_data, eval_split)' `json_data, eval_data, split = train_eval_split(json_data, eval_split)`
### Štatistika o anotovaných dátach ### Štatistika o anotovaných dátach
- `prodigy stats wikiart` - informácie o počte prijatých a odmietnutých článkov - `prodigy stats wikiart` - informácie o počte prijatých a odmietnutých článkov pre konkrétny dataset v prodigy
- `python3 count.py` - informácie o počte jednotlivých entít - `python3 count.py` - Tabuľka pre informáciu o počte prijatých, odmietnutých a preskočených článkov z databázy. Taktiež informácia o množstve jednotlivých entít.
### Trénovanie modelu ### Trénovanie modelu
Založené na: https://git.kemt.fei.tuke.sk/dano/spacy-skmodel Založené na: https://git.kemt.fei.tuke.sk/dano/spacy-skmodel
### Štatistika o trénovaní
Po natrénovaní modelu vidíme iba skóre pre celý model. Aby sme sa dozvedeli informáciu o presnosti trénovania jednotlivých entít, využijeme `modelinfo.sh`