.. | ||
ner | ||
train | ||
build-docker.sh | ||
count.py | ||
Dockerfile | ||
modelinfo.sh | ||
README.md |
Diplomový projekt 2 2020
- vytvorenie a spustenie docker kontajneru
./build-docker.sh
winpty docker run --name prodigy -it -p 8080:8080 -v C://Users/jakub/Desktop/annotation-master/annotation/work prodigy bash
Spustenie anotačnej schémy
dataminer.csv
články stiahnuté z wikicd ner
./01_text_to_sent.sh
spustenie skriptu text_to_sent.py, ktorý rozdelí články na jednotlivé vety./02_ner_manual.sh
spustenie manuálneho anotačného procesu pre NER./03_export.sh
exportovanie anotovaných dát vo formáte json potrebnom pre spracovanie vo spacy. Možnosť rozdelenia na trénovacie (70%) a testovacie dáta (30%) (--eval-split 0.3).
Štatistika o anotovaných dátach
prodigy stats wikiart
- informácie o počte prijatých a odmietnutých článkovpython3 count.py
- informácie o počte jednotlivých entít
Trénovanie modelu
Založené na: https://git.kemt.fei.tuke.sk/dano/spacy-skmodel