zpwiki/pages/students/2016/jakub_maruniak/dp2021/annotation/README.md

Diplomový projekt 2 2020

• vytvorenie a spustenie docker kontajneru

./build-docker.sh
winpty docker run --name prodigy -it -p 8080:8080 -v C://Users/jakub/Desktop/annotation-master/annotation/work prodigy bash

Spustenie anotačnej schémy

• dataminer.csv články stiahnuté z wiki
• cd ner
• ./01_text_to_sent.sh spustenie skriptu text_to_sent.py, ktorý rozdelí články na jednotlivé vety
• ./02_ner_manual.sh spustenie manuálneho anotačného procesu pre NER
• ./03_export.sh exportovanie anotovaných dát vo formáte json potrebnom pre spracovanie vo spacy. Možnosť rozdelenia na trénovacie (70%) a testovacie dáta (30%) (--eval-split 0.3).

Štatistika o anotovaných dátach

• prodigy stats wikiart - informácie o počte prijatých a odmietnutých článkov
• python3 count.py - informácie o počte jednotlivých entít

Trénovanie modelu

Založené na: https://git.kemt.fei.tuke.sk/dano/spacy-skmodel