zpwiki/pages/students/2016/jakub_maruniak/dp2021/README.md

Diplomový projekt 2 2020

Stav:

• aktualizácia anotačnej schémy (jedná sa o testovaciu schému s vlastnými dátami)
• vykonaných niekoľko anotácii, trénovanie v Prodigy - nízka presnosť = malé množstvo anotovaných dát. Trénovanie v spacy zatiaľ nefunguje.
• Štatistiky o množstve prijatých a odmietnutých anotácii získame z Prodigy: prodigy stats wikiart. Zatiaľ 156 anotácii (151 accept, 5 reject). Na získanie prehľadu o množstve anotácii jednotlivých entít potrebujeme vytvoriť skript.

Diplomový projekt 1 2020

• vytvorenie a spustenie docker kontajneru

./build-docker.sh
docker run -it -p 8080:8080 -v ${PWD}:/work prodigy bash
# (v mojom prípade:)
winpty docker run --name prodigy -it -p 8080:8080 -v C://Users/jakub/Desktop/annotation/work prodigy bash

Spustenie anotačnej schémy

• dataminer.csv články stiahnuté z wiki
• cd ner
• ./01_text_to_sent.sh spustenie skriptu text_to_sent.py, ktorý rozdelí články na jednotlivé vety
• ./02_ner_correct.sh spustenie anotačného procesu pre NER s návrhmi od modelu
• ./03_ner_export.sh exportovanie anotovaných dát vo formáte jsonl potrebnom pre spracovanie vo spacy