dmytro_ushatenko/pages/students/2016/jakub_maruniak/dp2021/annotation/README.md

16 lines
744 B
Markdown
Raw Normal View History

## Diplomový projekt 1 2020
- príprava dát
stiahnutie článkov z wiki pomocou nástroja dataminer, uložené v súbore dataminer.csv
vytvorenie skriptu text_to_sent.py, ktorý rozdelí text na vety a zapíše ich do súboru textfile.csv
- vytvorenie a spustenie docker kontajneru
> docker build . -t prodigy
> winpty docker run --name prodigy -it -p 8080:8080 -v C://Users/jakub/Desktop/annotation/work prodigy bash
- spustenie anotačného procesu pre NER s návrhmi od modelu
> prodigy ner.correct wikiart sk_sk1 ./textfile.csv --label OSOBA,MIESTO,ORGANIZACIA,PRODUKT
- anotované dáta možno exportovať vo formáte jsonl potrebnom pre spracovanie vo spacy
> prodigy db-out wikiart > ./annotations.jsonl