zpwiki/pages/students/2016/jakub_maruniak/dp2021/annotation/README.md

748 B

Diplomový projekt 1 2020

  • príprava dát

    stiahnutie článkov z wiki pomocou nástroja dataminer, uložené v súbore dataminer.csv
    vytvorenie skriptu texttosent.py, ktorý rozdelí text na vety a zapíše ich do súboru textfile.csv

  • vytvorenie a spustenie docker kontajneru

    docker build . -t prodigy winpty docker run --name prodigy -it -p 8080:8080 -v C://Users/jakub/Desktop/annotation/work prodigy bash

  • spustenie anotačného procesu pre NER s návrhmi od modelu

    prodigy ner.correct wikiart sk_sk1 ./textfile.csv --label OSOBA,MIESTO,ORGANIZACIA,PRODUKT

  • anotované dáta možno exportovať vo formáte jsonl potrebnom pre spracovanie vo spacy

    prodigy db-out wikiart > ./annotations.jsonl