lp832ut/zpwiki
1
0
Fork 0
forked from KEMT/zpwiki
Code Issues Pull Requests Releases Wiki Activity

Aktualizovat „pages/students/2016/jakub_maruniak/dp2021/annotation/README.md“

Browse Source
This commit is contained in:
Jakub Maruniak 2020-05-24 17:50:38 +00:00
parent 83cb0eb6b8
commit 4d4fa7c3c8
1 changed files with 15 additions and 6 deletions
Show Stats Download Patch File Download Diff File Expand all files Collapse all files

21
pages/students/2016/jakub_maruniak/dp2021/annotation/README.md
View File

@ -1,16 +1,25 @@
## Diplomový projekt 1 2020
- vytvorenie a spustenie docker kontajneru
> `./build-docker.sh`
>
> `docker run -it -p 8080:8080 -v ${PWD}:/work prodigy bash`
>
> (v mojom prípade):
>
> `winpty docker run --name prodigy -it -p 8080:8080 -v C://Users/jakub/Desktop/annotation/work prodigy bash`
- príprava dát
stiahnutie článkov z wiki pomocou nástroja dataminer, uložené v súbore *dataminer.csv*
vytvorenie skriptu *text_to_sent.py*, ktorý rozdelí text na vety a zapíše ich do súboru *textfile.csv*
vytvorený skript *text_to_sent.py* rozdelí text na jednotlivé vety a zapíše ich do súboru *textfile.csv*
> `cd ner`
>
> `./01_text_to_sent.sh`
- vytvorenie a spustenie docker kontajneru
> docker build . -t prodigy
> winpty docker run --name prodigy -it -p 8080:8080 -v C://Users/jakub/Desktop/annotation/work prodigy bash
- spustenie anotačného procesu pre NER s návrhmi od modelu
> prodigy ner.correct wikiart sk_sk1 ./textfile.csv --label OSOBA,MIESTO,ORGANIZACIA,PRODUKT
> `./02_ner_correct.sh`
- anotované dáta možno exportovať vo formáte jsonl potrebnom pre spracovanie vo spacy
> prodigy db-out wikiart > ./annotations.jsonl
> `./03_ner_export.sh`