From 45be53a4d46da34fee1d6d9cfb2d3eacfa9e4273 Mon Sep 17 00:00:00 2001 From: Jakub Maruniak Date: Tue, 24 Nov 2020 10:53:47 +0000 Subject: [PATCH] =?UTF-8?q?Aktualizovat=20=E2=80=9Epages/students/2016/jak?= =?UTF-8?q?ub=5Fmaruniak/dp2021/annotation/README.md=E2=80=9C?= MIME-Version: 1.0 Content-Type: text/plain; charset=UTF-8 Content-Transfer-Encoding: 8bit --- .../2016/jakub_maruniak/dp2021/annotation/README.md | 11 +++++++---- 1 file changed, 7 insertions(+), 4 deletions(-) diff --git a/pages/students/2016/jakub_maruniak/dp2021/annotation/README.md b/pages/students/2016/jakub_maruniak/dp2021/annotation/README.md index 6eac0d1a3..0fc2f8fd4 100644 --- a/pages/students/2016/jakub_maruniak/dp2021/annotation/README.md +++ b/pages/students/2016/jakub_maruniak/dp2021/annotation/README.md @@ -17,12 +17,15 @@ winpty docker run --name prodigy -it -p 8080:8080 -v C://Users/jakub/Desktop/ann - `./01_text_to_sent.sh` spustenie skriptu *text_to_sent.py*, ktorý rozdelí články na jednotlivé vety - `./02_ner_manual.sh` spustenie manuálneho anotačného procesu pre NER - `./03_export.sh` exportovanie anotovaných dát vo formáte json potrebnom pre spracovanie vo spacy. Možnosť rozdelenia na trénovacie (70%) a testovacie dáta (30%) (--eval-split 0.3). -Pozn. aby --eval-split fungoval správne, je potrebné v inštalácii prodigy (cestu zistíme pomocou 'prodigy stats') v súbore recipes/train.py upraviť funkciu data_to_spacy (mal by byť riadok 327). V novej verzii by to malo byť opravené. Do riadku treba pridať parameter eval_split. -'json_data, eval_data, split = train_eval_split(json_data, eval_split)' +Pozn. aby --eval-split fungoval správne, je potrebné v inštalácii prodigy (cestu zistíme pomocou `prodigy stats`) v súbore `recipes/train.py` upraviť funkciu `data_to_spacy` (mal by byť riadok 327). V novej verzii by to malo byť opravené. Do riadku treba pridať parameter eval_split. +`json_data, eval_data, split = train_eval_split(json_data, eval_split)` ### Štatistika o anotovaných dátach -- `prodigy stats wikiart` - informácie o počte prijatých a odmietnutých článkov -- `python3 count.py` - informácie o počte jednotlivých entít +- `prodigy stats wikiart` - informácie o počte prijatých a odmietnutých článkov pre konkrétny dataset v prodigy +- `python3 count.py` - Tabuľka pre informáciu o počte prijatých, odmietnutých a preskočených článkov z databázy. Taktiež informácia o množstve jednotlivých entít. ### Trénovanie modelu Založené na: https://git.kemt.fei.tuke.sk/dano/spacy-skmodel + +### Štatistika o trénovaní +Po natrénovaní modelu vidíme iba skóre pre celý model. Aby sme sa dozvedeli informáciu o presnosti trénovania jednotlivých entít, využijeme `modelinfo.sh`