forked from KEMT/zpwiki
Aktualizovat „pages/students/2016/jakub_maruniak/dp2021/annotation/README.md“
This commit is contained in:
parent
99f36d3050
commit
fd9a0f2015
@ -20,12 +20,28 @@ winpty docker run --name prodigy -it -p 8080:8080 -v C://Users/jakub/Desktop/ann
|
||||
Pozn. aby --eval-split fungoval správne, je potrebné v inštalácii prodigy (cestu zistíme pomocou `prodigy stats`) v súbore `recipes/train.py` upraviť funkciu `data_to_spacy` (mal by byť riadok 327). V novej verzii by to malo byť opravené. Do riadku treba pridať parameter eval_split.
|
||||
`json_data, eval_data, split = train_eval_split(json_data, eval_split)`
|
||||
|
||||
### Anotované databázy
|
||||
- `./ner/skner/sknerv4.jsonl` - Aktuálna anotovaná databáza z https://skner.tukekemt.xyz/ (Celkovo cca 5000 článkov)
|
||||
- `./ner/wikiart/wikiart2.jsonl` - Vlastná databáza, články rozdelené na vety (Celkovo cca 1300 viet)
|
||||
- Presná štatistika o databázach bude doplnená
|
||||
|
||||
### Štatistika o anotovaných dátach
|
||||
- `prodigy stats wikiart` - informácie o počte prijatých a odmietnutých článkov pre konkrétny dataset v prodigy
|
||||
- `python3 count.py` - Tabuľka pre informáciu o počte prijatých, odmietnutých a preskočených článkov z databázy. Taktiež informácia o množstve jednotlivých entít.
|
||||
|
||||
### Vizualizácia anotovaných dát
|
||||
- `streamlit run visualizer.py visualize ./dataset.jsonl` - Vypíše anotácie zo zvolenej databázy na lokálnej adrese http://192.168.1.26:8501
|
||||
|
||||
### Trénovanie modelu
|
||||
Založené na: https://git.kemt.fei.tuke.sk/dano/spacy-skmodel
|
||||
- Na trénovanie NER využitá vstavaná funkcia spacy train
|
||||
- Testované aj s custom skriptom na trénovanie - `custom_train.py` - približne rovnaké výsledky, neporovnateľne dlhší čas trénovania
|
||||
|
||||
### Štatistika o trénovaní
|
||||
Po natrénovaní modelu vidíme iba skóre pre celý model. Aby sme sa dozvedeli informáciu o presnosti trénovania jednotlivých entít, využijeme `modelinfo.sh`
|
||||
|
||||
### Scripts
|
||||
`python scripts.py [command] [arguments]`
|
||||
|
||||
| Príkaz | Popis | Argumenty |
|
||||
| ---------- | ------------------ | ------------------- |
|
||||
| `count` | Vypíše štatistiky o databáze vo formáte JSONL z Prodigy.| dataset_path|
|
||||
| `delete_annot` | Vytvorí samostatnú databázu s anotáciami iba od zvoleného anotátora.| annotator, dataset_path, new_dataset_path|
|
||||
| `modelinfo`| Vypíše informácie o natrénovanom modeli (Precision, Recall a F-skóre), zároveň aj o jednotlivých entitách. | - |
|
||||
|
Loading…
Reference in New Issue
Block a user