Aktualizovat sk1/README.md
This commit is contained in:
parent
759274677c
commit
86fcc8d58f
169
sk1/README.md
169
sk1/README.md
@ -34,4 +34,171 @@ CREATE TABLE IF NOT EXISTS history (
|
|||||||
text TEXT NOT NULL,
|
text TEXT NOT NULL,
|
||||||
prediction TEXT NOT NULL,
|
prediction TEXT NOT NULL,
|
||||||
timestamp TIMESTAMP NOT NULL
|
timestamp TIMESTAMP NOT NULL
|
||||||
);```
|
);
|
||||||
|
```
|
||||||
|
Popis polí:
|
||||||
|
|
||||||
|
`id`: automatický primárny kľúč (číselný identifikátor)
|
||||||
|
`text`: vstupný text, ktorý užívateľ zadal
|
||||||
|
`prediction`: výstup modelu (napr. "Neutrálny text")
|
||||||
|
`timestamp`: dátum a čas, kedy bol text spracovaný
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
## 3. Štruktúra projektu
|
||||||
|
|
||||||
|
Projekt má nasledovnú štruktúru:
|
||||||
|
|
||||||
|
```
|
||||||
|
skuska/
|
||||||
|
├── Dockerfile # multistage Dockerfile (frontend + backend)
|
||||||
|
├── prepare-app-cloud.sh # skript na nasadenie aplikácie do GCP
|
||||||
|
├── remove-app-cloud.sh # skript na odstránenie služby
|
||||||
|
├── history.json # synchronizovaný záznam histórie (čítaný frontend)
|
||||||
|
├── frontend/ # React frontend projekt (vite)
|
||||||
|
│ └── ... # komponenty, assets, App.jsx atď.
|
||||||
|
├── backend/ # Flask backend
|
||||||
|
│ ├── app.py # hlavný backend súbor (Flask API)
|
||||||
|
│ └── requirements.txt # python balíčky (model sa sťahuje dynamicky z Hugging Face)
|
||||||
|
```
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
## 4. Opis odovzdaných súborov a konfigurácie:
|
||||||
|
|
||||||
|
### `backend/app.py`: hlavný backend aplikácie vo Flasku.
|
||||||
|
Obsahuje:
|
||||||
|
|
||||||
|
- endpoint `/api/predict` na AI predikciu
|
||||||
|
|
||||||
|
- `/api/history`, `/api/history/db` a `/api/history/reset` - slúžia na prácu s históriou. /api/history číta zo súboru history.json, ktorý je automaticky synchronizovaný s databázou. /api/history/db číta priamo z PostgreSQL databázy a zobrazí zoznam záznamov zoradených podľa času. /api/history/reset vymaže všetky záznamy z tabuľky history v databáze a zároveň prepíše history.json na prázdny zoznam.
|
||||||
|
|
||||||
|
- prepojenie na PostgreSQL (cez psycopg2 a DATABASE_URL)
|
||||||
|
|
||||||
|
- uloženie a synchronizáciu histórie
|
||||||
|
|
||||||
|
- automatické stiahnutie modelu z Hugging Face pri štarte aplikácie
|
||||||
|
|
||||||
|
### `frontend/`: React projekt vytvorený cez Vite.
|
||||||
|
- Obsahuje komponenty pre UI, API volania, zobrazovanie výsledkov a histórie.
|
||||||
|
|
||||||
|
### `backend/`: obsahuje `app.py`, `requirements.txt`
|
||||||
|
|
||||||
|
### Dockerfile: kombinácia frontend + backend do jedineho obrazu
|
||||||
|
|
||||||
|
Výrez Dockerfile:
|
||||||
|
|
||||||
|
```dockerfile
|
||||||
|
FROM node:18 AS frontend
|
||||||
|
WORKDIR /frontend
|
||||||
|
COPY frontend/ .
|
||||||
|
RUN npm install && npm run build
|
||||||
|
|
||||||
|
FROM python:3.10-slim
|
||||||
|
WORKDIR /app
|
||||||
|
COPY backend/ .
|
||||||
|
RUN apt-get update && apt-get install -y gcc libpq-dev && pip install -r requirements.txt
|
||||||
|
COPY --from=frontend /frontend/dist /app/static
|
||||||
|
CMD ["python", "app.py"]
|
||||||
|
```
|
||||||
|
### `prepare-app-cloud.sh`:
|
||||||
|
Bash skript, ktorý:
|
||||||
|
- definuje všetky dôležité premenne (názov projektu, región, názov obrazu a databázy)
|
||||||
|
- zostaví Docker image pomocou gcloud builds submit
|
||||||
|
- nasadí image do Google Cloud Run cez gcloud run deploy
|
||||||
|
- nastaví environmentálnu premennú DATABASE_URL
|
||||||
|
- prepojí službu so zvolenou databázou cez --add-cloudsql-instances
|
||||||
|
- vyžaduje spustený gcloud CLI a prihláseného používateľa
|
||||||
|
|
||||||
|
### `remove-app-cloud.sh`:
|
||||||
|
Bash skript, ktorý:
|
||||||
|
- pomocou gcloud run services delete zmaže existujúcu službu z Google Cloud Run
|
||||||
|
- využíva parameter --quiet na potlačenie výzvy na potvrdenie
|
||||||
|
- vyžaduje rovnaké prostredie ako skript prepare-app.sh
|
||||||
|
|
||||||
|
### `history.json`:
|
||||||
|
- vygenerovaný automaticky zo stavu databázy (synchronizuje sa pri každom uložení nového záznamu pomocou funkcie `sync_history_file()`)
|
||||||
|
|
||||||
|
### Pripojenie k databáze:
|
||||||
|
|
||||||
|
Premenná:
|
||||||
|
|
||||||
|
```
|
||||||
|
DATABASE_URL=postgresql://user:password@/mydb?host=/cloudsql/hatespeechsite:europe-central2:hate-db
|
||||||
|
```
|
||||||
|
|
||||||
|
---
|
||||||
|
## 5. Návod na použitie aplikácie v prehliadači:
|
||||||
|
|
||||||
|
1. Otvorte v prehliadači URL:
|
||||||
|
```
|
||||||
|
https://hate-detektor-19732600168.europe-central2.run.app/
|
||||||
|
```
|
||||||
|
2. Zadajte text do formulára
|
||||||
|
3. Kliknite na "Skontrolovať"
|
||||||
|
4. Zobrazí sa výsledok klasifikácie
|
||||||
|
5. Pod formulárom sa nachádza sekcia histórie
|
||||||
|
|
||||||
|
Pozamka: môžete resetovat' historiu priamo cez terminál príkazom:
|
||||||
|
```
|
||||||
|
curl -X POST https://hate-detektor-19732600168.europe-central2.run.app/api/history/reset | jq
|
||||||
|
```
|
||||||
|
|
||||||
|
---
|
||||||
|
## 6. Podmienky pre spustenie skriptov:
|
||||||
|
|
||||||
|
### `prepare-app-cloud.sh`:
|
||||||
|
|
||||||
|
vyžaduje:
|
||||||
|
|
||||||
|
- GCP projekt s povolenými službami: Artifact Registry, Cloud Build, Cloud Run, Cloud SQL
|
||||||
|
- `gcloud` CLI s aktívnym prihlásením a nastaveným projektom
|
||||||
|
|
||||||
|
vykonáva:
|
||||||
|
|
||||||
|
- build Docker image
|
||||||
|
- push do Artifact Registry
|
||||||
|
- deploy do Cloud Run + pripojenie k Cloud SQL + nastavenie DATABASE_URL
|
||||||
|
- používa premenné prostredia pre názvy služby a databázy
|
||||||
|
- skript je opakovateľný a nevyžaduje manuálnu interakciu
|
||||||
|
|
||||||
|
### `remove-app-cloud.sh`:
|
||||||
|
|
||||||
|
- odstráni službu z Cloud Run
|
||||||
|
- spustenie je okamžité bez potreby interakcie
|
||||||
|
- tichý režim (bez potvrdenia) pomocou parametra --quiet
|
||||||
|
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
## 7. Externé zdroje:
|
||||||
|
|
||||||
|
Trénovaný model:
|
||||||
|
|
||||||
|
- Použitý model: `slovak-t5-small`, finetunovaný osobne
|
||||||
|
- Model bol trénovaný na slovenskom datasete pozostávajúcom z anotovaných viet so zameraním na identifikáciu nenávistného prejavu
|
||||||
|
- Tréning prebehol s využitím metódy PEFT (Parameter-Efficient Fine-Tuning) konkrétne cez technológiu LoRA (Low-Rank Adaptation), čo umožnilo efektívne doladiť model s minimálnym počtom trénovateľných parametrov
|
||||||
|
- Model dosiahol presnosť 71 % pri testovaní na slovenskom dátovom korpuse
|
||||||
|
|
||||||
|
### Model: `tetianamohorian/hate_speech_model` z HuggingFace (transformers model BERT)
|
||||||
|
|
||||||
|
- Knižnice a frameworky:
|
||||||
|
|
||||||
|
- `transformers`, `torch` pre modelovanie
|
||||||
|
- `Flask`, `psycopg2`, `pytz` pre backend
|
||||||
|
- `React`, `Vite`, `fetch` pre frontend
|
||||||
|
|
||||||
|
---
|
||||||
|
## 8. Zhrnutie a vykonané kroky:
|
||||||
|
|
||||||
|
✅ Vytvorený frontend v Reacte s použitím Vite
|
||||||
|
✅ Vytvorený backend vo Flasku s REST API
|
||||||
|
✅ Nasadený AI model trénovaný na slovenskom datasete (slovak-t5-small, LoRA, 71 % presnosť)
|
||||||
|
✅ Prepojenie aplikácie s databázou Cloud SQL (PostgreSQL)
|
||||||
|
✅ Vytvorená databázová tabuľka history s políčkami: id, text, prediction, timestamp
|
||||||
|
✅ Implementovaná synchronizácia databázy s `history.json`
|
||||||
|
✅ Nasadenie aplikácie pomocou Dockeru a Google Cloud Run
|
||||||
|
✅ Vytvorené shellové skripty na deploy (prepare-app-cloud.sh) a odstránenie (remove-app-cloud.sh)
|
||||||
|
✅ Zabezpečený verejný prístup cez HTTPS
|
||||||
|
✅ Otestované API: `/api/predict`, `/api/history`, `/api/history/reset`, `/api/history/db`
|
||||||
|
|
||||||
|
|||||||
Loading…
Reference in New Issue
Block a user