2024-02-15 10:43:50 +00:00
|
|
|
---
|
|
|
|
|
title: Dávid Kostilník
|
2024-02-16 12:04:12 +00:00
|
|
|
published: true
|
2024-02-15 10:43:50 +00:00
|
|
|
taxonomy:
|
|
|
|
|
category: [dp2025]
|
|
|
|
|
tag: [ir]
|
|
|
|
|
author: Daniel Hladek
|
|
|
|
|
---
|
|
|
|
|
|
|
|
|
|
rok začiatku štúdia: 2020
|
|
|
|
|
|
|
|
|
|
# Diplomová práca 2025
|
|
|
|
|
|
2024-02-15 11:08:18 +00:00
|
|
|
Ešte sa rozhodne.
|
|
|
|
|
|
2024-02-15 10:43:50 +00:00
|
|
|
Téma:
|
|
|
|
|
|
|
|
|
|
Sémantické vyhľadávanie pomocou veľkých modelov
|
|
|
|
|
|
2024-02-16 12:04:12 +00:00
|
|
|
- Tvorba datasetu prekladom, využitie existujúcich datasetov
|
2024-10-29 09:54:17 +00:00
|
|
|
- Dotrénovanie existujúceho modelu pomocou preloženého MS MARCO.
|
2024-02-15 10:43:50 +00:00
|
|
|
|
2024-02-15 11:08:18 +00:00
|
|
|
Ciele:
|
|
|
|
|
|
|
|
|
|
- Zlepšiť RAG.
|
|
|
|
|
|
2024-10-29 10:01:56 +00:00
|
|
|
|
|
|
|
|
Stretnutie 29.1.2024
|
|
|
|
|
|
|
|
|
|
Stav:
|
|
|
|
|
|
|
|
|
|
- Prečítané nejaké články. Inak nič.
|
|
|
|
|
|
|
|
|
|
Úlohy:
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
- Podrobne si naštudujte a vyskúšajte framework Sentence Transformers. Využite Google Colab.
|
|
|
|
|
- Podrobne si naštudujte databázu MS MARCO. Zistite a vyskúšajte dotrénovanie anglického modelu na databáze MS Marco.
|
|
|
|
|
|
|
|
|
|
Zásobník úloh:
|
|
|
|
|
|
|
|
|
|
- pracujte na servri quadro a prostredí Anaconda.
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
## Diplomový projekt 2024
|
|
|
|
|
|
2024-04-04 11:10:31 +00:00
|
|
|
Stretnutie 4.4. 2024
|
|
|
|
|
|
|
|
|
|
Úlohy:
|
|
|
|
|
|
|
|
|
|
- Oboznámte sa s tým, ako funguje neurónová sieť typu Transformer. Urobte si poznámky. Poznačete si zdroje, uprednostnite vedecké články.
|
|
|
|
|
- Oboznámte sa ako funguje rekurentná neurónová sieť. Sústreďte sa na typ RWKV. Urobte si poznmámy.
|
|
|
|
|
- Vyskúšajte si túto NN. Začnite tu https://wiki.rwkv.com/basic/play.html
|
|
|
|
|
|
|
|
|
|
Zásobník úloh:
|
|
|
|
|
|
|
|
|
|
- Oboznámte sa ako funguje NN Mamba.
|
|
|
|
|
- Zostavte RAG systém s pomocou RWKV.
|
|
|
|
|
- Oboznámte sa ako funguje Sentence Transformer.
|
|
|
|
|
- Porovnajte embeddingy RWKV s inými metódami (Sentence Transformers)
|
|
|
|
|
|
2024-02-15 11:08:18 +00:00
|
|
|
|
|
|
|
|
Stretnutie 15.2.2024
|
|
|
|
|
|
|
|
|
|
Úlohy:
|
|
|
|
|
|
|
|
|
|
- Oboznámte sa s prácou [K. Sopkovič](/students/2019/kristian_sopkovic) a [M. Stromko](/students/2019/michal_stromko).
|
2024-10-29 10:01:56 +00:00
|
|
|
|
2024-02-15 11:08:18 +00:00
|
|
|
|
