tuke/zpwiki
1
0
Fork 0
forked from KEMT/zpwiki
Code Issues Pull Requests Projects Releases Wiki Activity
0534b21a1a
zpwiki/pages/students/2020/david_kostilnik/README.md

1.1 KiB
Raw Blame History

title published taxonomy
Dávid Kostilník true
category tag author
dp2025
ir
Daniel Hladek

rok začiatku štúdia: 2020

Diplomová práca 2025

Ešte sa rozhodne.

Téma:

Sémantické vyhľadávanie pomocou veľkých modelov

  • Tvorba datasetu prekladom, využitie existujúcich datasetov
  • Dotrénovanie existujúceho modelu pomocou preloženého MS MARCO.

Ciele:

  • Zlepšiť RAG.

Stretnutie 4.4. 2024

Úlohy:

  • Oboznámte sa s tým, ako funguje neurónová sieť typu Transformer. Urobte si poznámky. Poznačete si zdroje, uprednostnite vedecké články.
  • Oboznámte sa ako funguje rekurentná neurónová sieť. Sústreďte sa na typ RWKV. Urobte si poznmámy.
  • Vyskúšajte si túto NN. Začnite tu https://wiki.rwkv.com/basic/play.html

Zásobník úloh:

  • Oboznámte sa ako funguje NN Mamba.
  • Zostavte RAG systém s pomocou RWKV.
  • Oboznámte sa ako funguje Sentence Transformer.
  • Porovnajte embeddingy RWKV s inými metódami (Sentence Transformers)

Stretnutie 15.2.2024

Úlohy: