zpwiki/pages/students/2022/oleh_poiasnik
2024-09-18 08:04:16 +00:00
..
README.md Update pages/students/2022/oleh_poiasnik/README.md 2024-09-18 08:04:16 +00:00

title published taxonomy
Oleh Poiasnik true
category tag author
bp2025
rag
nlp
Daniel Hladek

rok začiatku štúdia: 2022

Bakalárska práca 2025

Nové zadanie:

Chceme vytvoriť asistenta pre farmaceuta alebo zákazníka lekárne pre vyhľadávanie v príbalových letákoch.

Staré zadanie:

Vyhľadávanie právnych informácií pomocou neurónových sietí

  • Oboznámte sa s existujúcimi modelmi pre vyhľadávanie v texte.
  • Vytvorte systém pre vyhľadávanie v zákonoch a vyhláškach.
  • Vyhľadajte súvisiace paragrafy so zadanou otázkou
  • Vyhodnotte či je zadané tvrdenie v súlade s legislatívou alebo nie.

RAG: Generovanie jazyka s pomocou vyhľadávania - Retrieval augmented generation

Stretnutie 18.9.2024

Stav:

  • Vyskúšaný model bioBERT, cez Transformers, Anaconda na malom datasete na notebooku
  • ElasticSearch Python API
  • vlastný skript na indexovanie pomocou SBERT

Úlohy:

  • vhodné modely pre slovenský jazyk: me5-base pre vektorové vyhľadávanie. Ale ako použijete ES, tak nie je potrebný. Pre generovanie: je možné použiť OpenAI API alebo HuggingfaceAPI, má obmedzenie. Otvorené modely: LLama3, RWKV, Sovenský Mistral 7B TBA.
  • Na začiatok skúste rozbehať postup s PrivateGPT, OpenAI API a vyhľadávaním (pomocou ES alebo me5-base alebo OpenAI API - ADA embedding).
  • Urobte si lokálnu inštaláciu PrivateGPT na Vaešom notebooku. Zmente konfiguráciu - modely a prompty
  • Dáta dodá Kristián Sopkovič - cez Teams sa spojte.
  • Pokračujte v štúdiu Python, Transformers. Oboznámte sa s LangChain.
  • Prečítajte si tento článok https://arxiv.org/abs/1908.10084 a urobte si poznámky.

Zásobník úloh:

  • Urobte množinu na vhodnotenie. Vytvoríte množinu vzorových otázok a odpovedí. Vyhodnotte celý proces.
  • Modely by mali bežať na našej infraštruktúre. Treba pripravť vhodný inferenčný server na našom HW, vybrať a dotrénovať vhodný model.
  • Preskúmať využitie Knowledge Graph pre spracovanie medicínskych dát.

Stretnutie 26.4.2024

Úlohy:

  • Zistite čo je to Retrieval Augmented Generation a napíšte o tom správu.
  • Naučte sa základy jazyka Python.
  • Podrobne si prejdite minimálne dva tutoriály.
  • Napíšte krátky report na 2 strany kde napíšete čo ste urobili a čo ste sa dozvedeli.
  • Nainštalujte si a vyskúšajte softvér PrivateGPT
  • Nainštalujte si prostredie Anaconda. Prejdite si knihu Dive Deep into Python 3.
  • Nainštalujte si PrivateGPT. Zistite ako funguje RAG. Zistite ako funguje ChatGPT. Zistite ako funguje vyhľadávanie pomocou SentenceTranformers. Napíšte o tom poznámky.
  • Prečítajte si knihu https://d2l.ai/ a napíšte si poznámky.

Zásobník úloh: