--- title: Oleh Poiasnik published: true taxonomy: category: [bp2025] tag: [rag,nlp] author: Daniel Hladek --- rok začiatku štúdia: 2022 # Bakalárska práca 2025 Nové zadanie: Chceme vytvoriť asistenta pre farmaceuta alebo zákazníka lekárne pre vyhľadávanie v príbalových letákoch. Staré zadanie: Vyhľadávanie právnych informácií pomocou neurónových sietí - Oboznámte sa s existujúcimi modelmi pre vyhľadávanie v texte. - Vytvorte systém pre vyhľadávanie v zákonoch a vyhláškach. - Vyhľadajte súvisiace paragrafy so zadanou otázkou - Vyhodnotte či je zadané tvrdenie v súlade s legislatívou alebo nie. RAG: Generovanie jazyka s pomocou vyhľadávania - Retrieval augmented generation Stretnutie 18.9.2024 Stav: - Vyskúšaný model bioBERT, cez Transformers, Anaconda na malom datasete na notebooku - ElasticSearch Python API - vlastný skript na indexovanie pomocou SBERT Úlohy: - vhodné modely pre slovenský jazyk: me5-base pre vektorové vyhľadávanie. Ale ako použijete ES, tak nie je potrebný. Pre generovanie: je možné použiť OpenAI API alebo HuggingfaceAPI, má obmedzenie. Otvorené modely: LLama3, RWKV, Sovenský Mistral 7B TBA. - Na začiatok skúste rozbehať postup s PrivateGPT, OpenAI API a vyhľadávaním (pomocou ES alebo me5-base alebo OpenAI API - ADA embedding). - Dáta dodá Kristián Sopkovič - cez Teams sa spojte. - Pokračujte v štúdiu Python, Transformers. Oboznámte sa s LangChain. - Prečítajte si tento článok https://arxiv.org/abs/1908.10084 a urobte si poznámky. Zásobník úloh: - Urobte množinu na vhodnotenie. Vytvoríte množinu vzorových otázok a odpovedí. Vyhodnotte celý proces. - Modely by mali bežať na našej infraštruktúre. Treba pripravť vhodný inferenčný server na našom HW, vybrať a dotrénovať vhodný model. Stretnutie 26.4.2024 Úlohy: - Zistite čo je to Retrieval Augmented Generation a napíšte o tom správu. - Naučte sa základy jazyka Python. - Podrobne si prejdite minimálne dva tutoriály. - Napíšte krátky report na 2 strany kde napíšete čo ste urobili a čo ste sa dozvedeli. - Nainštalujte si a vyskúšajte softvér PrivateGPT - Nainštalujte si prostredie Anaconda. Prejdite si knihu Dive Deep into Python 3. - Nainštalujte si PrivateGPT. Zistite ako funguje RAG. Zistite ako funguje ChatGPT. Zistite ako funguje vyhľadávanie pomocou SentenceTranformers. Napíšte o tom poznámky. - Prečítajte si knihu https://d2l.ai/ a napíšte si poznámky. Zásobník úloh: - Spracujte a indexujte slovenské zákony a vyhlášky. - Získajte zoznam právnych tvrdení ktoré je možné overiť. - Existuje množina zmlúv o prenájme v slovenskom jazyku. https://huggingface.co/datasets/mtarasovic/ner-rent-sk-dataset