This commit is contained in:
Daniel Hládek 2026-09-23 14:23:18 +02:00
parent 45a4828511
commit 658115cc26

View File

@ -0,0 +1,38 @@
---
title: Kristián Sokolský
published: true
taxonomy:
category: [bp2027]
tag: [llm, alignment]
author: Daniel Hladek
---
rok začiatku štúdia: 2024
# Bakalársky projekt 2027
Zarovnávanie veľkých jazykových modelov
Stretnutie 23.9.2026
Úlohy:
- Naučte sa [Python](https://student.kemt.fei.tuke.sk/python/home)
- Nainštalujte si systém Anaconda
- Oboznámte sa s knižnicou HF Transformers
- Zistite, ako funguje neurónová sieť typu Transformer a ako sa trénuje veľký jazykový model. Napíšte o tom krátku správu (2 alebo 3 strany) kde uvediete aj relevantné vedecké články.
- Pozrite si záznam z [DP Artur Hyrenko](https://zp.kemt.fei.tuke.sk/students/2021/artur_hyrenko)
- Zistite, čo je to kontrolované učenie a čo je to učenie odmenou a trestom (reinforcement learning). Napíšte o tom krátku správu (2 alebo 3 strany) kde uvediete aj relevantné vedecké články.
- Oboznámte sa s frameworkom [TRL](https://huggingface.co/docs/trl/en/index)
Možné ciele semestrálneho projektu:
- Zlepšenie bezpečnosti jazykových modelov.
- Prípravu nových dát alebo zlepšenie existujúcich dát pre zarovnanie jazykových modelov. Napr. príprava korpusu Modrý koník alebo Modrá strecha.
- Výber najlepších metód a hyperparametrov pre zarovanie LLM.