Update 'pages/students/2018/david_omasta/README.md'

This commit is contained in:
dano 2022-11-24 11:45:30 +00:00
parent 81b9a37659
commit bf509acc4b

View File

@ -52,6 +52,15 @@ Stav:
- nainštalované prostredie na idoc, spustený hf skript run_generation.py - nainštalované prostredie na idoc, spustený hf skript run_generation.py
- prečítané články. - prečítané články.
Úlohy:
- [-] písomne vysvetlite ako funguje neurónová sieť typu Transformer . Uveďte odkazy na odborné články.
- [ ] Písomne vysvetlite, čo to je generatívny jazykový model a ako funguje. Uveďte odkazy na najnovšie články o generatívnych jazykových modeloch - T5, GPT, BART.
- Vyskúšajte tento tutoriál https://towardsdatascience.com/fine-tune-a-non-english-gpt-2-model-with-huggingface-9acc2dc7635b
- Pozrite si toto demo https://huggingface.co/blog/few-shot-learning-gpt-neo-and-inference-api
- Vytvorte si git repozitár do ktoréhu budete ukladať Vaše skripty.
- Vyskúšajte slovenský GPT model https://huggingface.co/Milos/slovak-gpt-j-162M (je malý, stredný, veľký)
Stretnutie 14.10. Stretnutie 14.10.