From b4aad5d4421f0f194345a5bdf2ee3e5041da7547 Mon Sep 17 00:00:00 2001 From: dano Date: Thu, 24 Nov 2022 11:51:06 +0000 Subject: [PATCH] Update 'pages/students/2018/david_omasta/README.md' --- pages/students/2018/david_omasta/README.md | 3 ++- 1 file changed, 2 insertions(+), 1 deletion(-) diff --git a/pages/students/2018/david_omasta/README.md b/pages/students/2018/david_omasta/README.md index 61e1ff49..299e88c8 100644 --- a/pages/students/2018/david_omasta/README.md +++ b/pages/students/2018/david_omasta/README.md @@ -56,7 +56,8 @@ Stav: - [-] písomne vysvetlite ako funguje neurónová sieť typu Transformer . Uveďte odkazy na odborné články. - [ ] Písomne vysvetlite, čo to je generatívny jazykový model a ako funguje. Uveďte odkazy na najnovšie články o generatívnych jazykových modeloch - T5, GPT, BART. -- Vyskúšajte tento tutoriál https://towardsdatascience.com/fine-tune-a-non-english-gpt-2-model-with-huggingface-9acc2dc7635b +- Vyskúšajte tento skript: https://github.com/huggingface/transformers/tree/main/examples/pytorch/language-modeling +- Pozrite si tento tutoriál https://towardsdatascience.com/fine-tune-a-non-english-gpt-2-model-with-huggingface-9acc2dc7635b - Pozrite si toto demo https://huggingface.co/blog/few-shot-learning-gpt-neo-and-inference-api - Vytvorte si git repozitár do ktoréhu budete ukladať Vaše skripty. - Vyskúšajte slovenský GPT model https://huggingface.co/Milos/slovak-gpt-j-162M (je malý, stredný, veľký)