Szöveges válaszok automatikus kiértékelése nagy nyelvi modellel
2024-2025 ősz
Nincs megadva
Téma leírása
Az oktatói lét egyik nehezen automatizálható feladata azoknak a kisZH vagy laborbeugró feladatoknak a javítása, amelyekre szöveges válasz érkezik. Nagy nyelvi modellek segítségével azonban előzetes vélemény mondható arról, hogy egy adott válaszban a kritikus és elvárt gondolatok megjelennek-e, illetve helyesen jelennek-e meg.
A téma célja, hogy a hallgató
- megismerkedjen a nagy nyelvi modellek alapjaival (LLM)
- megismerje ezek finomhangolási módszereit (PEFT/LoRA)
- képes legyen egy elérhető modell finomhangolására szöveges feladatok és válaszok segítségével
- Ehhez megismerhet magas szintű keretrendszereket is (mint pl. a Ludwig)
- teszt interfészt készítsen Gradio használatával
- egy olyan Moodle plugin alkalmazást készítsen, amely a fenti modellre támaszkodva releváns módon végez kiértékeléseket
- RAG architektúra segítségével képes legyen élő adatokkal dolgozni (pl. személyre szabott feladatok)
- (Ehhez ki lehet próbálni magas szintű kódkönyvtárakat is, mint pl. az embedchain, vagy még komplexebbet, mint pl. a langchain)
- tehermentesítse Bertalant
A téma szakdolgozatnak, diplomadolgozatnak továbbfejleszthető.
Maximális létszám:
1 fő