Szabadítsd fel Lacit! Nagy nyelvi modell alapú chatbot Teamshez a szakmai gyakorlatok támogatására

2023-2024 tavasz

Nincs megadva

Téma leírása

Az egyetemi diploma megszerzésének egyik törvény által előírt feltétele a szkamai gyakorlat elvégzése. Bár a gyakorlat választásához sok információ megvan (többek között leírás, GYIK), mégis sok kérdés felmerül, amivel a gyakorlat szervezőjét, Blázovics Lászlót keresik meg a Hallgatók. 

A téma célja, hogy a hallgató

  • megismerkedjen a nagy nyelvi modellek alapjaival (LLM)
  • megismerje ezek finomhangolási módszereit (PEFT/LoRA)
  • képes legyen egy elérhető modell finomhangolására szöveges feladatok és válaszok segítségével
    • Ehhez megismerhet magas szintű keretrendszereket is (mint pl. a Ludwig)
  • teszt interfészt készítsen Gradio használatával
  • egy olyan Teams alapú chatbot készítése, amely a fenti modellre támaszkodva releváns módon válaszol a kérdésekre
  • RAG architektúra segítségével képes legyen élő adatokkal dolgozni (pl. szerződött vállalatok listájának ellenőrzése)
    • (Ehhez ki lehet próbálni magas szintű kódkönyvtárakat is, mint pl. az embedchain, vagy még komplexebbet, mint pl. a langchain)
  • tehermentesítse Lacit

 

A téma szakdolgozatnak, diplomadolgozatnak továbbfejleszthető.

Maximális létszám: 1 fő

Konzulens

Forstner Bertalan Dr. fényképe