Prompt Injection támadások elleni védekezési mechanizmusok
2026-2027 ősz
Szoftver
Téma leírása
A téma az LLM alapú rendszerek egyik legfontosabb biztonsági kihívására fókuszál. A hallgató feladata olyan módszerek és architektúrák vizsgálata, illetve prototípus megvalósítása lehet, amelyek képesek felismerni, megelőzni vagy kezelni a prompt injection típusú támadásokat. A kutatás kiterjedhet nemcsak szöveges, hanem képi és egyéb multimodális bemenetek validálására is, vizsgálva az ezekből eredő potenciális támadási lehetőségeket és a megfelelő védekezési stratégiákat.
Külső partner: Nemetschek SE
Maximális létszám:
2 fő