Hallucinációk ellen vitatkozással: Multi-ágens alapú konszenzuskereső rendszer fejlesztése
2025-2026 tavasz
Szoftver
Téma leírása
A hallgató egy olyan multi-ágens rendszert tervez, ahol nem egyetlen AI válaszol a felhasználónak, hanem több, eltérő "személyiséggel" és utasításkészlettel rendelkező ágens vitatja meg a problémát, hogy csökkentsék a tényszerű tévedéseket (hallucinációkat).
A nagy nyelvi modellek hajlamosak magabiztosan valótlan állításokat tenni. Ezt jelenleg emberi felülvizsgálattal szűrik, ami lassú és drága. A probléma automatizált megoldása az emberi vitakultúra mintázása: több szem többet lát alapon, az ágensek önellenőrzése és egymás korrigálása drasztikusan javíthatja a pontosságot.
A feladat részletes kifejtése: A rendszer architekturális felépítése a következő lépésekből áll:
-
Ágens definíciók: Különböző szerepkörök implementálása (pl. "A Kutató", aki adatot gyűjt, "A Szkeptikus", aki mindenbe beleköt, "A Moderátor", aki a vitát vezeti).
-
Vezérlési logika (Orchestration): Egy állapotgép (State Machine) alapú vezérlő létrehozása, amely meghatározza, mikor kinek a köre következik, és mikor tekinthető lezártnak a vita.
-
Vita-ciklus megvalósítása: A felhasználó feltesz egy komplex kérdést, az ágensek iteratívan finomítják a választ. A rendszernek transzparensnek kell lennie: a felhasználó láthassa a "gondolkodási folyamatot" és az érveket.
-
Konszenzus-generálás: A vita végén egy összefoglaló ágens létrehozza a végleges, validált választ.
Végeredmény: Egy webes chat-alkalmazás, ahol a felhasználó kérdésére a rendszer nem azonnal válaszol, hanem megjeleníti az ágensek közötti párbeszédet/vitát, majd a végleges konklúziót. A rendszer backendje kezeli a komplex ágens-állapotokat.
Javasolt technológiák:
Szükséges saját eszköz: Átlagos teljesítményű laptop.
A téma TDK dolgozatra is alkalmas, valamint több féléves projekt laborként is továbbvihető.
Maximális létszám:
2 fő