Kvantálási hiba terjedése konvolúciós neurális hálózatokban

2023-2024 tavasz

Nincs megadva

Téma leírása

A gépi tanulás (Machine Learning) alkalmazásoknak két fő életciklusa van: a tanulási fázis, mely során a neurális hálózatot egy adott feladat megoldására optimalizáljuk, hangoljuk, illetve az inferencia, amikor a betanult hálót a probléma megoldására felhasználjuk. A gépi tanulás tipikusan nagy számítási teljesítménnyel rendelkező, videókártyákkal felszerelt számítógépeken történik, míg az inferenciára bizonyos esetekben alacsony fogyasztású, olcsó, kis számítási teljesítményű beágyazott rendszereken kerül sor. Ezek a rendszerek jellemzően speciális neurális háló gyorsító modulokkal vannak felszerelve.

Míg a neurális hálók tanítása legtöbbször lebegőpontos számítással történik, a speciális beágyazott gyorsítómagok gyakran csak fixpontos számábrázolásra képesek. Ennek következtében a betanítás és az inferencia fázisa között a neurális háló paraméterein kvantálást alkalmazunk. A kvantálás során bevezetett hiba függ a fixpontos számábrázolás és a gyorsító paramétereitől. A hallgató feladata, hogy megvizsgálja a konvolúciós neurális hálóban terjedő hiba jellegét különböző hálózati architektúrákra, modellt állítson fel a hiba terjedésére, illetve, hogy stratégiát készítsen a fixpontos számábrázolás és a gyorsító paramétereinek megválasztására.

A feladat során a hallgató betekintést nyer a konvolúciós neurális hálózatok és az azok végrehajtására dedikált gyorsítóeszközök működésébe és konfigurálási lehetőségeibe, illetve tapasztalatot szerez gépi tanulás keretrendszerek használatában.

A feladat megoldásához a hallgató a Continental AI Development Center munkatársaitól kap segítséget.

Ha érdeklődsz a téma iránt, akkor jelentkezés előtt mindenképpen vedd fel a kapcsolatot Sik Dáviddal emailben, téma, képzési szint, szak és a tervezett projekttárgy feltüntetésével.


Külső partner: Continental Autonomous Mobility Hungary

Maximális létszám: 1 fő