Neurális hálózatok végrehajtásának kiértékelése Google Edge TPU alapú rendszeren
2024-2025 tavasz
Nincs megadva
Téma leírása
A gépi tanulás (Machine Learning) alkalmazásoknak két fő életciklusa van: a tanulási fázis, mely során a neurális hálózatot egy adott feladat megoldására optimalizáljuk, hangoljuk, illetve az inferencia, amikor a betanult hálót a probléma megoldására felhasználjuk. A gépi tanulás tipikusan nagy számítási teljesítménnyel rendelkező, videókártyákkal felszerelt számítógépeken történik, míg az inferenciára bizonyos esetekben alacsony fogyasztású, olcsó, kis számítási teljesítményű beágyazott rendszereken kerül sor. Ezek a rendszerek jellemzően speciális neurális háló gyorsító modulokkal vannak felszerelve.
Különböző gyorsítók különböző hardverarchitektúrával, ezáltal pedig különböző karakterisztikákkal és teljesítménnyel rendelkeznek. A neurális hálózat bizonyos rétegeit, részműveleteit különböző hatékonysággal képesek végrehajtani, ezáltal különböző hálózati architektúrákra más-más végrehajtó egység lehet az ideális választás.
A hallgató feladata, hogy megvizsgálja egy speciális gyorsító eszköz, a Google Edge TPU (Tensor Processing Unit) számítási képességeit konvolúciós neurális hálózatok széles skálájára. A mérési eredményeket felhasználva a hallgató javaslatokat tesz a neurális hálók architektúrájára vonatkozólag a TPU-n történő végrehajtás hatékonyságának optimalizálása érdekében. A feladat részeként a hallgató megismerkedik a konvolúciós neurális hálózatok jellegzetességeivel, Google Edge TPU-val és a Tensorflow keretrendszerrel.
A téma keretein belül lehetőség van továbbá egy olyan FPGA alapú TPU implementációra mely a Google TPU megoldása alapján működik, amivel akár ki lehetne váltani a Google termékét is.
Ekkor az implementáció során meg kéne ismerkedni a TPU-k működésével, megvalósíthatóságukkal, szükséges lenne megállapítani a megfelelő FPGA-t melyre implementálni lehetne, esetleg egy kisebb teljesítményű FPGA-t is lehetne választani amely fogasztásban kicsi, de műkődést tekintve hasonló.
Fontos hogy az eszközt nem a háló tanítására használnánk hanem a háló használatához egy beágyazott rendszeren.
Google Edge TPU: https://cloud.google.com/edge-tpu/
Tensorflow lite: https://www.tensorflow.org/lite
A feladat megoldásához a hallgató a Continental AI Development Center munkatársaitól kap segítséget.
Ha érdeklődsz a téma iránt, akkor jelentkezés előtt mindenképpen vedd fel a kapcsolatot Sik Dáviddal emailben, téma, képzési szint, szak és a tervezett projekttárgy feltüntetésével.
Külső partner: Continental Autonomous Mobility Hungary
Maximális létszám:
1 fő