Neurális hálózatok végrehajtásának kiértékelése Google Edge TPU alapú rendszeren

Félév: 2024-2025 ősz

Kategória: Nincs megadva

Téma leírása

A gépi tanulás (Machine Learning) alkalmazásoknak két fő életciklusa van: a tanulási fázis, mely során a neurális hálózatot egy adott feladat megoldására optimalizáljuk, hangoljuk, illetve az inferencia, amikor a betanult hálót a probléma megoldására felhasználjuk. A gépi tanulás tipikusan nagy számítási teljesítménnyel rendelkező, videókártyákkal felszerelt számítógépeken történik, míg az inferenciára bizonyos esetekben alacsony fogyasztású, olcsó, kis számítási teljesítményű beágyazott rendszereken kerül sor. Ezek a rendszerek jellemzően speciális neurális háló gyorsító modulokkal vannak felszerelve.

Különböző gyorsítók különböző hardverarchitektúrával, ezáltal pedig különböző karakterisztikákkal és teljesítménnyel rendelkeznek. A neurális hálózat bizonyos rétegeit, részműveleteit különböző hatékonysággal képesek végrehajtani, ezáltal különböző hálózati architektúrákra más-más végrehajtó egység lehet az ideális választás.

A hallgató feladata, hogy megvizsgálja egy speciális gyorsító eszköz, a Google Edge TPU (Tensor Processing Unit) számítási képességeit konvolúciós neurális hálózatok széles skálájára. A mérési eredményeket felhasználva a hallgató javaslatokat tesz a neurális hálók architektúrájára vonatkozólag a TPU-n történő végrehajtás hatékonyságának optimalizálása érdekében. A feladat részeként a hallgató megismerkedik a konvolúciós neurális hálózatok jellegzetességeivel, Google Edge TPU-val és a Tensorflow keretrendszerrel.

Google Edge TPU: https://cloud.google.com/edge-tpu/
Tensorflow lite: https://www.tensorflow.org/lite

A feladat megoldásához a hallgató a Continental AI Development Center munkatársaitól kap segítséget.

Ha érdeklődsz a téma iránt, akkor jelentkezés előtt mindenképpen vedd fel a kapcsolatot Sik Dáviddal emailben, téma, képzési szint, szak és a tervezett projekttárgy feltüntetésével.

Külső partner: Continental Autonomous Mobility Hungary

Maximális létszám: 1 fő