Arcfelismerési eljárások biztonsági kérdései

2020-2021 tavasz

Nincs megadva

Téma leírása

Napjainkban egyre elterjedtebben használnak gépi tanulásra épülő arcfelismerésre képes kamerákat mind a magán mind az állami szektorban.

Az arcfelismerés vagy "face recognition" nagyon leegyszerűsítve úgy működik, hogy egy gépi tanuló algoritmus egy emberi arc fényképe alapján legenerál egy úgynevezett arclenyomat vektort ("face embedding vector"), mely az adott ember arcát jellemzi. Az egyes ilyen vektorokat összehasonlítva eldönthető, hogy két vektor vajon ugyanahhoz az emberhez tartozik-e, vagyis ugyanaz az ember látható-e két különböző képen.

Az összehasonlítás alapja valamilyen távolság metrika kiszámítása a vektorok között (pl. Euklidészi vagy Manhattan távolság), mely távolság egy adott küszöbértéknél kisebb, ha a két vektor ugyanahhoz az emberhez tartozik, ellenkező esetben pedig nagyobb. (Ez tehát egyfajta klaszterezéssel kezelhető.)
 
Bár az arcfelismerés technológiának sok hasznos alkamazása létezik, de komoly kockázatokat is rejt. Ilyen kockázatok például:
- adatvédelmi kockázatok (pl. állampolgárok teljes megfigyelése és szociális kreditrendszer Kínában)
- arcfelismerő rendszerek tökéletlenségét kihasználó hozzáférési támadások (pl. "face morphing", "presentation attacks", stb.)
- a gépi tanulás hibáiból bekövetkező diszkriminációk és pontatlanságok
- az arclenyomatokból gépi tanulási eljárásokkal kiszedhető személyes információk kiszivárgása
- stb.

Jelen témára olyan hallgatók jelentkezését várjuk, akik szívesen dolgoznának az arcfelismeréssel és ML-lel kapcsolatos problémák megoldásán.

A preferált programozási nyelv Python.

Maximális létszám: 4 fő