Súlyos megállapítás érkezett az arcfelismerő szoftverekről
A szoftverek adott esetben emberi jogokat is sérthetnek, épp ezért az IBM úgy döntött, hogy leáll a hasonló rendszerek értékesítésével, fejlesztésével és kutatásával is.
A szoftverek adott esetben emberi jogokat is sérthetnek, épp ezért az IBM úgy döntött, hogy leáll a hasonló rendszerek értékesítésével, fejlesztésével és kutatásával is.
Az IBM vezérigazgatója, Arvind Krishna levélben tájékoztatta az amerikai Kongresszust arról, hogy a vállalat a jövőben semmilyen téren nem kíván foglalkozni az arcfelismerős szoftverekkel, így harmadik fél által fejlesztett megoldásokat sem áll szándékukban alkalmazni.
„Az IBM a leghatározottabban ellenzi az arcfelismerő rendszerek tömeges megfigyelésre, faji profilozásra, illetve alapvető emberi- és szabadságjogok megsértésére irányuló használatát. Meglátásunk szerint itt lenne az ideje annak, hogy párbeszédet kezdeményezzünk arról, szükséges-e hasonló szoftvereket használniuk a bűnüldöző szerveknek, és ha igen, milyen módon kellene azt megtenniük”, írta Krisna.
Az arcfelismerő szoftverek a mesterséges intelligencia úttörésének köszönhetően jelentős fejlődésen mentek keresztül az elmúlt években, ennél fogva pedig egyre több területen kezdték el használni azokat, elég, ha csak a mobiltelefonokba épített rendszerekre gondolunk.
Noha vannak olyan területek, ahol lehet létjogosultsága egy hasonló fejlesztésnek, a fő problémát a szabályozás, illetve annak hiánya okozza, ugyanis már több alkalommal is bebizonyosodott, hogy kor, faj- és etnikai hovatartozás vizsgálatára használták, ez pedig annak lehetőségét is felveti, hogy az alapvető emberi jogok is sérülhetnek.
Szintén gondot okozhat, hogy ezen rendszerek sok esetben még mindig pontatlanok, amit jól szemléltet az Amazon által fejlesztett Rekognition „melléfogása” is. 2018-ban az amerikai Kongresszus tagjainak fotóit hasonlították össze 25 ezer nyilvánosan elérhető körözési fotóval, mely során a rendszer 28 esetben is téves egyezőséget mutatott.
Ugyancsak nem tett jót az arcfelismerős szoftverek megítélésének a Clearview AI esete, amely vállalat ellen súlyos vizsgálódások indultak év elején, amiért a rendszer több mint 3 milliárd fotót szedett le a különböző közösségi média oldalakról. Az adatbázist később a bűnüldözési szervek és hackerek is használni kezdték, és bár a cég a botrány kitörése óta több alkalommal is a rendszer leállítását kommunikálta, jelenleg is számos peres eljárás folyik ellenük.
Ez is érdekes lehet:
