Gadgetshowto
Gezichtsherkenningstechnologie is niet langer een gimmick. Het wordt steeds meer gebruikt voor voetgangers en vertoont geen tekenen van vertraging. Tegenwoordig is gezichtsherkenning niet alleen gebruikt voor het ontgrendelen van uw smartphones, maar ook tot in elk hoekje en gaatje. In feite wordt de technologie door Chinese politieagenten gebruikt om verdachten te identificeren.
Volgens nieuw onderzoek van MIT's Media Lab lijkt het er echter op dat gezichtsherkenningstechnologie onderhevig is aan vooroordelen op basis van geslacht en ras. Joy Buolamwini, een onderzoeker bij het MIT Media Lab, bouwde een dataset van 1.270 gezichten. Vervolgens testte ze de nauwkeurigheid van drie gezichtsherkenningssystemen van Microsoft, IBM en Megvii (een Chinees bedrijf). Verrassend genoeg vertoonde het resultaat onnauwkeurigheden in geslachtsidentificatie.
Toen de systemen de foto's van lichtere mannen te zien kregen, kon het ze vrij gemakkelijk identificeren. Het systeem identificeerde echter tot 12 procent van de mannen met een donkere huidskleur ten onrechte; en tot 35 procent van de vrouwtjes met een donkere huidskleur.
"Over het algemeen werden mannelijke proefpersonen nauwkeuriger geclassificeerd dan vrouwelijke proefpersonen die eerdere bevindingen herhaalden (Ngan et al., 2015), en lichtere proefpersonen werden nauwkeuriger geclassificeerd dan donkerdere proefpersonen." - Joy Buolamwini
Hierop zei IBM dat ze zijn gezichtsanalysesoftware gestaag hadden verbeterd en "zeer toegewijd" waren aan "onbevooroordeelde" en "transparante" diensten. Microsoft zei daarentegen: "We hebben al stappen ondernomen om de nauwkeurigheid van onze gezichtsherkenningstechnologie te verbeteren "en dat er geïnvesteerd werd in onderzoek" om vooringenomenheid te herkennen, te begrijpen en weg te nemen..”En ten slotte antwoordde Megvii niet.
Dat gezegd hebbende, dit is niet de eerste keer dat is bewezen dat gezichtsherkenningstechnologie onnauwkeurig is. In 2015 werd Google gebeld door een software-engineer toen de Foto's-app zijn zwarte vriend identificeerde als 'gorilla's'.
