Gadgetshowto
In de afgelopen 10 jaar waren er in de VS 180 schietpartijen op scholen met maar liefst 356 slachtoffers. Met zwakkere wapenbeheersingswetten in het land wenden scholen zich tot Artificial Intelligence (AI) om de studenten te beschermen. Maar een recent AI-systeem dat op bijna 9 Amerikaanse openbare scholen is geïnstalleerd, heeft volgens Recode enige bezorgdheid over de privacy veroorzaakt.
De op AI gebaseerde software heet Appearance Search en is ontwikkeld door een bedrijf genaamd Avigilon. De software kan een student op een schoolcampus vinden op basis van hun uiterlijk, leeftijd, geslacht, kleding en bepaalde gelaatstrekken.
Met de software kan de schooladministratie een student lokaliseren en de mogelijke locaties vinden waar ze zijn geweest op de campus waar bewakingscamera's zijn. Het maakt gebruik van fysieke beschrijvingen zoals leeftijd, geslacht en haarkleur van de persoon. Door de kenmerken te analyseren, zoekt de software naar overeenkomsten uit de andere videobeelden. De tool kan dus niet vertellen wie de persoon precies is, maar wel waar ze geweest kunnen zijn tijdens hun tijd op school.
Hoe Appearance Search werkt
De software is geïntegreerd in het bewakingssysteem van de school. Dus als een schoolveiligheidsfunctionaris getuige is van een verdachte activiteit van een leerling, kan hij / zij op het lichaam van de betreffende leerling klikken om meer informatie over de leerling te krijgen. De software analyseert de fysieke eigenschappen van de student, zoals de kleding, het geslacht, de haarkleur en wat de Avigilon zegt, enkele gezichtskenmerken. Na analyse van de genoemde kenmerken, zal de software de afbeelding matchen met elke afbeelding met vergelijkbare kenmerken van andere camerafeeds.
De privacykwesties
Zoals gewoonlijk komen met AI-software voor de hand liggende privacyproblemen en deze software is niet anders. Veel beveiligings- en privacy-experts hebben vraagtekens gezet bij Avigilon's Appearance Search.
"Mensen gedragen zich niet hetzelfde als ze in de gaten worden gehouden", herinnert Brenda Leong, de directeur AI en ethiek bij het Future of Privacy Forum, eraan. "Willen we echt dat zowel jonge studenten als middelbare scholieren, en wie dan ook, het gevoel hebben dat ze de hele tijd in die omgeving opereren?"
Hoewel deze software bedoeld is om de veiligheid te verhogen en geweld op scholen te verminderen, wordt deze op een andere manier gebruikt. Schoolbestuurders gebruiken deze tool om pesten, overtredingen van de gedragscode door studenten te monitoren en ook om het onderzoek van schoolmedewerkers te ondersteunen.
Deze technologie is niet volledig gebaseerd op gezichtsherkenning, het is echter software die bepaalde kenmerken van het gezicht kan herkennen. Varoon Mathur, een wetenschapper die machine learning bestudeert aan het AI Now Institute, beschouwt Appearance Search als "objectdetectie". Terwijl Logan Koepke van digitale rechten non-profit upturn het een 'persoonsdetectie'-software noemt, omdat het andere kenmerken van de persoon analyseert en niet uitsluitend het gezicht.
Met deze software in de maak op de meeste scholen van de VS, kunnen studenten nooit privacy hebben. Schoolbeheerders meldden dat er geen meldingen zijn van inbreuk op de privacy met betrekking tot de software.
Maar voormalig Marjory Stoneman Douglas High School (een school waar de software al is geïnstalleerd) student, Koerber zei: “Een schietpartij op school kan altijd en overal plaatsvinden. We weten dat. Maar moeten we inbreuk maken op de privacy van iedereen die zich inschrijft voor een bepaalde school om dat te voorkomen? Ik denk niet dat dat het geval is. "
