Psychedelische stickers verstoren de beeldherkennings-AI van Google gemakkelijk

Onze ervaring uit de eerste hand met AI-beeldherkenningstechnologie, Google Lens, heeft aangetoond dat machine learning zeker een heel lange weg heeft afgelegd. Maar deze technologie is momenteel verre van perfect en niet zo slim als we hadden gehoopt, vooral omdat het tempo waarin we computers trainen om modellen te identificeren, laag is. Bovendien vereisen sommige AI geavanceerde berekeningen voor het neurale netwerk, en het is zeker niet de gemakkelijkste taak om een ​​machine te leren.

Met dit in gedachten nam een ​​groep Google-onderzoekers het op zich om AI-beeldherkenningssystemen op de proef te stellen en te kijken of ze kunnen worden misleid of niet.

Het lijkt erop dat ze als overwinnaar zijn uitgekomen sinds de AI-systeem herkende het object (hier een banaan) niet in de voorbeeldafbeeldingen, allemaal dankzij een speciaal geprinte psychedelische sticker.

De creatie van deze psychedelische stickers die beeldherkenningssystemen kunnen misleiden, zoals beschreven in een onderzoeksartikel met de titel Adversarial Patch, die zojuist werd gepresenteerd op de 31e conferentie over neurale informatieverwerkingssystemen in december 2017. Het artikel legt uit dat onderzoekers een systeem van tegenstanders (tegenstanders) hebben getraind om kleine patch-achtige psychedelische cirkels te maken met willekeurige vormen, kleuren en formaten om de beeldherkenning voor de gek te houden systeem.

Hoewel de meest gebruikelijke methode om AI-beeldherkenningssystemen voor de gek te houden, is om een ​​afbeelding te wijzigen door er afbeeldingen aan toe te voegen, besloten de onderzoekers van Google om het systeem te misleiden met psychedelische ontwerpen..

Zoals te zien is in de videodemo hieronder, is het systeem in staat de banaan en tot op zekere hoogte de broodrooster te herkennen wanneer je een normaal beeld naast de banaan plaatst. Maar de resultaten zijn minder duidelijk wanneer een psychedelische werveling naast de banaan wordt geplaatst:

Het team ontdekte ook dat a het gepatchte ontwerp lijkt los van het onderwerp en wordt niet beïnvloed door factoren zoals lichtomstandigheden, camerahoeken, objecten in het zicht van de classifier en de classifier zelf.

De onderzoekers leggen vervolgens de werking van de psychedelische ontwerpen uit:

Deze aanval genereert een beeldonafhankelijke patch die uitermate saillant is voor een neuraal netwerk. Deze patch kan vervolgens overal in het gezichtsveld van de classificator worden geplaatst en zorgt ervoor dat de classifier een gerichte klasse uitvoert.

Hoewel dit op het eerste gezicht lijkt alsof de AI-beeldherkenning voor de gek wordt gehouden, zal dit experiment daadwerkelijk worden gebruikt om de inconsistenties in het systeem te verwijderen. Degenen die op dit gebied werken, moeten zich nu aanpassen aan gegevens met veel ruis die kunnen worden opgenomen in de afbeeldingen van het onderwerp. Deze bevinding zou door machine learning aangedreven systemen een kans kunnen geven om zichzelf in de toekomst te verbeteren tegen soortgelijke misleiding.