Un equipo de la Universidad de Maryland desarrolló una ‘capa de invisibilidad’ consistente en un suéter que es capaz de convertir a su usuario en un ‘fantasma’ frente a los modelos comunes de aprendizaje automático de detección de personas.
Para ello el equipo recurrió a una de las técnicas utilizadas para manipular las redes neuronales: los ataque simulados que generan un “patrón antagónico”, que puede aplicarse a los objetos detectados dentro de una imagen determinada para evitar que el modelo los reconozca, informa Hackster.
“Este elegante suéter es una excelente manera de mantenerse abrigado este invierno. Cuenta con un forro de microfibra impermeable, un ajuste moderno y patrones opuestos a la IA para ayudarlo a esconderse de los detectores de objetos”, sostienen los científicos.
“Los detectores funcionan considerando miles de imágenes anteriores con diferentes ubicaciones de objetos, tamaños y proporciones de aspecto. Para engañar a un detector de objetos, el patrón antagónico también debe cambiar todas las imágenes anteriores, lo cual resulta mucho más difícil que engañar a una única salida del clasificador”, reza el comunicado de los investigadores.
En su demostración, el detector YOLOv2 se evade usando un patrón entrenado en el conjunto de datos COCO (algunos de los modelos de aprendizaje automático) “con un objetivo cuidadosamente construido”.
En consecuencia, al cargar los datos, el detector representa una persona con deformaciones aleatorias de perspectiva, brillo y contraste.
Luego se usó un algoritmo del Gradiente Descendente, uno de los algoritmos de optimización más populares en aprendizaje automático, y encontraron el patrón que minimiza las “puntuaciones de objetualidad” (la confianza en la presencia de un objeto) para cada objeto anterior.
Tras probar el concepto en “muñecas de papel”, que podrían vestirse con diferentes parches, el equipo luego ideó la gama de ropa “suéter de invisibilidad” y descubrió que “degradan significativamente el rendimiento de los detectores” en comparación con la ropa normal.
