A study of the general characteristics of Serial fusion of classifiers

Abstract

Con el continuo avance tecnológico de las últimas décadas, el volumen y la precisión de los datos a manejar se ha visto incrementado de forma directa, haciéndose necesario a su vez el estudio y el diseño de métodos que permitan analizarlos y clasificarlos de forma automática. Con este cometido se han desarrollado multitud de clasificadores siguiendo, desde modelos matemáticos a modelos bioinspirados, en muchos casos con un desempeño mucho mayor que aceptable en escenarios concretos. Con el fin de mejorar el rendimiento de estos clasificadores, algunas investigaciones, sobre todo en las últimas dos décadas, se han centrado en el estudio de modelos formados por la unión de varios clasificadores individuales, creando una estructura común que proporciona una solución única al problema, hallada a partir de los resultados obtenidos por los distintos clasificadores que la forman. Las estructuras más comúnmente estudiadas conectan cada uno de los módulos individuales en paralelo entre sí, calculando la salida común una vez que todos los clasificadores individuales han tomado un valor en su salida. Este tipo de combinación de clasificadores se ha probado en diversos estudios como una alternativa con una mejor precisión frente a los clasificadores individuales, siendo además más robustos frente a errores puntuales e intentos de falsificación o suplantación, como pueden darse en sistemas de identificación mediante reconocimiento de patrones biométricos. Aun así, al combinar varios clasificadores en paralelo se generan algunas desventajas, como la necesidad de desarrollar cada clasificador por separado para cumplir con unas necesidades específicas dentro del conjunto, el aumento de recursos necesarios para la ejecución de cada uno de los módulos que componen la estructura al mismo tiempo, o el aumento del tiempo medio necesario para ofrecer un resultado, limitado en este caso por el clasificador más lento. Por otro lado, las estructuras de clasificadores en serie o cascada buscan un equilibrio entre el tiempo de respuesta y la precisión, manteniéndose a la vez estables ante suplantaciones y optimizando el uso de recursos en la medida de lo posible. En la última década han proliferado las publicaciones sobre este modelo, investigando la aplicación de varios clasificadores en serie a diversos escenarios, como la identificación mediante patrones biométricos, diagnóstico del nivel de stress en sujetos individuales o reconocimiento de vehículos a motor mediante imágenes, entre otros, ya sea utilizando el resultado de un solo clasificador para decidir en cualquier estado o tomando la fusión de los clasificadores en serie utilizados para calcular la puntuación definitiva.

Along the continuous technological advance of the last decades, the amount of data to be handled has been incremented in a proportional way. Therefore, a new way to analyze and classify huge amounts of data automatically is needed to be studied and designed. Following this goal, a lot of classifiers have been investigated using mathematical models or even bio-inspired models, performing better than expected in specific scenarios. Aiming to improve those classifiers performance, some researches made in the last twenty years pointed to more complex structures that solve the problem by connecting individual classifiers and fusing each individual score into a global one. The ensembles most commonly studied connect each single classifier in parallel, evaluation system’s output once each individual classifier has given its own score. This kind of classifier ensembles has been tested as an alternative to individual classifiers with better precision, more reliable to certain errors and spoofing attacks, most common threat of identification systems based on biometric pattern recognition. Nevertheless, some problems are shown on combining different classifiers in parallel. Each classifier needs to be designed and trained individually, the amount of resources needed for each module execution at the same time or the increment of the time needed to calculate the final score, limited in this case by the slowest classifier of the ensemble. On the other hand, serial and cascade ensembles are designed to find a tradeoff between latency and precision, optimize resource usage while being at least as reliable against spoofing attacks as parallel system are. In the last decade, a lot of work related to this model has been published, doing some research on the implementation of serial fusion ensembles in real-life scenarios, like biometric pattern recognition, stress level diagnosis of individual subjects or vehicle recognition based on images. These examples were designed using different approaches, like accepting the score of a single classifier of the ensemble on a certain stage as the final score or performing a fusion of the scores calculated at a certain stage.