???item.export.label??? ???item.export.type.endnote??? ???item.export.type.bibtex???

Please use this identifier to cite or link to this item: https://tede.ufam.edu.br/handle/tede/9182
???metadata.dc.type???: Dissertação
Title: Compressão de modelos de reconhecimento de atividades humanas usando destilação de conhecimento
???metadata.dc.creator???: Gonçalves, Paulo Henrique Nellessen 
???metadata.dc.contributor.advisor1???: Souto, Eduardo James Pereira
???metadata.dc.contributor.referee1???: Giusti, Rafael
???metadata.dc.contributor.referee2???: Lima, Wesllen Sousa
???metadata.dc.description.resumo???: O uso de dispositivos móveis e vestíveis tem possibilitado o monitoramento contínuo das atividades realizadas pelo usuário. Entretanto, esse processo é desafiador devido à natureza complexa dos dados capturados pelos sensores disponíveis nestes dispositivos. Recentemente, o uso de redes neurais profundas tem ampliado os limites para reconhecer atividades humanas com alta precisão. No entanto, no contexto móvel e vestível, as restrições de hardware podem inviabilizar o uso de redes neurais profundas, pois os recursos computacionais são limitados. Para mitigar as limitações relacionadas ao custo computacional de redes neurais profundas, este trabalho propõe um método chamado KD-HAR (Knowledge Distillation for Human Activity Recognition) para compressão de redes neurais profundas baseado na técnica de destilação de conhecimento aplicada a modelos de reconhecimento de atividade humana usando dados de sensores inerciais. Os conhecimentos adquiridos por modelos professores, obtidos por meio de técnicas de otimização de hiperparâmetros, são transferidos para modelos estudantes com menor complexidade. Uma das vantagens do método proposto é a capacidade de extração automática de características, baixo custo computacional e a aproximação da precisão na classificação das atividades quando comparado a redes mais complexas. Para avaliar a capacidade de compressão do método proposto, este trabalho utiliza duas bases de dados (UCI-HAR e WISDM) de sensores inerciais de smartphones. Os resultados obtidos mostram que o método é capaz de manter acurácia competitiva com taxas de compressão que variam de 18 a 42 vezes o número de parâmetros da rede neural profunda destilada em relação ao modelo de professor treinado.
Abstract: The use of mobile and wearable devices can enable continuous monitoring of activities performed by the user. However, this process is challenging due to the complex nature of data devices by available devices. Recently, the use of deep neural networks has pushed the limits to recognize human activities with high accuracy. However, in the wearable mobile context, hardware restriction can make the use of deep neural networks unfeasible, as computational resources are limited. To mitigate as related to the computational cost of deep neural networks, this project work of a method called KD-HAR (Knowledge Distillation for Human Activity Recognition) for deep neural network compression based on the knowledge distillation technique applied to models of human activity recognition using data from inertial sensors. The knowledge acquired by teacher models, through hyperparameter optimization techniques, are transferred to student models with less complexity. One of the advantages of the proposed method is the ability to automatically extract features, low computational cost and the approximation of precision in the classification of activities when compared to more complex networks. To evaluate the compression capacity of the proposed method, this work uses two databases (UCI-HAR and WISDM) of smartphone inertial sensors. The results obtained show that the method can maintain competitive accuracy with compression rates ranging from 18 to 42 times the number of parameters of the distilled deep neural network in relation to the trained teacher model.
Keywords: Redes neurais (Computação)
Smartphones
???metadata.dc.subject.cnpq???: CIÊNCIAS EXATAS E DA TERRA: CIÊNCIA DA COMPUTAÇÃO
???metadata.dc.subject.user???: Reconhecimento de atividades humanas
Smartphone
Redes neurais profundas
Destilação de conhecimento
Compressão
Language: por
???metadata.dc.publisher.country???: Brasil
Publisher: Universidade Federal do Amazonas
???metadata.dc.publisher.initials???: UFAM
???metadata.dc.publisher.department???: Instituto de Computação
???metadata.dc.publisher.program???: Programa de Pós-graduação em Informática
Citation: GONÇALVES, Paulo Henrique Nellessen. Compressão de modelos de reconhecimento de atividades humanas usando destilação de conhecimento. 2022. 56 f. Dissertação (Mestrado em Informática) - Universidade Federal do Amazonas, Manaus (AM), 2022.
???metadata.dc.rights???: Acesso Aberto
???metadata.dc.rights.uri???: http://creativecommons.org/licenses/by-nc-sa/4.0/
URI: https://tede.ufam.edu.br/handle/tede/9182
Issue Date: 17-May-2022
Appears in Collections:Mestrado em Informática

Files in This Item:
File Description SizeFormat 
Dissertação_Paulo Gonçalves_PPGI.pdf2.91 MBAdobe PDFThumbnail

Download/Open Preview


This item is licensed under a Creative Commons License Creative Commons