Extração de características representativas para o desenvolvimento de sensores virtuais industriais: uma abordagem baseada em aprendizado profundo

Deep learning is growing in popularity in virtual sensor modeling problems - the soft sensors - applied to industrial processes of accentuated nonlinearity. Virtual sensors can generate estimates of process variables, which are associated with quality indexes in realtime. Thus, such sensors are a vi...

ver descrição completa

Na minha lista:
Detalhes bibliográficos
Autor principal: Lima, Jean Mário Moreira de
Outros Autores: Araújo, Fábio Meneghetti Ugulino de
Formato: doctoralThesis
Idioma:pt_BR
Publicado em: Universidade Federal do Rio Grande do Norte
Assuntos:
Aprendizado profundo
Aprendizado semi-supervisionado
Soft sensors
Autoencoders
LSTM
Informação mútua
Endereço do item:https://repositorio.ufrn.br/handle/123456789/44630
Tags: Adicionar Tag
Sem tags, seja o primeiro a adicionar uma tag!
id ri-123456789-44630
record_format dspace
institution Repositório Institucional
collection RI - UFRN
language pt_BR
topic Aprendizado profundo
Aprendizado semi-supervisionado
Soft sensors
Autoencoders
LSTM
Informação mútua
spellingShingle Aprendizado profundo
Aprendizado semi-supervisionado
Soft sensors
Autoencoders
LSTM
Informação mútua
Lima, Jean Mário Moreira de
Extração de características representativas para o desenvolvimento de sensores virtuais industriais: uma abordagem baseada em aprendizado profundo
description Deep learning is growing in popularity in virtual sensor modeling problems - the soft sensors - applied to industrial processes of accentuated nonlinearity. Virtual sensors can generate estimates of process variables, which are associated with quality indexes in realtime. Thus, such sensors are a viable alternative when the variables of interest are difficult to measure due to some limiting factor: unavailability of hardware sensors or large measurement intervals. Traditional machine learning strategies show difficulties to model such sensors. Typically, industrial processes are highly nonlinear, and the amount of available labeled data is scarce. Due to that, the extraction of representative features present in the abundant amount of unlabeled data has become an area of interest in the development of virtual sensors. From the aforementioned premises, a new virtual sensor modeling technique based on deep learning and representation, which integrates stacked autoencoders (SAE), mutual information (MI), long short-term memory (LSTM), and aggregation bootstrap, is proposed. First, in the unsupervised stage, the SAE structure is hierarchically trained layer-by-layer. After a layer’s training, MI analysis is conducted between the target outputs of the model and the representations of the current layer to assess the learned characteristics. The proposed method removes irrelevant information and weights the retained ones. The given weights being proportional to the relevance of the representation. Therefore, this approach can extract deep representative information. In the supervised step, called fine-tuning, an LSTM structure is coupled to the tail of the SAE structure to address the intrinsic dynamic behavior of the evaluated industrial systems. Further, a ensemble strategy, called bootstrap aggregation, combines the models obtained in the supervised training phase to improve the performance and credibility of the virtual sensor. The proposal uses two industrial nonlinear processes, widely used as benchmarks, to evaluate the performance of the models generated by the proposed technique in the implementation of soft sensors. The results show that the proposed virtual sensors obtained better prediction performance than traditional methods and several state-of-the-art methods.
author2 Araújo, Fábio Meneghetti Ugulino de
author_facet Araújo, Fábio Meneghetti Ugulino de
Lima, Jean Mário Moreira de
format doctoralThesis
author Lima, Jean Mário Moreira de
author_sort Lima, Jean Mário Moreira de
title Extração de características representativas para o desenvolvimento de sensores virtuais industriais: uma abordagem baseada em aprendizado profundo
title_short Extração de características representativas para o desenvolvimento de sensores virtuais industriais: uma abordagem baseada em aprendizado profundo
title_full Extração de características representativas para o desenvolvimento de sensores virtuais industriais: uma abordagem baseada em aprendizado profundo
title_fullStr Extração de características representativas para o desenvolvimento de sensores virtuais industriais: uma abordagem baseada em aprendizado profundo
title_full_unstemmed Extração de características representativas para o desenvolvimento de sensores virtuais industriais: uma abordagem baseada em aprendizado profundo
title_sort extração de características representativas para o desenvolvimento de sensores virtuais industriais: uma abordagem baseada em aprendizado profundo
publisher Universidade Federal do Rio Grande do Norte
publishDate 2021
url https://repositorio.ufrn.br/handle/123456789/44630
work_keys_str_mv AT limajeanmariomoreirade extracaodecaracteristicasrepresentativasparaodesenvolvimentodesensoresvirtuaisindustriaisumaabordagembaseadaemaprendizadoprofundo
_version_ 1773959417479299072
spelling ri-123456789-446302022-05-02T15:31:53Z Extração de características representativas para o desenvolvimento de sensores virtuais industriais: uma abordagem baseada em aprendizado profundo Lima, Jean Mário Moreira de Araújo, Fábio Meneghetti Ugulino de http://lattes.cnpq.br/7467476735834560 http://lattes.cnpq.br/5473196176458886 Linhares, Leandro Luttiane da Silva http://lattes.cnpq.br/2692012987625830 Fernandes, Marcelo Augusto Costa http://lattes.cnpq.br/3475337353676349 Galvão, Roberto Kawakami Harrop http://lattes.cnpq.br/2331014850737529 Bessa, Wallace Moreira http://lattes.cnpq.br/3256782908311485 Aprendizado profundo Aprendizado semi-supervisionado Soft sensors Autoencoders LSTM Informação mútua Deep learning is growing in popularity in virtual sensor modeling problems - the soft sensors - applied to industrial processes of accentuated nonlinearity. Virtual sensors can generate estimates of process variables, which are associated with quality indexes in realtime. Thus, such sensors are a viable alternative when the variables of interest are difficult to measure due to some limiting factor: unavailability of hardware sensors or large measurement intervals. Traditional machine learning strategies show difficulties to model such sensors. Typically, industrial processes are highly nonlinear, and the amount of available labeled data is scarce. Due to that, the extraction of representative features present in the abundant amount of unlabeled data has become an area of interest in the development of virtual sensors. From the aforementioned premises, a new virtual sensor modeling technique based on deep learning and representation, which integrates stacked autoencoders (SAE), mutual information (MI), long short-term memory (LSTM), and aggregation bootstrap, is proposed. First, in the unsupervised stage, the SAE structure is hierarchically trained layer-by-layer. After a layer’s training, MI analysis is conducted between the target outputs of the model and the representations of the current layer to assess the learned characteristics. The proposed method removes irrelevant information and weights the retained ones. The given weights being proportional to the relevance of the representation. Therefore, this approach can extract deep representative information. In the supervised step, called fine-tuning, an LSTM structure is coupled to the tail of the SAE structure to address the intrinsic dynamic behavior of the evaluated industrial systems. Further, a ensemble strategy, called bootstrap aggregation, combines the models obtained in the supervised training phase to improve the performance and credibility of the virtual sensor. The proposal uses two industrial nonlinear processes, widely used as benchmarks, to evaluate the performance of the models generated by the proposed technique in the implementation of soft sensors. The results show that the proposed virtual sensors obtained better prediction performance than traditional methods and several state-of-the-art methods. O aprendizado profundo vem sendo utilizado cada vez mais nos problemas de modelagem de sensores virtuais, os soft sensors, aplicados a processos industriais de nãolinearidade acentuada. Sensores virtuais têm a capacidade de gerar estimativas de variáveis de processo, que normalmente estão associadas a índices de qualidade, em tempo real. Assim, tais sensores apresentam-se como uma alternativa viável quando as variáveis de interesse são de difícil medição devido a algum fator limitante: indisponibilidade de sensores físicos ou grandes intervalos de medição. Estratégias tradicionais de aprendizado de máquina encontram dificuldades para modelar tais sensores. Normalmente, processos industriais são altamente não-lineares e a quantidade de dados rotulados disponíveis é escassa. Devido a isso, a extração de características representativas presente na quantidade abundante de dados não rotulados tem se tornado uma área de interesse no desenvolvimento de sensores virtuais. A partir das premissas citadas, uma nova técnica de modelagem de sensores virtuais, baseada em aprendizado profundo e de representação, que integra autoencoders empilhados (Stacked AutoEncoders - SAE), informação mútua (Mutual Information - MI), memória longa de curto prazo (Long Short-Term Memory - LSTM) e agregação bootstrap, é proposta. Primeiramente, no estágio não supervisionado, a estrutura SAE é treinada hierarquicamente camada-a-camada. Em seguida, logo após o treinamento de uma camada, a análise MI é conduzida entre as saídas-alvo do modelo e as representações da camada atual com objetivo de avaliar as características aprendidas. Neste sentido, o método proposto remove as informações irrelevantes e pondera as retidas de tal maneira que os pesos sejam proporcionais à relevância da representação. Além disso, esta abordagem é capaz de extrair informações representativas profundas. Na etapa supervisionada, por sua vez, chamada de ajuste fino, uma estrutura LSTM é acoplada à cauda da estrutura SAE para fazer face ao comportamento dinâmico intrínseco dos sistemas industriais avaliados. Por fim, uma estratégia de ensemble, chamada de agregação bootstrap, combina os modelos obtidos na fase do treinamento supervisionado com o propósito de melhorar a desempenho e a credibilidade do sensor virtual. Assim, para avaliar a performance dos modelos gerados pela técnica proposta, utilizam-se dois processos não-lineares industriais, amplamente usados para fins de análises comparativas na implementação de sensores virtuais. Os resultados mostram que os sensores virtuais propostos obtiveram desempenho de predição melhor que métodos tradicionais e diversos métodos estado-da-arte. 2021-10-18T22:34:20Z 2021-10-18T22:34:20Z 2021-09-03 doctoralThesis LIMA, Jean Mário Moreira de. Extração de características representativas para o desenvolvimento de sensores virtuais industriais: uma abordagem baseada em aprendizado profundo. 2021. 94f. Tese (Doutorado em Engenharia Elétrica e de Computação) - Centro de Tecnologia, Universidade Federal do Rio Grande do Norte, Natal, 2021. https://repositorio.ufrn.br/handle/123456789/44630 pt_BR Acesso Aberto application/pdf Universidade Federal do Rio Grande do Norte Brasil UFRN PROGRAMA DE PÓS-GRADUAÇÃO EM ENGENHARIA ELÉTRICA E DE COMPUTAÇÃO

Registros relacionados