Avaliação de datasets e de algoritmos de detecção de mudança utilizando mapas de dificuldade
Evaluating a change detection algorithm must show the superiority of its performance concerning state-of-the-art algorithms’ performance. The steps of evaluating an algorithm comprise executing it to segment a set of videos from a dataset and comparing the results with ground truth. In this work, we...
Autor principal: | Silva, Claudinei Moreira da |
---|---|
Formato: | Dissertação |
Idioma: | Português |
Publicado em: |
Universidade Tecnológica Federal do Paraná
2022
|
Assuntos: | |
Acesso em linha: |
http://repositorio.utfpr.edu.br/jspui/handle/1/30178 |
Tags: |
Adicionar Tag
Sem tags, seja o primeiro a adicionar uma tag!
|
id |
riut-1-30178 |
---|---|
recordtype |
dspace |
spelling |
riut-1-301782022-11-25T06:06:01Z Avaliação de datasets e de algoritmos de detecção de mudança utilizando mapas de dificuldade Evaluation of datasets and change detection algorithms using difficulty maps Silva, Claudinei Moreira da Sanches, Silvio Ricardo Rodrigues https://orcid.org/0000-0003-3635-7477 http://lattes.cnpq.br/9931293076574399 Yokoyama, Roberto Sadao http://lattes.cnpq.br/0306982791711079 Sementille, Antonio Carlos https://orcid.org/0000-0002-4337-514X http://lattes.cnpq.br/1882712230914196 Oliveira, Claiton de https://orcid.org/0000-0003-2953-6223 http://lattes.cnpq.br/8851289265109891 Corrêa, Cléber Gimenez https://orcid.org/0000-0003-1065-9565 http://lattes.cnpq.br/0521761025000380 Sanches, Danilo Sipoli https://orcid.org/0000-0002-8972-5221 http://lattes.cnpq.br/6377657274398145 Yokoyama, Roberto Sadao http://lattes.cnpq.br/0306982791711079 Detectores Algoritmos Classificação Detectors Algorithms Classification CNPQ::CIENCIAS EXATAS E DA TERRA::CIENCIA DA COMPUTACAO Ciência da Computação Evaluating a change detection algorithm must show the superiority of its performance concerning state-of-the-art algorithms’ performance. The steps of evaluating an algorithm comprise executing it to segment a set of videos from a dataset and comparing the results with ground truth. In this work, we propose using additional information in evaluating change detection algorithms: the level of difficulty to classify each pixel of each frame of the videos from a dataset. For each video frame, we created a structured called difficulty map, which stores values representing the level of difficulty required by an algorithm to classify each pixel of that frame. Based on the difficulty maps, we developed two metrics. The first aims to evaluate the performance of algorithms about the difficulty map. The second metric aims to estimate the level of difficulty that each dataset video requires from the algorithms to classify its frames’ pixels. In this work, we also developed a method for selecting representative videos based on their difficulty level. The evaluation algorithms’ results showed that the algorithms that represent the state-of-the-art fail in the same regions of the frame. The metric that estimates video difficulty levels has been demonstrated that many videos from dataset CDNet 2014 have similar difficulty levels. This finding corroborates the method’s results to generate a representative subset since the selected subset has fewer videos and has the same evaluation potential as the original video set. Conselho Nacional do Desenvolvimento Científico e Tecnológico (CNPq) A avaliação de um algoritmo de detecção de mudança deve mostrar a superioridade do seu desempenho em relação aos desempenhos dos algoritmos do estado-da-arte. As etapas da avaliação de um algoritmo consiste basicamente na sua execução para segmentar um conjunto de vídeos de um dataset e na comparação dos resultados com um ground truth. Neste trabalho, propõe-se a utilização de uma nova informação no processo de avaliação de algoritmos de detecção de mudança: o nível de dificuldade para classificar cada pixel de cada quadro dos vídeos de um dataset. Para cada quadro de vídeo, foi criado uma estruturada chamada mapa de dificuldade, que armazena valores que representam o nível de dificuldade exigido de um algoritmo para classificar cada pixel desse quadro. Baseado nesses mapas, foram desenvolvidas uma métrica que tem como objetivo avaliar o desempenho de algoritmos em relação ao mapa de dificuldade e outra que tem como objetivo estimar o nível de dificuldade que cada vídeo do dataset exige dos algoritmos para classificar os pixels de seus quadros. Um método para selecionar os vídeos representativos de um dataset também foi desenvolvido neste trabalho. Os resultados da aplicação da métrica para avaliação de algoritmos mostraram que os algoritmos que representam o estado-da-arte normalmente falham nas mesmas regiões do quadro. A aplicação da métrica que estima níveis de dificuldade de vídeos mostrou que muitos vídeos do dataset CDNet 2014 possuem níveis de dificuldade similares. Essa constatação corrobora com os resultados obtidos da aplicação do método para gerar um subconjunto representativo, uma vez que o subconjunto selecionado possui menos vídeos e apresenta o mesmo potencial de avaliação do conjunto de vídeos original. 2022-11-24T23:43:28Z 2022-11-24T23:43:28Z 2021-02-26 masterThesis SILVA, Claudinei Moreira da. Avaliação de datasets e de algoritmos de detecção de mudança utilizando mapas de dificuldade. 2021. Dissertação (Mestrado em Informática) - Universidade Tecnológica Federal do Paraná, Cornélio Procópio, 2021. http://repositorio.utfpr.edu.br/jspui/handle/1/30178 por openAccess application/pdf application/pdf Universidade Tecnológica Federal do Paraná Cornelio Procopio Brasil Programa de Pós-Graduação em Informática UTFPR |
institution |
Universidade Tecnológica Federal do Paraná |
collection |
RIUT |
language |
Português |
topic |
Detectores Algoritmos Classificação Detectors Algorithms Classification CNPQ::CIENCIAS EXATAS E DA TERRA::CIENCIA DA COMPUTACAO Ciência da Computação |
spellingShingle |
Detectores Algoritmos Classificação Detectors Algorithms Classification CNPQ::CIENCIAS EXATAS E DA TERRA::CIENCIA DA COMPUTACAO Ciência da Computação Silva, Claudinei Moreira da Avaliação de datasets e de algoritmos de detecção de mudança utilizando mapas de dificuldade |
description |
Evaluating a change detection algorithm must show the superiority of its performance concerning state-of-the-art algorithms’ performance. The steps of evaluating an algorithm comprise executing it to segment a set of videos from a dataset and comparing the results with ground truth. In this work, we propose using additional information in evaluating change detection algorithms: the level of difficulty to classify each pixel of each frame of the videos from a dataset. For each video frame, we created a structured called difficulty map, which stores values representing the level of difficulty required by an algorithm to classify each pixel of that frame. Based on the difficulty maps, we developed two metrics. The first aims to evaluate the performance of algorithms about the difficulty map. The second metric aims to estimate the level of difficulty that each dataset video requires from the algorithms to classify its frames’ pixels. In this work, we also developed a method for selecting representative videos based on their difficulty level. The evaluation algorithms’ results showed that the algorithms that represent the state-of-the-art fail in the same regions of the frame. The metric that estimates video difficulty levels has been demonstrated that many videos from dataset CDNet 2014 have similar difficulty levels. This finding corroborates the method’s results to generate a representative subset since the selected subset has fewer videos and has the same evaluation potential as the original video set. |
format |
Dissertação |
author |
Silva, Claudinei Moreira da |
author_sort |
Silva, Claudinei Moreira da |
title |
Avaliação de datasets e de algoritmos de detecção de mudança utilizando mapas de dificuldade |
title_short |
Avaliação de datasets e de algoritmos de detecção de mudança utilizando mapas de dificuldade |
title_full |
Avaliação de datasets e de algoritmos de detecção de mudança utilizando mapas de dificuldade |
title_fullStr |
Avaliação de datasets e de algoritmos de detecção de mudança utilizando mapas de dificuldade |
title_full_unstemmed |
Avaliação de datasets e de algoritmos de detecção de mudança utilizando mapas de dificuldade |
title_sort |
avaliação de datasets e de algoritmos de detecção de mudança utilizando mapas de dificuldade |
publisher |
Universidade Tecnológica Federal do Paraná |
publishDate |
2022 |
citation |
SILVA, Claudinei Moreira da. Avaliação de datasets e de algoritmos de detecção de mudança utilizando mapas de dificuldade. 2021. Dissertação (Mestrado em Informática) - Universidade Tecnológica Federal do Paraná, Cornélio Procópio, 2021. |
url |
http://repositorio.utfpr.edu.br/jspui/handle/1/30178 |
_version_ |
1805315454962499584 |
score |
10,814766 |