Publicação: Estudo do uso da computação paralela no aprimoramento do
treinamento de redes neurais artificiais feedforward multicamada
Carregando...
Arquivos
Tipo do documento
Data
Direito de acesso
Área do conhecimento
CNPQ::ENGENHARIAS::ENGENHARIA ELETRICA
Título da Revista
ISSN da Revista
Título de Volume
Autores
Orientador
Coorientador
Resumo
Este trabalho compara redes neurais feedforward clássicas com um algoritmo que permite
explorar o paralelismo presente em diversas máquinas disponíveis. O esquema de
treinamento discutido aqui não depende da topologia da RNA, portanto pode ser uma
melhor representação das redes neurais naturais produzidas ao longo da evolução animal.
Porém, por ser uma estratégia que não utiliza derivada da função de ativação, é mais
rústica, o que pode resultar em uma convergência mais lenta quando comparados com
algoritmos que dependem de uma topologia, como o Error Backpropagation. É esperada
uma melhora na velocidade da convergência com a utilização da computação paralela.
No entanto, em trabalhos futuros, o paralelismo em máquinas com muitos núcleos de
processamento pode mais do que compensar esta baixa velocidade, uma vez que os pesos
são ajustados de forma independente. Serão analisados e comparados os comportamentos
do método mais popular de treinamento de redes neurais articiais feedforward na atualidade,
o Error Backpropagation, e o algoritmo abordado neste trabalho, tanto no modo
sequencial quanto paralelo.
Abstract
This work compares classical feedforward neural networks with an algorithm that permit
exploit parallelism present in widely available machines. The training scheme discussed
here do not depend on the neural network topology, therefore may be a better representation
of the natural neural networks produced along animal evolution. Although,
for being a strategy that does not use derivative of the activation function, is more rustic,
that may result in a slower convergence when compared to topology dependent algorithm,
like Error Backpropagation. An improvement in the convergence speed is expected with
the use of parallel computing. However, in future works, parallelism in machines with
many cores may more than compensate this lower speed, once the weights are ajusted
independently. The behavior of the most popular training method nowadays, the Error
Backpropagation, and the algorithm discussed in this work, in either sequencial and
parallel mode, will be analised and compared.
Palavras-chave
Redes neurais (Computação), Redes neurais artificiais, Gradiente descendente, Perturbação do
peso, Scheme, Paralelismo, Artificial neural networks, Gradient descen, Weigh, Perturbation, Scheme, Paralelism
Citação
PEREIRA, Will Roger. Estudo do uso da computação paralela no aprimoramento do
treinamento de redes neurais artificiais feedforward multicamada. 2012. 106 f. Dissertação (Mestrado em Engenharias) - Universidade Federal de Uberlândia, Uberlândia, 2012. DOI https://doi.org/10.14393/ufu.di.2012.21