Pós-Graduação em Ciência da Computação – UFPE
Defesa de Dissertação de Mestrado Nº 2.102
Aluno: Paulo José Nunes Batista dos Prazeres
Orientador: Prof. Marcelo Bezerra d’Amorim
Coorientadora: Profa. Andrea Stocco (Technical University of Munich)
Título: ADS Testing with Attention
Data: 28/08/2023
Hora/Local: 10h – Virtual – Interessados em assistir entrar em contato com o aluno.
Banca Examinadora:
Prof. Tsang Ing Ren (UFPE / Centro de Informática)
Prof. Vincenzo Riccio (University of Udine / Dipartimento di Scienze
Matematiche, Informatiche e Fisiche )
Prof. Marcelo Bezerra D’Amorim (UFPE / Centro de Informática)
RESUMO:
À medida que veículos autônomos se tornam mais comuns em todo o mundo, há um crescente interesse na segurança de seus sistemas de controle. Esses sistemas geralmente incluem Redes Neurais que usam imagens da estrada para orientar a direção do volante do veículo, desempenhando um papel fundamental nesses veículos. Desenvolver estratégias eficazes para monitorar e testar essas Redes Neurais é, portanto, crítico. Esta dissertação propõe duas estratégias distintas, mas complementares, para enfrentar esse desafio. A primeira estratégia emprega uma técnica inovadora baseada nos mapas de atenção calculados pela explainable artificial intelligence. Esta abordagem monitora ativamente as operações da Rede Neural dentro do veículo, identificando instâncias anômalas onde a Rede Neural pode se comportar de maneira inesperada, mitigando assim potenciais riscos de acidentes. Este método foi validado empiricamente usando o Simulador de Direção Virtual desenvolvido pela Udacity. A segunda parte da dissertação apresenta um estudo preliminar de uma estratégia de teste aplicável durante a fase de teste das Redes Neurais. Esta estratégia envolve gerar uma variedade de cenários de condução para expor e entender as limitações e fraquezas da Rede Neural. Uma Rede Neural treinada no conjunto de dados MNIST para classificar dígitos foi empregada neste estudo, servindo como uma prova de conceito para a eficácia dos mapas de atenção em orientar a geração de variações de dígitos e identificar corner cases. A analogia entre a forma de um dígito e o layout de uma estrada formou a base para usar a classificação de dígitos neste estudo preliminar. O objetivo é demonstrar que os ganhos de eficiência alcançados com a aplicação de mapas de atenção podem ser replicados na geração automática de cenários de estrada simulados para simulações de condução. Os resultados sugerem que nossa abordagem pode melhorar substancialmente a segurança e a confiabilidade dos veículos autônomos.
Palavras-chave: Segurança de Veículos Autônomos; Processamento de imagens; Inteligência Artificial Explicável; Testes de Redes Neurais
Comentários desativados