Evaluating Saliency Map Methods in Reinforcement Learning

Abstract

Die Salienzkartenmethoden Vanilla Gradients, SmoothGrad, (guided-) GradCAM, LIME und RisE werden quantitativ in Bezug auf ihre Korrektheit evaluiert. Dies wird in einem verstärkenden Lernen Setting mit DQN und Atari Breakout umgesetzt. Zur quantitativen Evaluierung wird Deletion verwendet, wobei der Performanceverlust des Agenten gemessen wird. Es wird gezeigt, dass LRP die Korrekteste Methode ist, aber zusammen mit RisE verwendet werden sollte, um eine vollständigere Erklärung zu erhalten.

The saliency map methods Vanilla Gradients, SmoothGrad, (guided-) GradCAM, LIME and RisE are evaluated quantitatively with regards to their correctness. This is done in a reinforcement learning setting with DQN and Atari Breakout. As means to evaluate them quantitatively, Deletion is applied to measure how quickly the performance dwindles. It is shown that LRP is the most correct saliency map method, but should be used together with RisE for a more complete explanation.