Primero elimine la clase activa de la lista de clases y agregue al elemento actual usando JavaScript

function myFunction(e) {
  if (document.querySelector('#navList a.active') !== null) {
    document.querySelector('#navList a.active').classList.remove('active');
  }
  e.target.className = "active";
}
Ankur