En Windows 8.1 las aplicaciones no dejan de usar memoria cuando han sido cerradas. Aunque es muy poca memoria, si quieres cerrar una aplicación del todo en Windows 8.1 debes seguir los pasos de este vídeo.