Por que "Present Perfect" tem esse nome, sendo ele passado?

Não este não é um tempo verbal no passado simplesmente.
É um tempo verbal com uma delineação temporal que nos reporta ao passado. Um evento/ação que começou no passado mas que continua no presente ou tem efeito no presente.
Ao passo que no past simple, a ação começou no passado e já terminou.

Em inglês há algumas convenções, e esta é uma delas, de que os verbos não tem que ser "marcados" de uma forma estática "passado/presente/futuro".
Na verdade até em português há algumas convenções que normalmente não aprendemos a usar, por exemplo o pretérito perfeito do indicativo (como podemos ver nas definições a seguir):
Pretérito Perfeito (simples) - Expressa um fato ocorrido num momento anterior ao atual e que foi totalmente terminado.
Pretérito Perfeito (composto) - Expressa um fato que teve início no passado e que pode se prolongar até o momento atual.

Estamos ainda menos habituados a falar de "futuro do pretérito", apesar de sabermos o que é na prática, mas que para um aluno estrangeiro é importante para ter base de comparação.
Então, na verdade quando o aluno de inglês se pergunta por que o verbo sendo passado leva o nome de presente, na verdade o que ele está perguntando é por que no inglês é diferente do português.
Seria o equivalente ao outro aluno que pergunta "se estou falando que você é" e o verbo ser na 2a pessoa do singular, então por que não "you is?". Por que é convenção, é assim em inglês. Ou ainda se perguntar por que o "I" é maiúsculo em qualquer parte da frase e os outros pronomes normalmente só no início?
Para servir de consolo, é só lembrar que eles tem a mesma dificuldade (ou até mais) quando aprendendo português.