Nesse caso, por se tratar de tempo de estudo, tempo em que você está em um curso, escola, etc., não é correto dizer oldest student. A expressão oldest student é para quando você estiver falando de idade.
Há duas opções para se dizer aluno mais antigo em inglês (com mais tempo de estudo em escola, curso, etc):
1. Longest-standing student (menos comum, mais formal)
- He is our longest-standing student. [Ele é o nosso aluno mais antigo.]
2. Student that has been with (school, course) the longest
- This is the student that has been with us the longest. [Este é o nosso aluno mais antigo.]
Cf. Como dizer "Mais antigo (membro, funcionário etc)" em inglês
Bons estudos.
