Como dizer "segundo nome" em inglês

These are terms I commonly use:

First name: single or double (compound or hyphenated))
Middle name(s)
Last name / Surname: single, double, hyphenated or non-hyphenated

(Or you can just say "Hey you!")

Em um nome composto, por exemplo: João Carlos, "Carlos" seria o "second name". Se o nome completo fosse "João Carlos da Silva Sauro", o "da Silva Sauro" seria o "family name".

Second name: a name that comes after your first name and before your family name.

Ao meu ver...

José Santos Silva

José = first name
Santos = middle name
Silva = last name

José Carlos Santos Silva
(Observem que Carlos não é sobrenome!)
José = first name
Carlos = second name
Santos = middle name
Silva = last name

Se ele se chamasse só José Silva, então quer dizer que ele não tem middle name.
E se chamasse José Carlos Silva, continuaria sem middle name.

Faz sentido ou eu tô criando caso?

Tb chamamos isso de "middle name". "Middle initial" seria a primeira letra do seu segundo nome, for ex: John A. Patterson

Rosângela,

Você pode usar 'second name'. Veja a definição do Longman:

Second name: a name that comes after your first name and before your family name.