Diferença entre In e On

Olá, têm alguma diferença entre In the afternoon e On the afternoon. É correto pensar que In the afternoon é quando está no começo e On the afternoon seria quando já está em um período de tempo considerável?