ambos tem a mesma finalidade, então não existe uma diferença técnica, apenas acrescentação o u remoção de alguns de comandos.
Exemplo, apt tem um apt edit-sources que você editar os sources dos repositórios.
O apt possui uma barra progressiva enquando apt-get não possui.
Assim como existe o aptitude que também existe recurso diferente para interagir.
Claramente, o APT por ser uma ferramenta mais madura, ela possui recursos a mais que o apt-get, como já mencionado anteriormente.