Existem várias formas para realizar esse processo, eu vou lhe mostrar o processo utilizando máscaras de camada.
Para exemplificar vou utilizar a foto disponibilizada no link abaixo:
https://www.pexels.com/pt-br/foto/mulher-sorridente-com-cabelo-ruivo-1987301/
Adicionar um canal alfa na camada
Temos que adicionar um canal alfa na camada da imagem para ter a transferência, então, execute o seguinte procedimento:
1) Clique com o botão direito em cima da camada da imagem;
2) Escolha a opção “Add Alpha Channel”;
Duplicar a camada da imagem
Agora é necessário duplicar a camada da imagem, pois, vamos utilizar a nova camada para fazer a “separação” do cabelo do fundo.
1) No menu “Layer” clique no botão “Create a duplicate of the layer and add it to the image”;
Criando a máscara de camada
Agora vamos criar a máscara da camada, então, vamos deixar o fundo da imagem preto e a pessoa branca. Pois, no sistema de máscara a cor preta é excluída e a cor branca é mantida.
Lembrando, que todo processo abaixo será feito na nova camada criada.
1) Vamos deixar a imagem, em escala de cinza (Preto e branco):
1.1) Color > Desaturate > Desatura;
1.2) Escolha o modo “Luminance” e clique em “OK”;
2) Com a foto em escala de cinza, vamos aumentar mais o contraste. Para tal, vamos utilizar a ferramenta de curvas;
2.1) Colors > Curvers …
2.2) Configurar as curvas para que tenha o máximo de contraste entre o cabelo da pessoa e o fundo;
3) Selecione a ferramenta “Paintbrush Tool” e pinte toda pessoa de branco e todo o fundo de preto;
3.1) Ficando dessa forma;
4) Clique na camada original e crie uma nova máscara branca de camada;
5) Recorte a camada com a máscara e cole na máscara da camada, utilizando os seguintes atalhos:
6) Com isso, você vai observar que o corte do fundo foi feito com sucesso preservando os fios de cabelo: