BORDA ARREDONDADA
Para fazer uma imagem com as bordas arredondadas é muito fácil. Vou começar com essa imagem:

Agora, selecione o pedaço que você aonde você quer fazer a borda:

Vá até
Select >> Inverse, e a sua seleção vai ficar assim:

Clique em
Modify >> Smooth. Eu escolhi 10px, e depois clique em OK.

Agora volte no
Select >> Inverse, e vai ficar assim:

Pronto! Agora é só recortar e colar onde você quer que fique. Este é o meu resultado:

Tutorial por Nana. Proibida cópia total ou parcial.