Будем делать вот такую закругленную фотку:

1. Открыть фотку:

2. Взять инструмент Rounded Restangle Tool (U), наверху выставить такие настройки как на скрине:

3. Теперь надо сделать так, чтобы на слое с фоткой не было замочка. Для этого двойным кликом левой кнопки мышки жмём по слою с фоткой, в выпавшем окне жмём ОК:

4. Теперь рисуем прямоугольник:

5. Жмем Ctrl+Enter для преобразования в выделение (раскладка клавиатуры должна быть английской):

6. В меню Select выбираем Inverse (Ctrl+Shift+I) – получилась обводка:

7. Далее нажимаем Delete и фотка с закругленными краями готова!

8. Чтобы фотка так и осталась с закругленными краями – сохранять нужно в GIF фотрмате:

Окончательный результат: