вопрос про umask

Не получится. Значение umask это (666 - права на файл) или (777 - права на директорию).

Так что например для umask 026 у файла будет
666 - 026 = 640 или rw-r-----
для директории
777 - 026 = 751 или rwxr-x--x


если я ничего не напутал.

тоесть одинковые права (750) как на папки так и на файлы тоже нельзя сделать?

Нет. Там тупое вычитание. От 7 до 0