Привязка ip к домену.

/etc/hosts

На Ubuntu? И это будет подтягиваться на машины с виндузьей?

файл hosts есть везде

Обязательно на каждой машине его редактировать, или можно что-то поднять на линуксе один раз, чтобы работало сразу везде?

«везде» - это dns server, можно локальный завести и там зону завести

Какой предпочесть?

Какой умеешь - такой и делай.

Классика - BIND. dnsmasq новый вроде тоже умеет держать свою зону, но я сам не пробовал.

Бери bind. По нему есть отличная книга на русском Альбитц, Ли - DNS and BIND (на русском, 5-е издание, 2008 год. Но почитать придется. Если нужно быстро, то проще и быстрее hosts поправить. Тем более, как я понимаю, машин у тебя не так уж и много.

+1 За BIND.
Разобраться с базовыми вещами можно за пару часиков (а если ограничиться конкретно твоей задачей, то можно и скорее). А если в твои задачи вообще входит администрирование, то умение работать с BIND'ом рано или поздно пригодится.

Про bind почитал - слишком густой лес для меня. Как-то можно проще это все настроить?

mDNS Zeroconf

Есть машина с Ubuntu 16.04 на борту, на ней локальный сервер запущен с сайтом. На других машинах в локальной сети сайт открывается по ip машины с сервером, но хотелось бы открывать сайт по доменному имени.

Настроить dns сервер который раздает имена в вашей локальной сети. Мы не в курсе кто у вас работает, bind, dnsmasq, m$-кий, что-то еще.

dnsmasq новый вроде тоже умеет держать свою зону, но я сам не пробовал.

Ему не обязательно держать зону. Можно только хост прописать, достаточно удобно, или в /etc/hosts на хосте где запущен.

И это будет подтягиваться на машины с виндузьей?

Виндовая сеть одноранговая? В ней точно уже не функционирует DNS?

Можешь простенькую машинку поднять с готовым dns сервером, но тс.. я этого не говорил, но есть такая фигня, как netbios. И вот если в локальной сети хочешь, чтоб всё работало по именам без лишних серверов и прочего, можно юзать netbios. Он позволяет в локальной сети обращаться к компам по имени, даже без dns. Каждый комп сам выдаёт своё имя. Чтоб это работало, достаточно на линуксе установить samba и, если не прописано, прописать Workgroup. Но по идее после установки должно заработать и так. А потом уже можешь потестить - те же IP-сканеры начнут видеть имя сервера и другие машинки будут уметь обращаться по имени, даже без DNS и домена. Протокол устаревший и не лучший, но для мелкой задачки сойдет.

Точно, забыл что A-запись можно просто прописать в /etc/hosts имя и не париться

Это в случае если читаем его. Но и даже если не читаем, то как написал, в конфиге можно указать, я как-то привык к конфигу :)