Сборка пакета

пакет нуждается в современной библиотеке

если подразумевается пакет в репозитории дестрибутива, то опакечивать эту библиотеку

И поднимать свой репазиторий?

Лично я так и делаю: lib32, lib64, и run.sh, подцепляющий эти нестандартные зависимости. Как вариант подниманию репозиторию - можно собрать эту либу в каком-нибудь старом дистрибутиве Linux (например Debian Wheezy или Ubuntu 12.04). Затем на странице загрузки предлагать этот DEB-пакет в дополнение к основному.

да

Если ты сам распространяешь этот пакет, то делаешь как нравится. В этом случае нет большой разницы между пакетом, tar.xz с бинарниками или инсталлятором.

Можно статически слинковать библиотеку