Прокси не веб порта средствами nginx

Из коробки - нет. Был какой-то tcp proxy модуль от 3-тей стороны, но посмотри лучше в сторону haproxy, например.

Это плохая идея.

iptables

Перекрывать весь 80 порт недопустимо. Таким же способом можно, просто, заставить vnc сервер слушать 80 порт. Нужно именно, например, на определённом поддомене, поверх nginx'а

>Перекрывать весь 80 порт недопустимо.

80 не единственный. Кстати, если ты такой экономный, посмотри в стороны squid. Метод connect вполне позволяет подключиться к порту через прокси. Но раз ты выставляешь его наружу, придётся уделить внимание на надёжное ограничению доступа.

Выглядит нереальным по вполне очевидным причинам (в http виртуалхосты реализованы за счёт того, что внутри http запроса видно доменное имя хоста; в TCP/IP и выше по стеку — в VNC доменных имён не предусмотрено).

80 единственный. Нужно поднять vnc поверх nginx'а на 80 порте.

Хотя хз как с клиентами и их поддержкой прокси. Если они умеют из коробки прокси — может, и реализуемо. Если нет — менять клиенты.

Но Nginx же может выступать в качестве шлюза/прокси в данном случае?

Есть ещё всякие java и прочие клиенты VNC, которые можно гонять в браузере, но я не знаю, с кого они коннектятся.

Java тоже не пойдёт. Нужно именно, чтобы можно было приконектиться к vnc через 80 порт поверх nginx'а

Сам не пробовал, но может быть можно на прикладном уровне разделить vnc и http трафик с помощью вот этой цацки для iptables http://ru.wikipedia.org/wiki/L7-filter

По крайней мере здесь http://protocolinfo.org/wiki/Main_Page VNC упомянут в http://protocolinfo.org/wiki/List_of_uncategorized_protocols

Судя по содержимому ниже, айпистолами таки можно отделить VNC трафик и перекинуть его с 80 на 5900 порт.

http://protocolinfo.org/wiki/VNC
l7-filter
l7-filter uses the vnc pattern. It has been tested with vnc v3.3.7 on Windows XP and Linux.

Мьсье знает толк, но вариант действительно хороший. Сейчас буду думать, как на Mikrotik'е отфильтровать vnc на уровне L7