Аналоги ncurses

Чтобы программа выводилась в виде текстового потока с графическими элементами

Любой тулкит умеет в текст, картинки и просто геометрические фигуры.

В консоли?

Чтобы в консоли - это в первую очередь не тулкит новый надо, а консоль, которая не только в текст умеет. А таких пока две, и то только с картинками - terminology и urxvt, но во втором это грязный хак.

TUI отличается большей гибкостью

В чем это выражается?

Это не консоли. Ncurses и подобное нужны в первую очередь там, где нет и не может быть никаких иксов. От эмулятора требуется только быстро взлететь, выполнить пару команд и сдохнуть. Задротские навороты и вообще tui в графической среде не нужны.

Чтобы программа выводилась в виде текстового потока с графическими элементами там, где их наличие удобно?

Наподобие Newt/gNewt (или bash + dialog/xdialog)?

TUI? Не, не слышал...

может пора закопать этот vga генератор шрифтов?

Были ли попытки совместить лучшее обоих типов UI?

Вообще ты про framebuffer видимо. Kак пример: w3m/ranger(отображают изображения), mplayer(может играть видео через fb), посмотри на основе чего они написаны и копай от этого.

Tk вроде умел в текст.

т.к. язык не назван, то https://github.com/gizak/termui

Ты XTerm забыл: https://www.dim13.org/tmp/xterm-w3m.png

Тебе на текстовом терминале рисовать? Тогда лучше ncurses толком ничего и нет. Поверх есть newt или я использовал питоновый urwid для того чтобы быстро нафигачить гуйню для софтины.

Если на фреймбуфере, то directfb и подобное тебе поможет.

не нравится curses, есть вот blessed:
https://github.com/chjj/blessed

TUI отличается большей гибкостью

Командный интерпретатор (по сути ЯП) отличается гибкостью. Сами терминалы — ограниченное убожество.

Были ли попытки совместить лучшее обоих типов UI

Да, встраиваемые скриптовые ЯП, терминал при может отсутствовать.

Некорректный посыл у вопроса. TUI редко на самом деле прям-вот-так предпочтителен. TUI-интерфейс нужно проектировать отдельно, поэтому его почти никто не делает.

Emacs умеет графику и текст.

Если не ошибаюсь, TurboVision мог в какой-то степени и в GUI и в TUI. Но это было так давно, что может я и путаю.