Я, правда, не знаю что делает матлабовская функция, но, вообще-то octave для графиков использует gnuplot. Поэтому оба они, голубчики, могут трехмерное рисовать. Смотрите внимательнее документацию octave
plot3 рисует не поверхности, а линии и точки, поэтому наверняка есть, с той же функиональностью. Поробуй запустить демо в /usr/share/doc/gnuplot-***/demo, сразу увидишь что он рисует :)
