Как ставить софт на Линух?

и в каком виде ты его закачал???
ежели в *.tgz или в *.tar.gz тока не бинарники то так
cd /usr/src
tar -zxvf чего-там-gcc.tgz
cd gcc.версия
configure --help > conf.help
читаем внимательно conf.help - еше полезно install почитать !!!
configure --опции........
make
make install
PS:полезно скачать программу installwatch
тогда последняя строка выглядит так
installwatch -o путь.к.папке\install\gcc make install

... а ежели RPM, то man rpm :)

Я его закачал как .tar.gz. Естественно первым делом почитал install, там говорится, что надо создать директорию для obj-файлов, правда я не понял где, а затем... Ну ни хрена не понятно. Вот я и решил спросить.

предположим, что тебе нужно поставить gcc как основной компилятор,
при этом тарбол называется gcc-2.92.2.tar.gz
видя его в текущей директории, скажем:
gzip -dc gcc-2.95.2.tar.gz | tar xvvvf -
mkdir gcc-build
cd gcc-build
../gcc-2.95.2/configure --prefix=/usr \
--with-gxx-include-dir=/usr/include/g++ \
--enable-shared --enable-languages=c,c++
make bootsrtap
make install

это типичная установка gcc. тот компилер, который до этого
был в /usr -- будет снесен. если это не нужно - поменяй --prefix=/usr/local (или еще как-то)

прочие подобные рецепты есть в LFS Book (http://www.linuxfromscratch.org)