С документации. Почитать хороший учебник. Еще можно посмотреть Ruby за 20 минут (русская версия). Ну и, конечно же, Google. Если вы не программировали ранее, то лучше изучить основы.
Преимущественно для разработки Web-приложений с помощью фреймворка Ruby on Rails. Также используется как скриптовый язык для некоторых программ.
Можно использовать Aptana - очень хорошая IDE для Ruby. Но она на Java. Также можно использовать Geany - легкую IDE на C и GTK, но она не умеет многие фишки Aptana (например, автодополнение кавычек).
С недавних пор стал популярен редактор Sublime Text 2. В отличие от вышеперечисленных представляет собой платное ПО с закрытым исходным кодом на C, однако работает на порядок быстрее Aptana и имеет неограниченный по времени триал.
Надо выделить команду обратными кавычками `` (апострофами).
Есть два варианта: Ruby Version Manager (RVM) и rbenv
Оба имеют свои плюсы и минусы. RVM дополнительно умеет создавать отдельные наборы gem'ов для каждого приложения.