LINUX.ORG.RU

На облаке Amazon собран суперкомпьютер из 10000 ядер

 , , , , ,


0

2

Компанией Cycle Computing для своего клиента - фармацевтической компании Genentech внутри сервиса Amazon Elastic Compute Cloud был сконфигурирован вычислительный кластер, состоящий из 10000 ядер. На каждом узле запущенного сервиса стояла операционная система CentOS (клон Linux RedHat). Для обслуживания кластера использовалось как собственное ПО фирмы CycleCloud software, так и программное обеспечение с открытым кодом Condor и Chef.

Задача расчёта белковых связей, которая и считалась на этом кластере очень хорошо распараллеливается и производительность должна была быть близка к теоретической. Таким образом, расчеты, потребовавшие восемь часов работы облачного кластерного суперкомпьютера с быстродействием около 66 TFlops, составленного из 1250 физических восьмиядерных машин, с суммарным объёмом оперативной памяти 8.75Тб и 2Пт (петабайт) дисковой обошлись Genentech всего в 8500 долларов, включая все выплаты Amazon и Cycle Computing.

>>> Подробности

Ответ на: комментарий от anonymous

Ах да, и еще забыл, купить лицензию на шляпу быстро - не получится. Вы пишете им письмо, с вами связывается представитель, который выясняет детали (опросник), передает их сэйзлам, и те потом уже свяжуться и будут с тобой договариваться.

Нам надо было 2 лицензии для амазона, так вот мы реально с ними беседовать задолбались и мы забили на них болт.

В итоге пустили SLES

anonymous ()
Ответ на: комментарий от anonymous

А чем эта шляпа так хороша? Даже если хороша - с двух одинаковых компов собрать diff и приварить к centos - не?

maniacscientist ()
Ответ на: комментарий от Wizard_

многословно приведите примеры чтобы на 10000 ядер и дешевле

bsd_admin ()
Ответ на: комментарий от ns_ramesses

> Почему в России нет таких кластеров?

Потому что никто не ведет медицинские исследования?

Nxx ★★★★★ ()
Ответ на: комментарий от bsd_admin

>многословно приведите примеры чтобы на 10000 ядер и дешевле

Читайте побольше художественной литературы. А то не отрываются годами от форумов, а потом простейшее предложение на русском языке распарсить не могут.

Я говорил о задачах «обычного VPS хостинга». 10 000 ядер для хостинга — это очень необычно, не правда ли?

Wizard_ ★★★★★ ()
Ответ на: комментарий от maniacscientist

Ну в принципе тебе уже ответили, я имел в виду что не все йогурты одинаково полезны не надо вестись на трепню маркетологов.

Ramzes001 ★★ ()
Ответ на: комментарий от bsd_admin

как вариант: 10000 ядер, 0.3 квт/ч на 4 ядра по 0.1 usd за квт/ч.

10000 / 4 * 0.3 * 0.1 * 8 = 600

по ссылке не ходил естественно =)

anonymous ()

Странно, что никто не обратил внимание: почему это у амазона такое древнющее железо в облаках? Всего 8 ядер на бокс? Они на ebay побирались?

Для справки - HP ща блейды продает по 48 (сорок восемь) ядер на бокс. С 4мя процами по 12 ядер (Оптероны). Ну ладно, немного экономии, допустим, не самое распоследнее железо. Так тот же HP уже два года как выпускает блейды-16ядерники.

PAL ()
Ответ на: комментарий от PAL

Если они обновят железо на пару лет позже, то за те же бабки купят больше ядер, а потом опять будут экономить. Наверно так им выгоднее. Смысл менять 8 ядер на 16, для кластера, как-то не очевиден.

Napilnik ★★★★★ ()

очень нужная статья. я как раз интересовался облачными вычислениями в своей теме http://www.linux.org.ru/forum/talks/6109089, так мне в открытую говорили , что это всё никому не нужно, цитирую «в облаках вообще технических особенностей нет, один пиар и гламур для V.I.P».

теперь хоть будет куда лоровских троллей носом ткнуть, ибо экономия 8500 $ - против многих миллионов - это очень серьёзно. за облачными вычислениями - большое будущее, что и требовалось доказать.

Voviandr ()
Ответ на: комментарий от Voviandr

>за облачными вычислениями - большое будущее

это будущее давно наступило, с момента появления SaaS

распределенные файловые системы и операционки, позволяющие складывать мощности процессоров на разных машинах существуют уже лет 20
само понятие «кластер» появилось очень давно, и никакого отношения не имеет к «облакам», которые сейчас являются просто очередным модным словом, наряду с «социальные сети» и «микроблоггинг»

devnullopers ()
Ответ на: комментарий от devnullopers

>которые сейчас являются просто очередным модным словом, наряду с «социальные сети» и «микроблоггинг»

насколько я понимаю, под облаком в данный момент заинтересованные лица понимают предоставление услуг распределённых вычислений в удобной коммерческой обёртке. то есть сделать технологию удобнее, доступнее и выгоднее для клиента, причём таким образом чтоб всё это приносило прибыль. сделать из кластера юзер-френдли систему так сказать.

Voviandr ()
Ответ на: комментарий от anonymous

>Задачи вычислительной химии на GPU очень плохо параллелятся, нужен полноценный message passing, а не SPMD. Я уж не говорю о том, что с double там все плохо.

Да ну, а вот эти ребята об этом наверное не знают, поэтому и клепают свой софт и причем достаточно успешно http://www.ks.uiuc.edu/Research/gpu/

terminat0r ()
Ответ на: комментарий от maniacscientist

> А чем эта шляпа так хороша? Даже если хороша - с двух одинаковых компов собрать diff и приварить к centos - не?

Вендор БД сказал только шляпа или SLES, если хотите официальный саппорт. Иначе никак.

anonymous ()

> ... обошлись Genentech всего в 8500 долларов, включая все выплаты Amazon и Cycle Computing.

Cycle Computing работает за еду? История успеха!

rtvd ★★★★★ ()
Ответ на: комментарий от mclaudt

Ну так там внутри и и шины в пару тысяч бит толщиной и ГДДР5 на космических частотах, как раз и рассчитанная на подобные космические нагрузки.

anonymous ()
Ответ на: комментарий от dotbg

При этом на ЛОРе нет 114 новостей про более выдающиеся.

segfault ★★★★★ ()

Какой это нафиг суперкомпьютер? В этом вашем амазоне связь между нодами по ethernet, соответственно оно годится только для обработки большого количества независимых данных. Куча машин еще далеко не кластер.

anonymous ()

>расчеты, потребовавшие восемь часов работы облачного кластерного суперкомпьютера с быстродействием около 66 TFlops, составленного из 1250 физических восьмиядерных машин, с суммарным объёмом оперативной памяти 8.75Тб и 2Пт (петабайт) дисковой обошлись Genentech всего в 8500 долларов

А в это время в интернетах тихо и незаметно функционирует абсолютно бесплатная вычислительная сеть BOINC производительностью 5,5 PFlops...

Nebuchadnezzar ★★★★ ()
Ответ на: комментарий от Nebuchadnezzar

Она какбэ не для коммерческого использования

anonymous ()
Ответ на: комментарий от Voviandr

то есть обернуть старую всем известную технологию к красивую маркетинговую обертку? читай предыдущее сообщение

devnullopers ()

Еще одна причина считать это историей успеха: все это счастье сделали на вычислительных мощностях Amazon. Того самого, что запатентовал использование cookies. :) И пока детки играют со своим линуксом, большие дяди рубят бабки и временами позволяют деткам посмотреть на их роллс-ройсы.

rtvd ★★★★★ ()
Ответ на: комментарий от Xenon

> Крайзис все равно лагает?

Само собой. Ты представляешь себе, какая там latency передачи данных между узлами? Двинул мышкой и пошел пить чай. :)

rtvd ★★★★★ ()
Ответ на: комментарий от PAL

'>'Странно, что никто не обратил внимание: почему это у амазона такое древнющее железо в облаках? Всего 8 ядер на бокс? Они на ebay побирались?

Для справки - HP ща блейды продает по 48 (сорок восемь) ядер на бокс. С 4мя процами по 12 ядер (Оптероны). Ну ладно, немного экономии, допустим, не самое распоследнее железо. Так тот же HP уже два года как выпускает блейды-16ядерники.

НР -Hueta Poganaya -в качестве серваков ,так что не надо тут рекламу разводить

anonymous ()
Ответ на: комментарий от anonymous

А чем HP servers не угодили? В чем основные претензии?

rtvd ★★★★★ ()

Я правильно представляю себе процесс вычисления на подобных облаках : 1) выбираешь ОС 2) заливаешь образ на выбранное число машин 3) ставишь туда свой софт и запускаешь 4) твой софт свою работу выполнил, платишь за время выполнения?

mio ★★ ()
Ответ на: комментарий от anonymous

>НР -Hueta Poganaya -в качестве серваков ,так что не надо тут рекламу разводить

Так толсто, что даже толсто

anonymous ()
Ответ на: комментарий от mio

Примерно так. Там могут быть, конечно, нюансы, как говорится. В данном случае, запуск 10000 узлов заранее согласовали с Amazon, а не просто воспользовались сервисом.

anonymous_incognito ★★★★★ ()
Ответ на: комментарий от qbbr

> на чём написан?

Математические расчеты + linux + кластер => C/C++ и какая-то из имплементаций MPI, openMPI например. Или самопал какой-то, например из C+erlang.

shahid ★★★★★ ()
Вы не можете добавлять комментарии в эту тему. Тема перемещена в архив.