LINUX.ORG.RU

Параллельные технологии

 , , , ,


11

5

По договорённости с редакцией Linux Format выложил в открытый доступ цикл статей по параллельному программированию, которые были опубликованы в журнале с февраля по июль этого года.

Кратко рассмотрены пакетные (batch) системы, MPI, CUDA, OpenCL и примеры работы с кластерами. Также во введении есть сопутствующее мини-интервью с Романом Троганом из Parallela.

P.S. Если будет интерес, то начну процедуру выкладывания исходников статей под открытой лицензией.

>>> Сами статьи

★★★★★

Проверено: DoctorSinus ()
Последнее исправление: cetjs2 (всего исправлений: 4)

Ответ на: комментарий от Evgueni

Ну, по смыслу, видеопроцы — это именно векторные. Да и при OpenMP (кстати, упустил ты его в обзоре) мы фактически используем векторные принципы программирования на многоядерных (по сути — векторных) процессорах.

Const
()
Ответ на: комментарий от Const

Они от этого с большиииим напрягом пытаются изо всех сил отползти в смысле от векторности. Раньше вообще на карте мог работать только один kernel, сейчас kernel другой kernel может инициализировать.

Evgueni ★★★★★
() автор топика
Ответ на: комментарий от keekdown

Ну, для СЛАУ при N=10^6 есть неплохие алгоритмы, позволяющие сократить количество операций вплоть до O(N) с точностью, не ниже погрешности округления. Но в реальности мы быстро упираемся в ещё бóльшие задачи.

Const
()
Ответ на: комментарий от Evgueni

Зря они это пытаются. Потому что огромное количество (если не большинство) задач, для которых программят CUDA, по сути векторные или прекрасно векторизующиеся. Лучше бы допилили нормальный CUDA-фортран. А так как сейчас, — гораздо более интересно с точки зрения затрат времени на программирование выглядит Xeon Phi.

Const
()
Ответ на: комментарий от Const

затрат времени на программирование выглядит Xeon Phi.

Вот именно _потому_ и пытаются. А по поводу векторности — не зря векторных в TOP500 не имеется, а ведь раньше суперкомпьютер и векторный было синонимами.

Evgueni ★★★★★
() автор топика
Ответ на: комментарий от loz

Разве все это нужно когда есть эрланг?

В новости русским по белому написано, что речь о batch-обработке данных, а не о spawn(node2, some_fun()). В статью ещё hadoop можно запихать, но не erlang, ибо он к этой тематике не относится.

shahid ★★★★★
()

Вот это уже интересно.

Quasar ★★★★★
()
Ответ на: комментарий от Evgueni

Думаю причина немного в другом. Векторный процессор когда-то оказался ytghjgjhwbjyfkmyj дорог по сравнению с «простенькими» x86. Думаю, в ближайшие пару лет top500 заполонят GPU и Phi. Собственно, первые уже. И можно будет считать, что векторные системы составляют значительный сегмент top500.

Const
()
Ответ на: комментарий от Const

Немного не так: векторный процессор оказался слишком дорог по сравнению с ценой толпы простеньких процессоров. Ну и выпускать толпу процессоров гораздо проще, чем делать один грубо говоря в год — забываешь с чего надо начинать.

Phi ничем от толпы процессоров не отличается — просто более плотная упаковка. GPU же такое, какое оно есть не от хорошей жизни и всячески стремиться прикинуться аналогом Phi.

И да, если intel цены в пересчёте на одно ядро Phi не уронит на порядок, то Phi мэйнстримом не станет, а будет, как сейчас, фетишём для для дорогих пузомерок (естественно никто не мешает мощь пузомерки использовать во благо).

P.S. Про цены это я к тому, что мне Parallella гораздо более симпатична, но скорее всего не взлетят уже :( — нужно чудо.

Evgueni ★★★★★
() автор топика
Последнее исправление: Evgueni (всего исправлений: 1)
Ответ на: комментарий от NaN

Free lunch is over. А мнение Кнута - лишь мнение Кнута.

anonymous
()

Класс, спасибо.

Идей вагон, жаль только, что ненужно никому особо.

Deleted
()
Ответ на: комментарий от Evgueni

Да, Parallela - очень интересная вещь. В целях образования могла бы успешно применяться не хуже Raspberry Pi.

anonymous
()
Ответ на: комментарий от loz

И в чем же состоит сложная задача?

В распараллеливании управляющих информационных воздействий, например.

Deleted
()
Ответ на: комментарий от loz

Эрланг вообще не годится для вычислений, в этом качестве он даже хуже фортрана, хотя что может быть хуже фортрана, я даже не знаю.

anonymous
()
Ответ на: комментарий от Evgueni

Всё так. Но по сути Phi (и иные многоядерки) гораздо удобнее использовать именно как векторные числодробильни. И алгоритмов полно, да и большинство научных данных/моделей/алгоритмов славно ложатся на вектор.

Кстати, даже если Phi не станет мейнстримом, Intel на его примере показал важную вещь, о которой уже лет 15 говорили, но никто не выпускал: (очень)многоядерные CPU возможны и прекрасно работают. Так что, думаю, следует ожидать скорого всплеска подобных систем, в том числе и не на x86 архитектуре.

Но дорогими они останутся всё-равно. Ниша всё-таки не слишком большая у числодробилен.

Const
()
Ответ на: комментарий от anonymous

Вообще-то для вычислений нет пока ничего лучше Фортрана. Я бы даже сказал, что языков, удобных для численных задач и хотя бы отдалённо сравнимых с Фортраном, настолько мало, что пальцев одной руки хватит с запасом. Но это так, к слову.

Const
()
Ответ на: комментарий от Const

Вообще-то Parallella как раз и показала, что многоядерным архитектурам вовсе не обязательно быть дорогими, ну и числодробильни — это частный случай, который должен спуститься на десктопы ибо... Про скорость света и размер атома я уже писал.

Evgueni ★★★★★
() автор топика
Ответ на: комментарий от anonymous

Тогда я точно не понял нить дискуссии. Ну и ладно.

aedeph_ ★★
()

Огромное спасибо авторам! Сейчас читаю статью об MPI и восхищаюсь тем, насколько доступно и просто она написана. Даже самому захотелось программировать на Си параллельные задачи, хотя раньше ограничился бы Perl'ом.

DRVTiny ★★★★★
()
Ответ на: комментарий от DRVTiny

на Си параллельные задачи, хотя раньше ограничился бы Perl'ом

имеется ввиду перл который с верблюдом?

anonymous
()
Ответ на: комментарий от Dubrovsky

Люди тратят жизнь на фигню. Параллельные технологии усилят энтропию.

drSchur ★★★
()
Ответ на: комментарий от anonymous

Perl5, до Perl6 руки дошли, но я пока не готов писать что-либо на нём, хотя многие концепции весьма разумны, особенно отказ от множества уточняющих контекст префиксов для одной и той же переменной.

DRVTiny ★★★★★
()

Вопрос. В ЛФ часто публикуется подобное, околонаучное чтиво, стоит ли подписываться? А то в нашем мухосранске бумажных версий в продаже не бывает.

drSchur ★★★
()
Ответ на: комментарий от anonymous

Для вычислительной задачи С в любом варианте жутко неудобный язык. Если бы вы писали хоть что-то счётное на Фортране новее 95-го, вы бы со мной согласились. То, что Фортран исключили из программы ВУЗов в РФ, в том числе и на математических и физических факультетах — это беда. Посмотрите, для примера, какие роскошные учебники по Фортрану издаются на английском.

Const
()
Ответ на: комментарий от drSchur

Только когда я что-то затею :) На моей странички есть другие примеры.

Раньше номера за предыдущий год выкладывались в открытый доступ официально. Сейчас я не знаю сохранилась ли эта политика, но в любом случае имеет смысл посмотреть их предварительно, чтобы решить для себя. Большая часть материалов — это переводы с английской версии и они довольно казуальные, правда там есть интервью, которые в наших условиях взять бы не получилось и обзоры железа (в этом году засилье RaspberyPi).

Чтобы написать текст подобный тому, что я выложил, требуется избыточная мотивации, так как имеющаяся денежная компенсация её не обеспечивает. Успешные циклы получаются, если пишет профи, который хорошо знает тему, поэтому может накидать скелет быстро, но

а) не все профи умеют писать (это исправимо, в данном случае скелет доводил до релиза я)

б) не все профи хотят писать (это проблема не исправима)

в) число тем, даже у хорошего профи ограничено (для новой темы приходится искать новых энтузиастов)

По поводу формата журнала. Я длительное время выписывал твёрдую копию, но сейчас перестал — уж очень много места занимает. IMHO, электронная версия всё-таки удобнее, несмотря на средненькое качество при просмотре с экрана.

Evgueni ★★★★★
() автор топика

Спасибо большое за ликбез!

alex-w ★★★★★
()
Ответ на: комментарий от Evgueni

А на моё сообщение с аналогичным смыслом стуканул.

aedeph_ ★★
()
Ответ на: комментарий от anonymous

Я и не предлагал на нем вычислять.

loz ★★★★★
()
Ответ на: комментарий от loz

Если нет ошибок в программе, то всё достаточно надёжно. Проблемы с нестабильностью результатов GPU (абсолютная точность для игрового применения не нужна в отличии от расчётов) давно уже изжиты.

Evgueni ★★★★★
() автор топика
Ответ на: комментарий от NaN

А вот Кнут против всяких этих новомодных параллельных технологий.

Тебя еще удивляет что периодически известные авторитетные дяди порят чушь?

I-Love-Microsoft ★★★★★
()
Вы не можете добавлять комментарии в эту тему. Тема перемещена в архив.