теоритический вопрос по параллельному программированию

ну и еще вопрос - если ли в этом - какой та принципиальная и оч большая проблема в реализации
может кто сталкивался

какое программирование имеется ввиду? если вы говорите о параллельном программировании, то это скорее всего вам необходима использовать кластер и что-нибудь типа openMP / MPI. Если вы говорите о многопоточном приложении, то здесь совсем другой разговор.

Есть схемы по распараллеливанию вычислений. Я думаю в интернете вы без труда сможете это найти.

Grand Central Dispatch?

ага - очень похоже - спасибо за урл

Если нить ждет своего семафора - про неё можно не вспоминать, а оптимальная схема, IMHO: количество активных процессов(нитей) = кол-во процессоров.

ну да - но чтоб начать работать - семафор должны включить - а это должна сделать система - то есть свитчиться ей придется в ядро
а если идеть речь о очень низкоуровневом параллелизме - то это весь бонус съесть

> ...то это весь бонус съесть
зависит от кривизны рук реализации

а да - забыл добавить что троллей просьба не беспокоиться

я хотел сказать что общего(канонического) решения тут нет

весьма много частей кода - обрабатывают разные независимые данные

Это как так?

ну - просто (имхо) такая логика работы приложения вытекает из мультипроцессорности

обычьно в программах очень много паралельных участков кода - но их запаралелить - это уткнеться в оверхед что привносят мутексы и так далее

а что если изначально делать программу - блоками - и описывать взаимодействие блоков
типа - результат работы каких блоков пораждает условия на начала работы других блоков
посуществу этакая блок схема

ну как как - вот пример

tcp сервер - принимает соединения - принимает данные - обрабатывает - и отсылает ответ - и ведет базу свою

сам select/poll/epoll - это четко выделенный блок - результаты которого (полученные события) - являются условием для работы след блока - который обрабатывает события

обработанные события - новые соединения или поступившие данные - иль запрос на выдачу данных - являются условием для работы блоков обработки данных иль выдачи данных иль обработка новых подключения

эти же блоки - являются источником работы для блока который ведет базу

и так далее

вот такая простая схема - уже пораждает 6-8 блоков - которые способны работать в параллель
причем часть блоков (ресурсоемкие и нетолько) - должны мочь работать в нескольких экземпляров

а какой плюс от этого ?
плюс в том - что такая система способна принять соединение - тутже отдать обработку этого соединения на другой процессор - и сразу опять слушать соединения

а проблема в том - что нехочеться на каждый блок делать отдельную нить - слишком много нитей - обрабатывать эти нити - куда как чаще ядро дергать (имхо)

Ну для веба вообще все просто. Каждый тред имеет свою копию данных, а для эффективность все блокирующие вызовы должны быть ассинхронными. Итого идеальная модель параллельности это треды или процессы по количеству ядер, каждый тред работает в ассинхронном режиме.

> Ну для веба вообще все просто.

Итого идеальная модель параллельности это треды или процессы по количеству ядер

Не усматриваете противоречия? веб подразумевает поток соединений, никак не связанный с количеством процессоров или ядер. К тому же отдельный тред, обрабатывающий соединение, не забирает все ресурсы одного ядра.

Или подразумевается, что тред, «занявший» ядро, сам занимается диспетчеризацией запросов?

подразумеваеться что предварительно несколько нитей занимают места - и уже распределяют всю работу чисто между собой - минимально дергая систему

суть то вопроса - это лучше или хуже - чем обычьное решение для мультипроцессорности

> а что если изначально делать программу - блоками - и описывать взаимодействие блоков...
Идея неплохая, но писать такого диспетчера - задача нетривиальная :)

man OpenMP

Именно оно там и делается, только границы блоков определяют барьеры — точки кода, которые должны быть достигнуты всеми потоками прежде, чем программа будет исполняться дальше. Внутри блока — полный параллелизм.

CPU Affinity, LWKT

pi-calculus

>а что если изначально делать программу - блоками - и описывать взаимодействие блоков типа - результат работы каких блоков пораждает условия на начала работы других блоков посуществу этакая блок схема

зачем вы заново придумали erlang?

http://www.gnu.org/software/pth/

> man OpenMP

Наверное, все-таки лучше конкретизировать задачу, не съест ли оверхед от OpenMP выигрыш от распараллеливания?

Хотя... раз вопрос ТС «чисто теоретический», то OpenMP тоже сгодится.

никаких эрлангов и незнаю
речь о обычьном Си