LINUX.ORG.RU

Ищу шедулер для питона, умеющий очень много задач

 ,


2

1

Задача такая:
Распределить случайным образом десяток тысяч задач в рамках времени около часа и чтобы они запускались по расписанию без опозданий.
Задачи динамически генерирующиеся , поэтому просто крон не подойдёт.
Пробовал appscheduler (https://apscheduler.readthedocs.io/en/stable/index.html) - не справляется, опаздывает. Есть ли что-то что умеет запускать четко по времени?

★★★★★

Ищу шедулер для питона, умеющий очень много задач

apache airflow?

четко по времени

Это не только от шедуллера зависит, но и от среды исполнения.

phoen ★★
()
Ответ на: комментарий от Qwentor

Тогда airflow это твоё, опционально с вынесенными celery worker’ами. Правда придется поучиться его готовить.

phoen ★★
()

sched не подходит? Был опыт использования, проблем не возникало.

evgeny_aa ★★☆
()
Ответ на: комментарий от DonkeyHot

Celery не умеет без опозданий by design.

У него все таски имеют ETA, которое будет точно соблюдено при удачных обстоятельствах (когда воркеры не заняты исполнением чего-то другого).

Octagon
()
Последнее исправление: Octagon (всего исправлений: 1)
Ответ на: комментарий от Qwentor

Celery в принципе позволяет снизить время опоздания за счет разбиения больших тасков на более мелкие и объединения их в цепочки.

Octagon
()

Да на асинклупе напиши сам клиент к очередям, пусть каждые 10 секунд сверяет текущую дату с датой у задач в списке, при совпадении (или меньше) - дёргаем какой-нить Celery. Задачи можешь хранить в списке Редиса. Короче, это всё пишется дня за 2, главное, сначала подумать, спроектировать, а потом писать. Ну, и…не редисом единым, и не только Celery, смотри всякие апач проекты, они местами более фичастые

menangen ★★★★★
()

Удваиваю написать самостоятельно - тут гораздо проще будет так, чем пытаться найти что-то готовое, потому что обычно всякие сельдереи решают задачу "я скину таску в очередь, и когда там получится ее обработаем, потому что мне не хочется этим занимать тред вебсервера". Только вместо редиса или других кэшей я бы использовал РСУБД, потому что полюбому тебе сейчас понадобиться хранить результаты, перешедуливать задачи и вообще иметь нормальный интерфейс (в том числе и запросов) и отказоустойчивость.

anonymous
()

Звучит как 5 строк на питоне.

ei-grad ★★★★★
()
Вы не можете добавлять комментарии в эту тему. Тема перемещена в архив.