LINUX.ORG.RU

coroio: самый быстрый распределённый акторный фреймворк в мире

 , , ,


0

2

Сначала цифры:

Распределённое кольцо, 10 процессов, batch 1024, пустое сообщение:
  coroio       1 137 790 msg/s
  YDB/actors     182 525 msg/s   в 6,2 раза медленнее
  CAF             55 540 msg/s   в 20 раз медленнее
  Akka             5 765 msg/s   в 197 раз медленнее

То же кольцо, полезная нагрузка 1 КиБ:
  coroio         860 188 msg/s
  YDB/actors      96 372 msg/s   в 8,9 раза медленнее

Локальное кольцо, 100 акторов, batch 1024:
  Akka           473 966 msg/s
  coroio         442 151 msg/s
  CAF            302 930 msg/s
  YDB/actors     151 972 msg/s

Бенч - кольцо: N акторов гоняют сообщение по кругу M раз, затравочные сообщения не считаются. Железо: i5-11400F, Ubuntu 25.04 (да цифры собраны на древней убунте в прошлом году, с тех пор я новых замеров не делал, но уверен, что хуже стать не должно).

Поверх этих акторов написана аналитическая «СУБД» QumirDB

Серьезный бенч: стенд: Hetzner, 4 узла CCX53, масштаб SF100. ClickHouse на MergeTree на тех же 4 узлах (сделано по доке от ClickHouse со всеми нужными индексами и твиками запросов). QumirDB на голых Parquet: без индексов и без переписывания запросов.

TPC-H SF100, 22 запроса, суммарное время исполнения:
  ClickHouse    291,9 с
  QumirDB        41,1 с   в 7,1 раза быстрее


TPC-DS SF100, 103 запроса, исполнение:
  ClickHouse    332,4 с
  QumirDB       231,5 с   в 1,4 раза быстрее

Фреймворк исповедует принцип zero-copy / zero-serialization. Все что можно не копировать - не копируется. Все что можно отправить в сокет как есть - отправляется в сокет как есть.

Есть как low-level type-less API, так и high-level type-full API. Пример простого актора:

struct TPing {
    static constexpr TMessageId MessageId = 100;
    uint64_t Seq;
    char Payload[1024];
};

class TPonger : public IBehaviorActor,
                public TBehavior<TPonger, TPing> {
public:
    TPonger() { Become(this); }

    void Receive(TPing&& ping, TBlob, TActorContext::TPtr ctx) {
        ctx->Send<TPing>(ctx->Sender(), ping.Seq + 1);
    }

    void HandleUnknownMessage(TMessageId, TBlob, TActorContext::TPtr) {}
};

Поддерживаются С++ корутины:

struct TGet   { static constexpr TMessageId MessageId = 300; uint64_t Key; };
struct TLoad  { static constexpr TMessageId MessageId = 301; uint64_t Key; };
struct TValue { static constexpr TMessageId MessageId = 302; uint64_t Key; int64_t Value; bool Hit; };

// Slow storage: a "disk read" takes 10 ms.
class TStorage : public IBehaviorActor, public TBehavior<TStorage, TLoad> {
public:
    TStorage() { Become(this); }

    TFuture<void> Receive(TLoad&& load, TBlob, TActorContext::TPtr ctx) {
        co_await ctx->Sleep(10ms);
        ctx->Send<TValue>(ctx->Sender(), load.Key, static_cast<int64_t>(load.Key * load.Key), false);
    }

    void HandleUnknownMessage(TMessageId, TBlob, TActorContext::TPtr) {}
};

class TCache : public IBehaviorActor, public TBehavior<TCache, TGet> {
public:
    explicit TCache(TActorId storage) : Storage_(storage) { Become(this); }

    TFuture<void> Receive(TGet&& get, TBlob, TActorContext::TPtr ctx) {
        if (auto it = Values_.find(get.Key); it != Values_.end()) {
            ctx->Send<TValue>(ctx->Sender(), get.Key, it->second, true);
            co_return;
        }
        TValue loaded = co_await ctx->Ask<TValue>(Storage_, TLoad{get.Key});
        Values_[get.Key] = loaded.Value;
        ctx->Send<TValue>(ctx->Sender(), loaded.Key, loaded.Value, false);
    }

    void HandleUnknownMessage(TMessageId, TBlob, TActorContext::TPtr) {}

private:
    TActorId Storage_;
    std::unordered_map<uint64_t, int64_t> Values_;
};

Где подвох

  • Zero-serialization требует одинаковой архитектуры и одной сборки на всех узлах (есть механизм определения своих сериализаторов для сообщений)
  • Локально (внутри одного процесса) Akka быстрее на 7%
  • На TPC-DS с учётом JIT QumirDB пока проигрывает: 429 с всего, из них 156 с уходит на LLVM. Поэтому я делаую супер-быстрый JIT на TPDE (draft)

GitHub

★★★★★

Последнее исправление: Reset (всего исправлений: 1)

Хочу уточнить.

Упомянутый в посте бенчмарк с локальным кольцом – это вот этот код: https://github.com/resetius/coroio/blob/master/examples/bench_actors.cpp ?

Если да, то что в нем означает параметр «–messages». Складывается впечатление, то это количество полных кругов по кольцу. Т.е. вы декрементируете Remain_ только когда TNext прилетает обратно к нулевому актору в кольце.

Правильно понимаю?

eao197 ★★★★★
()
Ответ на: комментарий от maxcom

TLS поддерживается, он опционален Я кстати не знаю какая скорость будет с TLS

Reset ★★★★★
() автор топика
Последнее исправление: Reset (всего исправлений: 1)
Ответ на: комментарий от Reset

Тогда у вас считаются не те попугаи ;)

По факту вы считаете количество колец в секунду. А общее количество сообщений, пролетающих по локальному кольцу, будет (количество_акторов * total_messages).

eao197 ★★★★★
()

СОбжиктаизир забросил? Так-то было бы конечно интересно пощупать, но увы - плюсы в начале года целиком закопаны в пользу раста.

anonymous
()
  • Markdown
Пустая строка (два раза Enter) начинает новый абзац. Знак '>' в начале абзаца выделяет абзац курсивом цитирования.
Внимание: прочитайте описание разметки Markdown.
Используйте Ctrl-Enter для размещения комментария