Python asyncio speed limit

Всё верно, считай и ограничивай вручную.

то начинаем бить буфер на чанки и спать асинхронно

А сейчас ты шлёшь сразу много гигабайтов одним вызовом?

Откуда возьмётся race condition когда питон однопоточный?

Всё верно

Ну ок..

сейчас ты шлёшь сразу много гигабайтов одним вызовом

Если слать одним куском все что прилетело, а потом слип, то график скорости получается рваный как пила. Если же бить на куски и перемежать ( вставлять между ними) слип, то график скорости получается ровный. Вот такое соображение.

В async коде могут быть data races. Они имеют немного другой характер, чем в многопотоке. Но тем не менее для них есть всякие примитивы синхронизации: https://devdocs.io/python~3.12/library/asyncio-sync#asyncio.Lock

Так там же вроде не вытесняющая многозадачность. Точки, в которых может поменяться контекст, понятны

в питоне эта ass-синхронность работает на генераторах и libevent, последняя и позволяет race-condition

https://github.com/mjpieters/aiolimiter/blob/master/src/aiolimiter/leakybucket.py

Вот тебе пример

Если слать одним куском все что прилетело

Вопрос скорее такой: тебе «прилетает» сразу много гигабайт? Если да, то вполне возможно уже тут проблема в архитектуре.

тебе «прилетает» сразу много гигабайт?

нет конечно. Обычный asyncio.Protocol, колбэк data_received(), там макс. сотня Кб.

и ты за время передачи сотни кб успеваешь скачки скорости заметить?

Если же бить на куски и перемежать ( вставлять между ними) слип, то график скорости получается ровный. Вот такое соображение.

Ё, ты ноду открыл с чанками, паздравляю!

в этом нет смысла, тот кому нужно и так может через iptables скорость порезать

Вроде работает но не покидает ощущение что это костыль..

Да, это костыль! Выкинь слово asyncio и ищи решение, а как ты реализацию делал in/out не важно, с async или без.

Вот тебе пример

лимитилок Корутин в секунду или одновременно исполняющихся Корутин - полно. Но нет ни одной чтоб ограничивала поток байтов в секунду.

Выкинь слово asyncio

и что как в 2000х на каждого клиента делать новый тред?

и ты за время передачи сотни кб успеваешь скачки скорости заметить?

да, прикинь, 300КБ на полной скорости, далее сон, далее повторить. Скорость скачет. Неаккуратненько.

в этом нет смысла

если тебе «нинужно» то мне «нужно».

А ты не в состоянии байты дополнительно посчитать, имея пример с ограничением количества запросов в момент времени?

байты дополнительно посчитать,

я ж и спрашиваю как. Вот из оп-поста

.. словарь типа «таймстамп»:«размер» ..

а какую задачу ты решаешь в итоге - ограничение приема или передачи и зачем ?

а какую задачу ты решаешь в итоге - ограничение приема или передачи и зачем ?

пишу прокси сервер, надо ограничивать прокси-клиентов (в обе стороны).

ёба ты включаешь лося. Выключай, говорю. из запроса своего выкинь слово «async» и сразу что-то увидишь

ну или наваянное кем-то:
([адын])(https://pypi.org/project/traffictoll/)
(два (twistedmatrix.com))

пишу прокси сервер

ранее все аудиплееры писали, а щас сразу прокси ? )

а чем штатные не подошли ?

прокси-сервер на питоне - это 500 строк. 1 день страданий

а чем штатные не подошли

из нормальных есть только V2ray\Xray (но даже в нем нет спидлимита) и Gost. Они написано на Go, и имеют пару косяков.

Итак, вот критерии нормального прокси:

- аутентификация по логину/паролю
- без аутентефикации для определенных IP клиентов
- черный/белый список для доменов/IP вебсайтов
- умеет Http и Socks5
- Socks5 умеет UDP
- умеет резолв имен через кастомный резолвер, с кэшем
- умеет адекватный лог
- умеет лимиты скорости, как глобальный, так и на 1 клиента
- умеет лимит коннектов, как глобальный, так и на 1 клиента
- умеет слать как напрямую, так и через релей
- без утечек DNS и UDP

Итак, вот критерии нормального прокси

…

Сначала я думал что на лоре завелись люди, которые знают чего хотят, но потом увидел

без утечек DNS и UDP

И понял, что ничего не изменилось. Школьники хотят набигать и грабить корованы.

squid

без утечек DNS и UDP

я не распарсил и проигнорировал, ответ ведь всё равно не меняется

Race condition не зависит от многопоточности, например что бы выставить состояние, нужно два действия, но перед вторым действием программа прерывается на обработку async функции, или есть какой то планировщик заданий который начал обработку, и в коде другой процедуры ломается установка состояния, которая идет через одну переменную над которой все задания работали.

Как в данном случае допустить такое состояние, я придумать не могу, но извернуться всегда можно, особенно после усложнения начальной программы.

В питоне все не так работает.

async def fetch(session, url):
   response = await session.get(url)
   ...

...
asyncio.gather([fetch(session, url) for url urls])

Там примерно так должно работать:

while True:
  если мы ранее переключили контекст (state проверяем)
    если сокет готов для чтения
      читаем из него данные и меняем state на первоначальный
    иначе
      меняем контекст
      continue
  выполняем контекст пока не встретим await
  затем меняем state и переключаем контекст

Те ничего в принципе сломаться не может.

Там основной цикл есть для проверки состояни, скрытый за asyncio.run()

в этом и смысл, что в случае с кооперативной многозадачностью программист понимает места, в которых может меняться поток управления и не допустить rc можно просто организацией кода, безо всяких mutex, atomic, и т.д.

Нельзя точно предсказать какая из async процедур точно запустится, или как поведет себя планировщик задач. Еще можно предположить, что если два потока имеют доступ к одной переменной, то ее можно защитить, и избежать ошибки.

Так что я не думаю что эти ситуации сильно разные. Вызвать между шагом 1 и шагом 2 можно функцию которая на первый взгляд не кажется опасной.

Вместо словаря таймстемп:размер можно просто хранить таймстемп и разрешённый на этот момент размер. На любой другой таймстемп легко вычислить разрешённый размер и отсылать/читать не больше этого куска, обновляя в (now(), 0). Если разрешённый размер меньше некоторого порога, то уходим с sleep.

Если какое-то действие, которое должно быть атомарным (для решаемой задачи, речь не про атомики в процессоре), содержит внутри себя await, то это уже можно засчитать как race condition (к примеру уязвимости time of check/time of use). Но само собой, явный await позволяет легко такое обнаружить и исправить. Race condition слишком широкое понятие.

https://youtube.com/watch?v=I9smlyvq-gw