Нужно прогнать видео-поток (формат h264) через алгоритм обработки изображения. Главный вопрос в том, как достать из avi отдельные кадры (желательно в формате YUV), отправить их своей проге (пусть по одному) и вернуть их на прежнее место (закодировать в тот же или хотя бы lossless h264)?