Дело в том, что плееры на gstreamer играют видео при помощи кодеков для gstreamer, поэтому одни приложения могут проигрывать MKV, другие - нет. Обратите внимание на то, чтобы matroska поддерживалась на декодирование(в строке должна быть большая литера D). И повторите то же самое для h264.