Захват экрана и звука

Попробуй OBS Studio

захват видео в firefox

попробуй youtube-dl

но ведь он для youtube?

Зачем городить какие-то надстройки, если везде есть ffmpeg или его можно поставить.

чуть чуть получше, невзирая на настройки(пробовал в lossless записать, все равно есть подтормаживания) получается хуже чем оригинал, в настройках невозможно выставить хардварный енкодер, поставил софтверный x264, видимо проблема с драйверами(установлено нвидиа, новеау не работает вообще) процессор загружается на 50%

Не только: https://github.com/ytdl-org/youtube-dl/blob/master/docs/supportedsites.md

ffmpeg пробовал, вот это из чьей то инструкции - ffmpeg -f x11grab -y -rtbufsize 100M -s 1366x768 -framerate 30 -probesize 10M -draw_mouse 1 -i :0.0 -c:v libx264 -r 30 -preset ultrafast -tune zerolatency -crf 25 -pix_fmt yuv420p screen.mp4

стоит заменить разрешение или частоту и уже получаем ошибку :0.0: Invalid argument

должно работать а не работает, даже если записать командой составленной по умолчанию то записанный файл не проигрывается, останавливаю запись с ctrl+z, может по другому надо, про это не пишут

Останавливать запись нужно ctrl+c. Это важно.

попробуй так

ffmpeg -f x11grab -s `xrandr | grep '*' | awk '{print $1}'` -r 25 -i :0.0 -vcodec qtrle ~/$(date +"%F_%T").mov

попробуй ffmpeg

Что за дистрибутив, что за модель видеокарты и версия видеодров? У меня аппаратное кодирование работает

c ctrl+c работает, ffmpeg -f x11grab -y -rtbufsize 100M -s 1920x1080 -framerate 60 -probesize 10M -draw_mouse 1 -i :0.0 -c:v libx264 -r 60 -preset ultrafast -tune zerolatency -crf 1 -pix_fmt yuv420p screen.mp4

качество ужасное, а ведь выставлял по разному, текущее должно было выдать максимальное качество но ничего не меняется

ffmpeg -f x11grab -s `xrandr | grep '*' | awk '{print $1}'` -r 25 -i :0.0 -vcodec qtrle ~/$(date +«%F_%T»).mov

  libavutil      56. 31.100 / 56. 31.100
  libavcodec     58. 54.100 / 58. 54.100
  libavformat    58. 29.100 / 58. 29.100
  libavdevice    58.  8.100 / 58.  8.100
  libavfilter     7. 57.100 /  7. 57.100
  libswscale      5.  5.100 /  5.  5.100
  libswresample   3.  5.100 /  3.  5.100
  libpostproc    55.  5.100 / 55.  5.100
:0.0: Protocol not found
Did you mean file::0.0?

echo $DISPLAY
:0

arch, gtx660, pacman -S plasma sddm xorg-server nvidia-390xx pulseaudio pulseaudio-alsa…

nouveau на моей карте вообще не работает(это касается всех линукс дистрибутивов с gnome3, kde за исключением когда установлены lxde, xfce, mate - они работают с nouveau), зависает намертво система через секунд 20

Посмотри, что у тебя происходит с загрузкой процессора при захвате видео, если она взлетает, то значит кодирование происходит на процессоре, а не на видео карте.

Если это так, то либо меняй процессор :) Либо разбирайся как заставить ffmpeg использовать для кодирования изображения видео карту: https://trac.ffmpeg.org/wiki/HWAccelIntro

Я кодировал разрешение 1280x1024 кодеком h.264, проблем не было, но тоже на процессоре.

Как кодировать на видео карте разбирайся сам. Читай документацию по ffmpeg.

Удачи.

процессор загружается до 40-50%, записывает, качество только хуже чем на винде, фпс маловат, хотел получить аналогичное качество на линуксе

Что значит хуже?

40-50% - это что значит, одной ядро процессора загружено на 40-50% или загружено 1 ядро целиком на 2-х ядреном процессора или 2 ядра ядра целиком на 4-х ядерном процессор?

Если это так, то упирается всё в процессора - разбирайся как кодировать на видео карте.

все 4 ядра загружаются примерно до 30-40% когда вот так -

ffmpeg -f x11grab -y -rtbufsize 100M -s 1920x1080 -framerate 60 -probesize 10M -draw_mouse 1 -i :0.0 -c:v libx264 -r 60 -preset ultrafast -tune zerolatency -crf 1 -pix_fmt yuv420p screen.mp4

когда смотриш например видео в проигрывателе или в браузере то все плавно, если записывать его то фпс низкий, лаги