filesystem for loopback device connected image

Ты про squashfs?

Нет. Я про любую фс в файле, смонтированом через loopback устройство. Т.е.

dd if=/dev/zero of=image bs=1024 count=1024
mkfs -t ext2 image
mount -o loop image /mnt -t ext2
echo 'hello' > /mnt/hello.txt
umount /mnt

Вряд ли. Это же, по сути, RAM, и прирост, если он вообще будет, будет незаметен.

Это же, по сути, RAM

Почему? Сам файл образа лежит на диске, он же его не в tmpfs создаёт и не как ramdisk монтирует. Это по сути RAW, а не RAM, если фрагментацию самого файла образа не учитывать. Так что критерии выбора ФС те же что и к разделу жёсткого диска.

ext2 работать будет побыстрее, поскольку без журналирования. А так ext4 немного тюненый.

Допустим я запускаю виртуальную машину и использую образ диска

В зависимости от виртуальной машины, и от того как вы пускаете гостя.

ext2 работать будет побыстрее, поскольку без журналирования

Прирост будет околонулевым. В метаданных меняется только даты последнего доступа и последней модификации, существенных изменений не происходит.

Это если сам файл полностью преаллокейтнутый. А если нет (sparse file) - тогда возможны эффекты, но они все равно невелики.

В любом случае можно отключить журналирование в ext4. Так что я бы советовал Ext4