Не знаю каким образом работает группировка в Gnome, но ты можешь использовать комбинации клавиш Alt+` или Alt+~ для переключения между окнами одного приложения.
В KDE по умолчанию Alt-Tab переключает между всеми окнами, а между окнами одного приложения — Alt-` (вперед) и Alt-~ (назад). Можешь сделать наоборот — чтобы Alt-Tab и Alt-Shift-Tab переключали окна текущего приложения.
Настраивается здесь: Параметры системы -> Комбинации клавиш и росчерки -> Глобальные комбинации клавиш. Там выбрать «Компонент KDE: KWin».
Сдается мне, что в KDE это невозможно сделать без допиливания. Можно написать скрипт, который будет все делать через dbus-интерфейс к KWin, и повесить его на глобальную комбинацию клавиш.
Очевидно, легче через dbus, т.к. не надо ничего пересобирать или переустанавливать. Правда, нет 100% гарантии, что через dbus это возможно сделать. Есть еще какой-то «kwin scripting».