Тебе нужен умный settings-daemon, который: а) отдаёт окну соответствующий Gtk/DecorationLayout в зависимости от того, распахнуто оно или нет; б) ловит события распахивания/развспахивания окон и командует им перечитать настройки. Такое только патчем можно сделать, пожалуй.