Запуск UT3 на движке DunDef (UDK)

Ну ошибка совершенно очевидная.
Ругается на невозможность загрузить d3d (hlsl шейдеры на линуксе).

По сути тебе надо:
1 - Распаковать ресурсы Unreal Tournament 3.
2 - Найти там не компелированные шейдеры в формате .usf. Эти шейдеры не привязаны к конкретному рендеру, а компилируются самим UE в GLSL/CG/HLSL, иногда прямо на целевой платформе, иногда динамически.
3 - Далее тебе надо взять UDK (под винду) в котором есть OpenGL рендер.
4 - Теперь тебе надо сделать так, чтобы UDK скомпилировал извлеченные тобой usf в кэш архивчик.
5 - Юзаем на линуксе.

А вообще я подумал, можно сделать намного проще.
Взять UT3 под мак и стащить уже собранные (под OpenGL) шейдеры оттуда (они не привязаны к ОС).

Но вообще сама игра там не будет работать.
Т.к кроме шейдеров там ещё есть интерфейс на scaleform, и старые swf вряд ли заработают на четвертой ветке (а в свежем dungeon defenders наверняка новый UE со свежим скейлформом).

Видимо я плохо знаю UE3 (хотя более-менее разбираюсь в UE1).
А зачем вообще этот пакет грузится? Ведь есть RefShaderCache-OpenGL.upk, который нормально загружается.
Хотя, даже если и запустится, по сети поиграть наверняка не удасться, т. к. версии разные.
Есть ли шанс запустить другие игры на UDK?

Опять же - возьми все ресурсы от версии под Mac, меньше будет гемора если он есть.

А зачем вообще этот пакет грузится?

Судя по всему ты в ini UT3 не включил нужный рендер.
Там надо «Render=Render.Render» заменить на что то вроде «Render=OpenGL».

Ведь есть RefShaderCache-OpenGL.upk, который нормально загружается.

А откуда у тебя там взялся «RefShaderCache-OpenGL»? Из Dungeon Defenders?
В виндовом билде UT3 не могло быть этого кэша, т.к там не было OpenGL рендера вообще, а апдейтов игры насколько я знаю не было.
Но вообще кэш шейдеров тебе нужен именно от конкретной игры.

Есть ли шанс запустить другие игры на UDK?

В бинарниках игр на UE3 всегда есть ревизия кода, которую достаточно просто сопоставить с месяцом релиза (в год может быть до 8 штук «стабильных» версий Unreal Engine 3.5).
Тебе надо найти ту версию UDK которая «ближе» всего к версии используемой в Dungeon Defenders.
И тогда все игры которые работают на виндовом UDK скорее всего заработают и на нативном бинарнике.

Хотя, даже если и запустится, по сети поиграть наверняка не удасться, т. к. версии разные.

Вот тут ничего не знаю.
С сетью в Unreal Engine я никогда не разбирался, но есть подозрения что даже за 2-3 года сетевой код там не сильно изменился.

А вообще слей утекшие сорцы (версия конца 2011 года, начала 2012) и смотри по ним.

Попробовал запустить UDK - валится на компиляции одного из шейдеров.
Как руки дойдут, попробую как winddos советовал...

Есть результат?

Я больше этим не занимался. Какая там популярность у UT3? Даже не знаю, стоит ли дальше заморачиваться с этим.