LINUX.ORG.RU

Лорач, посоветуй штеуд для виртаулизации

 , ,


1

2

Хочу погонять зен под штеудом.
Хотел выбрать сам материнку, но у них всё несколько кхгм, сложно с северными чипсетами. Их дохера. На каких десктопных платах-чипсетах поддерживается Vt-x VT-d? С процессорами ситуация та же, но уже полегче, как я понял, лишь эти две технологии нужны для поддержки проброса и аппаратной виртуализации.

VT-d нужен если собираешься прокидывать внутрь девайсы вроде видеокарты. А так можешь выбрать любое, во что попадешь пальцем в магазине.

pztrn ★★★★
()

десктопных платах-чипсетах поддерживается Vt-x VT-d?

Недавно заменил gigabyte p75-d3 на intel dq77mk. Проц i5-3550. Ожидал большего, но дела улучшились, да и kvm на борту материнки есть по vnc. Если говорить, про внешние pci устройства, то они не пробросились. Ругается на то, что сидит на одном прерывании с другими устройствами (2 pci-e беспроводные сетевухи). Немного поковырялся с vfio - не заработало, хотя должно.

libvirt:  error : cannot limit locked memory to 2147483648
Пока это дело закинул в чулан. Надоело. Проц бери i7/i5 неК. C pci-e устройствами проблем не заметил, за исключением видюхи gt610.
vfio в арч
vfio на хабре

andrew667 ★★★★★
()
Последнее исправление: andrew667 (всего исправлений: 3)
Ответ на: комментарий от pztrn

VT-d нужен если собираешься прокидывать внутрь девайсы вроде видеокарты.

Собираюсь конечно, а как же, в игрушечки то играть!

darkenshvein ★★★★★
() автор топика
Ответ на: комментарий от darkenshvein

Тогда присоединюсь к вышесказанному. Тут, в принципе, все равно, какую мамку брать, главное - i5/i7 БЕЗ индекса K. Либо разгон, либо VT-d.

pztrn ★★★★
()

На каких десктопных платах-чипсетах поддерживается Vt-x VT-d?

Насколько я знаю AsRock один из немногих производителей у которых почти на всех поддерживается. Плюс если что не так они оперативно правят свои факапы даже если ты на линуксе.

Но вообще вот тебе хороший список (из тогоже топика с рачфорума): https://docs.google.com/spreadsheet/ccc?key=0Aryg5nO-kBebdFozaW9tUWdVd2VHM0lv... Можно конечно брать ASUS и Gigabyte, но если будет какая проблема, то с твоим линуксом сапорт пошлет тебя в жопу.

qiomi
()
Ответ на: комментарий от qiomi

По поводу ошибок работы с kvm и vfio можно на почту alex williamson @ redhat написать, только предварительно создать багрепорт и скинуть ему ссылку.

steemandlinux ★★★★★
()
Ответ на: комментарий от darkenshvein

А что за «OP patches» ?

@andrew667 дал выше ссылку на топик на рачфоруме, там есть патчи.

У меня лично все работает без патчей на Kubuntu 14.04 (тут мой личный бложек), но у меня хост работает на интеловской интеграшке, а в PCI-e только одна видеокарта для гостя. Т.е у меня все дискретки тоже в одной IOMMU group, но мне ACS патч не нужен. Остальные же девайсы сидят каждый в своей группе.

qiomi
()
Ответ на: комментарий от qiomi

У меня вопросы есть.

1. Можно ли выключить видеокарту через acpi_call, если она не используется?

2. Можно ли после использования DRI_PRIME отдать видеокарту виртуальной машине?

steemandlinux ★★★★★
()
Ответ на: комментарий от Goury

X10QBi бери

Ты уверен насчет X10QBi? Меня последнее время стал точить червь касательно любого железа. Решил недавно памяти в ноут добавить. Ну и гемор это был. В общем с третьей замены нашлась подходящая память. Недели 2 заняло. Потом парился с dq77mk. Вставляю внешнюю рабочую видеокарту - комп не грузится... Черный экран. 2 часа и так и этак возился. Обновил биос - не помогло, но уже стало писать ошибку. Оказалось надо было включить еще и legacy boot в дополнение к uefi. Потом этот гемор с vt-d...Одни расстройства.

andrew667 ★★★★★
()
Ответ на: комментарий от steemandlinux

1. Можно ли выключить видеокарту через acpi_call, если она не используется?

Мне на потребление энергии пофиг, как это можно потестить?

Вроде есть какое-то серверное железо которое позволяет тупо обесточивать pci-e порты, но на десктопах этого вроде нет. У радеонов ещё есть runpm (Runtime power management), но оно вроде как только для ноутов.

2. Можно ли после использования DRI_PRIME отдать видеокарту виртуальной машине?

Да, можно. Можно ещё поюзать видеокарту в виртуалке, а потом сделать «modprobe radeon» и после перезагрузки иксов юзать её через PRIME.

А вот после виртуалки вернуть видеокарту модулю Radeon нельзя, ругается на неправильный ROM. Выгрузить и повторно загрузить radeon тоже нельзя даже если рестартить иксы.

qiomi
()
Ответ на: комментарий от steemandlinux

vfio нормально работал платах с BIOS, а из-за EFI всё переломалось.

Можно чуть подробнее? Без vfio pci устройства на dq77mk вообще, наверное, нельзя пробросить. На одном прерывании IRQ 16 сидит встроенный usb-контроллер, и все слоты расширения. Если я вставляю в мать pci звук/сеть и отключаю в bios все usb, потом захожу через kvm (в материнке есть AMT), то virt-manager меня снова посылает из-за прерывания. Что за лажа. Блочить usb контроллер при передаче параметра в grub тоже не помогает. Может оно конечно и работает в xen/esx, но я ими не хочу пользоваться. С vfio разбирался мало. Надоело.

andrew667 ★★★★★
()
Ответ на: комментарий от qiomi

Мне на потребление энергии пофиг, как это можно потестить?

http://hybrid-graphics-linux.tuxfamily.org/index.php?title=ACPI_calls

Дело не в потреблении, дело в пропеллерах

А вот после виртуалки вернуть видеокарту модулю Radeon нельзя, ругается на неправильный ROM. Выгрузить и повторно загрузить radeon тоже нельзя даже если рестартить иксы.

Вот через acpi_call надо попробовать переинициализировать. Но умеют ли это десктопы?

steemandlinux ★★★★★
()
Ответ на: комментарий от Goury

Списки совместимости смотри, супермикра там всё протестированное железо описывает.

Интел тоже не хрен собачий. vt-d для pci в материнке заявлено, процессор vt-d поддерживает, но по факту пользоваться пока не получилось. Вот если бы все было разбросано по разным прерываниям, то, вероятно бы заработало.

andrew667 ★★★★★
()
Ответ на: комментарий от andrew667

Да я с UEFI долго не ковырялся. Интегрированный в чипсет USB нельзя в виртуалку отдавать. А вот платки стоящие в pciex гнездах вполне можно.

steemandlinux ★★★★★
()
Ответ на: комментарий от steemandlinux

http://hybrid-graphics-linux.tuxfamily.org/index.php?title=ACPI_calls

Там вроде все для ноутбуков, сомневаюсь что прокатит на десктопе, но когда работать закончу обязательно потестирую.

Дело не в потреблении, дело в пропеллерах

У меня кулер на проце за 500 рэ и Asus HD 6950 DirectCU II которая в простое вообще незаметна в отличии от процессора. :)

Вот через acpi_call надо попробовать переинициализировать.

На самом деле мне кажется, что проблему можно и без переинициализации решить. Насколько я понимаю при использовании rombar=0 виртуалка вообще никак не может влиять на ROM карты поэтому тут весь вопрос к тому что с картой делает конкретно хост.

Но умеют ли это десктопы?

Самому интересно ибо хотел бы поочередно юзать дискретку на хосте и госте. Большая проблема в том, что документации о том как вообще все эти radeon/XRandr/etc работают вообще нет, только код.

По логике вещей должно быть возможно подключать/отключать карту к модулю Radeon и при оставлять оффлоадинг рабочим. Т.е сейчас если делать просто bind/unbind и рестартить иксы то оно работает как по маслу если не дергать i2c когда карта отключена.

qiomi
()
Ответ на: комментарий от qiomi

Там вроде все для ноутбуков, сомневаюсь что прокатит на десктопе, но когда работать закончу обязательно потестирую.

Надо DSDT смотреть на наличие вызова.

steemandlinux ★★★★★
()
Ответ на: комментарий от Goury

+30% от чека и я тебе сделаю сервак под ключ с пятилетней гарантией

«Не гонялся бы ты, поп, за дешевизной». Хорошо сыпятся dell-ы через год-полтора. А ты про 5 лет заливаешь. Пусть сервак ~7000$ стоит. Ты за еще 2 штуки дашь 5 летнюю гарантию вместо годовой. Потом сервак умирает, и ты испаряешься.

andrew667 ★★★★★
()
Ответ на: комментарий от steemandlinux

Интегрированный в чипсет USB нельзя в виртуалку отдавать.

Отдаются и прекрасно работают. Так делал на предыдущей плате. Работает и на этой (00:1a.0 USB controller: Intel Corporation 7 Series/C210 Series Chipset Family USB Enhanced Host Controller #2 (rev 04) (prog-if 20 [EHCI])). У меня речь именно про pci (не express).

andrew667 ★★★★★
()
Ответ на: комментарий от steemandlinux

Благодарю. Как будет время покопаюсь и отпишусь здесь или в своем топике.

qiomi
()
Ответ на: комментарий от steemandlinux

1 дк если только матернка поддерживает такое

darkenshvein ★★★★★
() автор топика
Ответ на: комментарий от andrew667

прикольно, а у меня на мамке гигабайт какое-то особое соподчинённое дерево pci-устройств, из-за чего пробросить можно только один юсб3-контроллер, а остальное никак, даже pci-звуковуху.

darkenshvein ★★★★★
() автор топика
Ответ на: комментарий от darkenshvein

Зело любопытно, что там с попугаями 3дмарков.

А почему они вообще должны отличаться по твоему?

У меня просто некоторое время все мое добро было установлено на отдельный диск поэтому я его бутнул на железе и проверил производительность. Разница в Unigine Benchmark*ах была на уровне статистической погрешности.

Сейчас я системный вендодиск перенес в образ ибо так я его могу на SSD положить, но вот бутнуть комп с него уже не могу.

qiomi
()
Ответ на: комментарий от andrew667

Сервак на четырёх камнях за шесть тыщ тебе в семь ну никак не выйдет. Ну вот прям совсем.
Я перед продажей его тестирую неделю и из всей фермы выбираю самый стабильный. Отдаю его тебе с гарантией, а остальное железо сдаю вендору или пускаю под остальные заказы.
Те серваки, что не дохнут в первую неделю на моём стенде – работают потом десятилетиями.
К тому же на веники, память, платформу и камень как раз по пять лет гарантии. А вентиляторы я так и быть свои отдам если вдруг запасные кончатся за пять лет.

Goury ★★★★★
()
Ответ на: комментарий от Goury

Сервак на четырёх камнях за шесть тыщ тебе в семь ну никак не выйдет.

Никто про 4 сокета и не говорил. Я говорил про сервер начальный сервер, который не будет полным хламом. И что значит «за шесть тыщ тебе в семь ну никак не выйдет»?

Я перед продажей его тестирую неделю и из всей фермы выбираю самый стабильный.

То есть другие глючат при нагрузке всего неделю?

Отдаю его тебе с гарантией

Учавствуй в тендере. Выиграешь - у тебя купят.

andrew667 ★★★★★
()
Ответ на: комментарий от andrew667

И что значит «за шесть тыщ тебе в семь ну никак не выйдет»

Значит что в рознице дешевле шести тыщ баксов этих камней нет, 6х4=24. Двадцать четыре тыщи баксов только за четыре камня.

Я говорил про сервер начальный сервер, который не будет полным хламом

Тогда возьми прошлогодний моночетырёхъядерник, они тоже хороши и по цене дешевле кор ай 7 выходят. Даже при сравнении системника с сервером, даже с учётом вдвое более дорогих корпусов, веников и памяти.

То есть другие глючат при нагрузке всего неделю?

Камни почти не глючат (за десять лет видел всего три глючных ксеона), память 0.04% сбоит. Основное тестирование идёт на веники, неудачные 4% вываливаются за эту неделю, из оставшихся за два года вываливается ещё 1.6% и остальные работают до списания или прихода криворукого одмина.
Ещё батарейки и память в рейдах бывают сбойные.
Блоки питания у супермикры почти не горят, если питание нормальное.
В вентиляторах просто механика стирается.

Goury ★★★★★
()
Ответ на: комментарий от Goury

Значит что в рознице дешевле шести тыщ баксов этих камней нет, 6х4=24. Двадцать четыре тыщи баксов только за четыре камня.

Ты идешь сам знаешь куда.

Тут тема не для продажи. Для продажи есть другие места. Еще ты забыл указать мертвые материнки и raid-контроллеры. Особенно dellы сыпятся. На hp у меня нареканий мало.

andrew667 ★★★★★
()
Ответ на: комментарий от andrew667

Ты идешь сам знаешь куда.

Я не настаиваю. На моноксеоне ты и сам сможешь собрать, я в тебя верю.

Еще ты забыл указать мертвые материнки и raid-контроллеры.

Материнки у супермикры не умирали ни разу на моей памяти. Контроллеры (hp, кстати) тоже. Может я просто очень везучий (брак меньше 0.1%), а может просто там ломаться нечему (супермикра их перед отправкой тестит и упаковывает хорошо).

Goury ★★★★★
()

Хочу погонять зен под штеудом.

Для «просто погонять» надо брать amd fx-8350 - дёшево и сердито. 100% работатет IOMMU на матери ASUS Socket-AM3+ SABERTOOTH 990FX R2.0.

King_Carlo ★★★★★
()
Ответ на: комментарий от xtraeft

Прекрасная выборка.

Тем не менее с другими производителями (fujitsu, hp) такого у меня не случалось. Серваку нет и года, а уже проблемы с материнками.А во всех! старых серваках dell с которыми работал (1850, 2650, 2850) умирал дисковый контроллер. Железо дохло примерно в одно и то же время (на одинаковых моделях серверов). При этом веники в принципе вылетали не часто. У друзей тоже не самое лучшее впечатление о dell.

andrew667 ★★★★★
()
Ответ на: комментарий от darkenshvein

потому что слой совместимости.

Я конечно вообще нуб, но насколько я понимаю VT-x/VT-d как раз и отвечают за то, чтобы операции шли напрямую, а не через «слои».

Если доступ к памяти и девайсам прямой, откуда там взяться тормозам?

qiomi
()
Ответ на: комментарий от darkenshvein

шо таки совсем прямой?

Он достаточно прямой чтобы иметь 95+% производительности, а больше не нужно.

Вообще насколько я понимаю (а я туп и нуб, учитывай) как работает IOMMU то суть в том, что гипервизор просто выделяет виртуалке память по виртуальным адресам. Далее виртуалка или проброшенные девайсы обращаются к памяти напрямую и вот IOMMU в процессоре сам транслирует эти виртуальные адреса в физические. Т.е гипервизор задает правила, но сам никак не влияет на общение между девайсами/виртуалкой и памятью.

qiomi
()
Вы не можете добавлять комментарии в эту тему. Тема перемещена в архив.