Руководство по установке

Версия zVirt: 4.2

Аннотация

В руководстве описан процесс развёртывания системы управления виртуализацией zVirt на хосты с установленной zVirt Node - средой исполнения, предназначенной для обеспечения простого метода настройки физической машины для работы в качестве гипервизора.

1. Описание процесса установки

Установка включает в себя следующие шаги:

  1. Подготовка хранилища в качестве домена хранения hosted_storage (для ВМ менеджера управления при развертывании среды виртуализации в режиме Hosted Engine) и для стандартных доменов хранения. Вы можете использовать следующие типы хранения:

    • NFS;

    • ISCSI;

    • Fibre Channel (FCP);

    • Gluster Storage.

  2. Установка операционной системы на хост, который станет первым хостом с размещенным на нем менеджером управления.

  3. Настройка репозитория

  4. Развертывание и настройка менеджера управления.

Внимательно прочтите данное руководство и руководство по планированию инфраструктуры перед установкой системы безопасного управления виртуализацией zVirt, это позволит сократить время развертывания и избежать ошибок.

2. Подготовка хранилища

Необходимо заранее подготовить хранилище объёмом не менее 55 ГиБ, которое будет использоваться как домен хранения данных для развертывания ВМ HostedEngine.

После развертывания рекомендуется добавить дополнительные домены данных для хранения дисков ВМ.

Домен данных hosted_storage предназначен только для хранения дисков ВМ HostedEngine.

В доменах данных хранятся виртуальные жесткие диски и файлы OVF всех виртуальных машин и шаблонов центра данных. Домены данных не могут одновременно использоваться несколькими центрами данных когда они активны (но могут быть перенесены между центрами данных). Домены данных нескольких типов хранения могут быть добавлены в один и тот же центр данных при условии, что они являются общими, а не локальными доменами. Поддерживаются следующие типы хранилищ:

  • NFS;

  • ISCSI;

  • Fibre Channel (FCP);

  • Gluster Storage.

При использовании протокола iSCSI, домен хранения hosted_storage должен использовать выделенный iSCSI target. Любые дополнительные домены хранения должны использовать отдельные iSCSI target.

В случае появления следующей ошибки во время установки:

[ ERROR ] Error: Fault reason is "Operation Failed". Fault detail is "[Physical device initialization failed. Please check that the device is empty and accessible by the host.]". HTTP response code is 400.

Выполнить инициализацию системы хранения при помощи команды:

dd if=/dev/zero of=/dev/mapper/LUN_ID bs=1M count=200 oflag=direct

где /dev/mapper/LUN_ID - путь до LUN

Будьте аккуратны при выполнении этой операции: не выполняйте её на LUN, содержащим важные данные.

2.1. Подготовка хранилища NFS

Следующие шаги универсальны для семейства Unix-подобных операционных систем на базе ядра Linux. Для уточнения конкретных шагов обратитесь к официальному руководству ОС.

  1. Создать каталог (должно быть доступно более 55 ГиБ свободного места):

    mkdir -p /storage/domain
  2. Установить права доступа:

    chown 36:36 /storage/domain
    chmod 0775 /storage/domain
  3. Опубликовать каталог, прописав его в конфигурационном файле NFS-сервера:

    echo "/storage/domain *(rw,anonuid=36,anongid=36)" >> /etc/exports
  4. Убедиться в правильности задания параметров доступа:

    cat /etc/exports
  5. Запустить необходимые сервисы:

    systemctl enable nfs-server
    systemctl enable rpcbind
    systemctl enable nfs-blkmap
    systemctl restart nfs-server
    systemctl restart rpcbind
    systemctl restart nfs-blkmap
  6. Создать правила межсетевого экрана для обеспечения доступности хранилища для других хостов:

    firewall-cmd --permanent --add-service=nfs
    firewall-cmd --permanent --add-service=mountd
    firewall-cmd --permanent --add-service=rpc-bind
    firewall-cmd --reload

    Если в качестве среды исполнения используется не zVirt Node, то необходимо создать служебных пользователей и группы:

    groupadd sanlock -g 179
    groupadd kvm -g 36
    useradd sanlock -u 179 -g 179 -G kvm
    useradd vdsm -u 36 -g 36 -G sanlock

2.2. Подготовка хранилища iSCSI

zVirt поддерживает хранилища доступные по протоколу iSCSI. Хранилища после добавление в среду виртуализации как домены хранения будут использоваться в качестве Volume Group (VG), состоящие из одного или более LUN (PV).

Volume Group (VG) и LUN (PV) не могут быть одновременно использоваться несколькими доменам хранения.

В настоящее время zVirt не поддерживает хранилище с размером блока 4K, поэтому необходимо сконфигурировать хранилище в legacy mode (512b block). Если ваш хост загружается из хранилища SAN и теряет связь с хранилищем, файловые системы хранилища становятся доступными только для чтения и остаются в этом состоянии после восстановления соединения.

Для предотвращения подобной ситуации рекомендуется добавить в файл конфигурации службы multipath wwid загрузочного LUN, для обеспечения постановки его в очередь при наличии соединения:

multipaths {
  multipath {
    wwid LUN_ID
    no_path_retry queue
  }

2.3. Подготовка FCP-хранилища

zVirt поддерживает хранилища, доступные по протоколу Fibre Channel. Хранилища после добавление в среду виртуализации как домены хранения будут использоваться в качестве Volume Group (VG), состоящие из одного или более LUN (PV).

В настоящее время zVirt не поддерживает хранилище с размером блока 4K, поэтому необходимо сконфигурировать хранилище в legacy mode (512b block). Если ваш хост загружается из хранилища SAN и теряет связь с хранилищем, файловые системы хранилища становятся доступными только для чтения и остаются в этом состоянии после восстановления соединения.

Для предотвращения подобной ситуации рекомендуется добавить в файл конфигурации службы multipath wwid загрузочного LUN, для обеспечения постановки его в очередь при наличии соединения:

multipaths {
  multipath {
    wwid LUN_ID
    no_path_retry queue
  }

2.4. Подготовка Gluster Storage

Информацию по настройке Gluster Storage см. в официальной документации, учитывая следующие особенности - тома Gluster Storage должны использовать либо трехстороннюю репликацию, либо арбитражную репликацию. Такой вариант снижает риск возникновения split-brain в кластере.

Поддерживаются следующие типы томов:

  • трехсторонне реплицированные и распределенные реплицированные тома (replica count 1)

  • арбитражные реплицированные или распределенные арбитражные реплицированные тома (replica 3 arbiter 1)

Дополнительно необходимо назначить следующие настройки для тома:

gluster volume set VOLUME_NAME group virt
gluster volume set VOLUME_NAME performance.strict-o-direct on
gluster volume set VOLUME_NAME network.remote-dio off
gluster volume set VOLUME_NAME storage.owner-uid 36
gluster volume set VOLUME_NAME storage.owner-gid 36
gluster volume set VOLUME_NAME network.ping-timeout 30

2.5. Настройка multipath в соответствии с рекомендациями производителя системы хранения данных

Вы можете настроить параметры конфигурации multipath в соответствии с требованиями и рекомендациями производителя системы хранения данных. Эти настройки могут отключать как параметры, определенные по умолчанию, так и параметры, указанные в файле /etc/multipath.conf. Чтобы отключить определенные параметры multipath, не вносите изменения в файл /etc/multipath.conf. Служба VDSM управляет файлом /etc/multipath.conf, установка или обновление VDSM может привести к перезаписи этого файл, включая все содержащиеся в нем настройки. Такая перезапись может привести к сбоям в работе с системой хранения данных. Вместо этого создайте файл в каталоге /etc/multipath/conf.d, который будет содержать параметры, которые вы хотите изменить или отключить.

VDSM выполняет файлы в каталоге /etc/multipath/conf.d в определенном порядке. Для того, чтобы контролировать порядок выполнения, создавайте файлы с именем, которые начинается с цифр, что позволит выполнить его последним по порядку. Например, /etc/multipath/conf.d/90-fcdevice.conf.

В целях исключения серьезных сбоев в работе с системой хранения данных, следуйте следующим рекомендациям:

  • Не изменяйте файл /etc/multipath.conf. Если файл содержит пользовательские изменения, и файл будет перезаписан, это может вызвать сбои в работе с системой хранения данных.

  • Не переопределяйте настройки user_friendly_names и find_multipaths.

  • Не переопределяйте параметры no_path_retry и polling_interval, если этого не требует производитель системы хранения данных.

Порядок действий:

  1. VDSM настроен на использование модуля multipath. Для того, чтобы проверить это выполните команду:

    vdsm-tool is-configured --module multipath
  2. Создайте новый конфигурационный файл в каталоге /etc/multipath/conf.d.

  3. Скопируйте отдельные параметры, которые вы хотите отключить, из файла /etc/multipath.conf в новый конфигурационный файл /etc/multipath/conf.d/<example>.conf. Удалите все знаки комментариев (#), отредактируйте значения параметров и сохраните изменения.

  4. Примените новые настройки с помощью команды:

    systemctl reload multipathd
Не перезапускайте службу multipathd - это приводит к появлению ошибок в журналах VDSM.

2.6. Рекомендуемые настройки для multipath

Не изменяйте следующие настройки:

  • user_friendly_names no - имена устройств должны быть одинаковыми для всех гипервизоров, например, /dev/mapper/{WWID}. Значение по умолчанию - no, предотвращает назначение произвольных и непоследовательных имен устройств, таких как /dev/mapper/mpath{N} на разных гипервизорах, что может привести к непредсказуемому поведению системы. Не изменяйте значение параметра user_friendly_names на yes, т.к. такие пользовательские имена устройств могут привести к непредсказуемому поведению системы или сбоям.

  • find_multipaths no - параметр определяет, пытается ли zVirt получить доступ к устройствам через multipath если доступно более одного пути. Текущее значение - no, позволяет zVirt получать доступ к устройствам через multipath, даже в том случае, если доступен только один путь.

Не изменяйте следующие параметры, если это не требуется производителем системы хранения данных:

  • no_path_retry 4 - параметр определяет количество попыток для повторного опроса при отсутствии доступных путей.

  • polling_interval 5 - параметр определяет количество секунд между попытками опроса, для определения состояния пути до устройства. Если производитель не предоставил четкой причины для увеличения значения, оставьте значение по умолчанию, для того, чтобы система быстрее реагировала на сбои пути.

3. Установка хоста виртуализации

zVirt Node - это подготовленная среда исполнения, которая предназначена для обеспечения подготовки сервера для работы в качестве гипервизора в среде виртуализации zVirt. zVirt Node содержит только пакеты, необходимые для работы сервера в качестве гипервизора, и имеет веб-интерфейс Cockpit для базового мониторинга и выполнения подготовительной настройки ОС перед добавлением хоста в среду виртуализации. Распространяется в виде ISO-образа. Хост должен соответствовать минимальным требованиям к оборудованию.

Порядок действий:
  1. Загрузите образ zVirt Node. Для доступа к странице загрузки и репозиторию zVirt необходимо получить учетные данные для входа.

  2. Запишите ISO-образ zVirt Node на USB, CD или DVD.

  3. Запустите сервер, на котором вы устанавливаете среду исполнения, загрузившись с подготовленного установочного носителя.

  4. В меню загрузки выберите Установить zVirt Node и нажмите Enter.

    installer
    Рисунок 1. Меню загрузки
  5. Выберите язык по умолчанию и нажмите Continue.

    install node lang
    Рисунок 2. Окно выбора языка
  6. Выберите часовой пояс в разделе Time & Date и нажмите Done.

    install node td
    Рисунок 3. Окно настройки даты и времени
  7. Выберите раскладку клавиатуры в разделе Keyboard и нажмите Done.

    install node kb
    Рисунок 4. Окно настройки раскладки клавиатуры
  8. Выберите устройство, на которое нужно установить ОС, в разделе Installation Destination. При желании включите шифрование. В разделе Storage configuration выберите Custom и разметьте диск с помощью автоматического сценария, кликнув на Click here to create them automatically. После автоматической разметки можете произвести необходимые изменения (изменить пространство для lvm разделов, не затрагивая атрибуты диска), учитывая требования раздела Требования к хранилищу Руководства по предварительному планированию инфраструктуры.

    install node st cust
    Рисунок 5. Выбор ручного режима разметки
    install node st auto
    Рисунок 6. Использование инструмента авторазметки
    install node st parts
    Рисунок 7. Редактирование созданных разделов
    install node st accept
    Рисунок 8. Запрос подтверждения изменений
  9. Выберите сетевой интерфейс из раздела Network & Host Name - по кнопке Configure перейдите во вкладку конфигурации сети, настройте сеть и нажмите на кнопку Save.

    install node net 1
    Рисунок 9. Настройка параметров сети

    Рекомендуется следовать правилам наименования сетевых интерфейсов, указанным в таблице.

    Тип устройства Правила именования Примеры

    Ethernet (внешние сетевые устройства)

    enp<номер PCI-шины>s<номер PCI-слота>

    eno<номер устройства на системной плате>

    enp1s0

    eno2

    Infiniband

    ibp<номер PCI-шины>s<номер PCI-слота>

    ibp1s0

    VLAN

    <имя родительского устройства>.<номер VLAN>

    bond0.15

    enp1s0.15

    Bond

    bond<порядковый номер bond>

    bond0

    bond1

    install node net 2
    Рисунок 10. Настройка параметров сети
  10. Активируйте настроенный интерфейс.

    install node net 3
    Рисунок 11. Активация интерфейса
  11. В поле Host Name введите имя хоста и нажмите на кнопку Apply. Переключите тумблер в состояние 1, находящийся рядом с данными об интерфейсе.

    install node hostname
    Рисунок 12. Изменение имени хоста

    Если хост будет использоваться для развертывания Менеджера управления в режиме Standalone или Standalone All-in-One, при задании системного имени используйте только нижний регистр.

  12. При необходимости настройте политику безопасности и Kdump.

  13. Установите пароль пользователя root в разделе Root password и нажмите на кнопку Done.

  14. Нажмите на кнопку Begin Installation.

  15. После успешной установки перезагрузите хост, нажав Reboot.

4. Настройка репозитория

Доступ к репозиториям необходимо настроить на всех хостах, которые планируется использовать в среде zVirt.
  1. Убедитесь, что включены репозитории zvirt-main и zvirt-extras:

    repo enabled

    Если указанные репозитории по каким-то причинам отключены, их можно включить следующей командой

    dnf config-manager --enable "zvirt*"

    После использования команды убедитесь, что все репозитории zVirt включились

  2. Настройте доступ в репозиторий:

    zvirt-credentials.py -u USERNAME -p PASSWORD

    При этом доступ к репозиторию будет настроен на использование учетных данных, значения которых сохранятся в файлах /etc/yum/vars/zuser и /etc/yum/vars/zpasswd.

    В противном случае потребуется ручное указание параметров username и password в файле zvirt-stable.repo.

  3. Выполните обновление:

    dnf update

5. Развертывание менеджера управления виртуализации

5.1. Развертывание менеджера управления в режиме Hosted Engine c помощью командной строки

В случае отсутствия доступа к сети Интернет на хосте, необходимо скачать пакет zvirt-appliance-4.2.rpm, после чего перенести файл(ы) на хост любым удобным способом в папку /root и затем установить:

dnf install -y zvirt-appliance-4.2.rpm

Также необходимо отключить все имеющиеся репозитории:

dnf config-manager --disable '*'

Не используйте верхний регистр при указании fqdn Менеджера управления.

  1. Подготовьте полные доменные имена и их IP-адреса для менеджера управления виртуализации и хостов перед развертыванием, в DNS должны существовать соответствующие записи в зонах прямого и обратного просмотра. Ниже приведён пример планирования доменных имён и IP-адресов развёртываемой системы управления виртуализацией zVirt.

    Объект FQDN IP адрес

    Менеджер управления

    engine.vlab.local

    10.252.12.10

    Хост 1

    he-host-1.vlab.local

    10.252.12.11

    Хост 2

    he-host-2.vlab.local

    10.252.12.12

    Хост 3

    he-host-3.vlab.local

    10.252.12.13

    После установки имя HostedEngine будет являться именем виртуальной машины с менеджером управления и веб-интерфейсом управления средой виртуализации. Задаваемый адрес должен быть свободен.

    В случае невозможности использования внешнего DNS добавьте в файл /etc/hosts IP-адреса и FQDN хоста виртуализации и разворачиваемого менеджера управления.

  2. Убедитесь, что репозитории настроены и активированы

    В случае развертывания на хосте, не имеющем доступ к сети Интернет, необходимо отключить все имеющиеся репозитории:

    dnf config-manager --disable '*'
  3. Откройте сессию запустив терминальный мультиплексор tmux, чтобы избежать потери сессии в случае сбоя в работе сети или терминала:

    tmux
  4. Запустите процесс развертывания:

    hosted-engine --deploy

    В случае развертывания в среде dual-stack при запуске развертывания без опций --4 или --6 по умолчанию будет использоваться IPv4.

    Для указания использования конкретной версии IP используйте соответствующую опцию. Например, для IPv6:

    hosted-engine --deploy --6
  5. Следуйте сообщениям в консоли:

    • Подтвердите готовность развернуть ВМ HostedEngine.

      Are you sure you want to continue? (Yes, No)[Yes]:

      В случае запуска развертывания без опций --4 или --6 появится предупреждение. Убедитесь, что запустили развертывание корректно и подтвердите ответ Yes

      If you run "hosted-engine --deploy" without the "--4" or "--6" option
      in a dual-stack environment, the default is IPv4.
      You must ensure that your DNS returns only IPv4 addresses.
      See: https://wiki.orionsoft.ru
    • По указанному пути будет расположен файл, содержащий лог развертывания.

      Log file:
          /var/log/ovirt-hosted-engine-setup/ovirt-hosted-engine-setup-20240214083215-9u82o1.log
    • Введите или подтвердите адрес шлюза

      --== HOST NETWORK CONFIGURATION ==--
      
      Please indicate the gateway IP address [10.252.12.254]:
    • Укажите сетевой интерфейс, который будет использоваться для создания сетевого моста для ВМ.

      Please indicate a nic to set ovirtmgmt bridge on: (enp1s0) [enp1s0]:
    • Укажите, каким образом будет выполняться проверка сети. Рекомендуется использовать метод проверки сети - dns.

      Please specify which way the network connectivity should be checked (ping, dns, tcp, none) [dns]:
      ping

      Попытка выполнить ping шлюза.

      dns

      Проверяет соединение с DNS-сервером.

      tcp

      Создает TCP-соединение с комбинацией хоста и порта. Необходимо указать IP-адрес и порт назначения. После успешного создания соединения сеть считается "живой". Убедитесь, что указанный хост способен принимать входящие TCP-соединения на указанный порт.

      none

      Сеть всегда считается подключенной.

    • Укажите название создаваемого центра данных или подтвердите имя по умолчанию (Default).

      --== VM CONFIGURATION ==--
      Please enter the name of the datacenter where you want to deploy this hosted-engine host. [Default]:
    • Укажите название создаваемого кластера или подтвердите имя по умолчанию (Default).

      Please enter the name of the cluster where you want to deploy this hosted-engine host. [Default]:
    • Подтвердите или откажитесь от интеграции с Keycloak.

      Configure Keycloak integration on the engine(Yes, No) [Yes]:

      Рекомендуем предварительно принять решение о необходимости его использования, исходя из следующих особенностей:

      • Если на данном этапе отказаться от интеграции с Keycloak, будет использоваться провайдер по умолчанию AAA-JDBC. После развертывания можно перейти с AAA-JDBC на Keycloak, но при этом всю конфигурацию AAA необходимо будет переносить в Keycloak вручную.

      • Если на данном согласиться с интеграцией с Keycloak, в дальнейшем можно будет переключиться на AAA, но это необходимо делать вручную. Кроме того, мы настоятельно не рекомендуем выполнять такой переход.

      • На текущий момент не существует никаких средств автоматизации, упрощающих миграцию между AAA JDBC/LDAP и keycloak.

    • Укажите количество vCPU (минимально -4) и ОЗУ (минимально - 4096 МБ, рекомендуется - не менее 16384 МБ) выделяемых для ВМ HostedEngine.

      Please specify the number of virtual CPUs for the VM. The default is the appliance OVF value [4]:
      Please specify the memory size of the VM in MB. The default is the maximum available[14805]:8192
    • Укажите подготовленное доменное имя для ВМ HostedEngine.

      Engine VM FQDN:engine.vlab.local
      Вводимое имя менеджера должно разрешаться в IP-адрес, иначе сценарий выдаст ошибку [ ERROR ] Host name is not valid
    • Введите имя домена, в котором будет находиться сервер управления или подтвердите предложенное.

      Engine VM domain [vlab.local]:
    • Введите и подтвердите пароль для пользователя root ОС ВМ HostedEngine.

      Enter root password that will be used for the engine appliance:
      Confirm appliance root password:
    • При необходимости введите открытый ключ ssh для пользователя root, который будет использоваться для ВМ HostedEngine.

      SSH public key []:
    • Укажите хотите ли включить доступ по ssh для пользователя root в ВМ HostedEngine.

      Do you want to enable ssh access for the root user (yes, no, withoutpassword) [yes]:
    • Подтвердите ответ No или, если данная функция необходима, наберите Yes на предложение применить профиль безопасности OpenSCAP.

      Do you want to apply a default OpenSCAP security profile (Yes, No) [No]:
    • Подтвердите сгенерированный maс-адрес для ВM HostedEngine или введите свой.

      You may specify a unicast MAC address for the VM or accept a randomly generated default [00:16:3e:24:4d:60]:
    • Используйте статическую конфигурацию сети ВM HostedEngine.

      How should the engine VM network be configured? (DHCP, Static)[Static]:
    • Введите IP-адрес ВМ HostedEngine.

      Please enter the IP address to be used for the engine VM []:10.252.12.10
    • Подтвердите или введите адрес DNS сервера.

      Engine VM DNS (leave it empty to skip) [10.252.3.250]:
    • Укажите добавить ли запись о хосте в файл hosts на ВМ HostedEngine.

      Add lines to /etc/hosts? (Yes, No)[Yes]:
    • Введите имя SMTP сервера, через который будут отсылаться уведомления или примите значение по умолчанию.

      Please provide the name of the SMTP server through which we will send notifications [localhost]:
    • Введите порт для SMTP сервера или примите значение по умолчанию.

      Please provide the TCP port number of the SMTP server [25]:
    • Введите e-mail адрес, откуда будут отсылаться уведомления или примите значение по умолчанию.

      Please provide the email address from which notifications will be sent [root@localhost]:
    • Введите список адресов e-mail через запятую, которые будут получать уведомления или примите значение по умолчанию.

      Please provide a comma-separated list of email addresses which will get notifications [root@localhost]:
    • Введите и подтвердите пароль для пользователя admin (учётная запись используется для авторизации в веб-интерфейсе среды виртуализации).

      Enter engine admin password:
      Confirm engine admin password:

      В случае, если ранее была выбрана интеграция с Keycloak, заданный в этом пункте пароль также будет назначен пользователю admin@zvirt.

    • Укажите имя хоста для сети управления или примите предложенное значение.

      Please provide the hostname of this host on the management network [he-host-1.vlab.local]:
    • Укажите тип хранилища, которое вы хотите использовать для размещения ВМ HostedEngine.

      Please specify the storage you would like to use (glusterfs, iscsi, fc, nfs)[nfs]:
      • Для NFS введите версию, полный адрес и путь к хранилищу, а также необходимые параметры монтирования:

        Please specify the nfs version you would like to use (auto, v3, v4, v4_1)[auto]:
        Please specify the full shared storage connection path to use (example: host:/path): storage.example.com:/hosted_engine/nfs
        If needed, specify additional mount options for the connection to the hosted-engine storage domain []:
      • Для iSCSI введите данные портала и выберите цель и LUN из автоматически определяемых списков. Во время развертывания можно выбрать только одну цель iSCSI, но поддерживается многоканальность для подключения всех порталов одной группы порталов.

        Please specify the iSCSI portal IP address: 10.252.12.14
        Please specify the iSCSI portal port [3260]:
        Please specify the iSCSI discover user:
        Please specify the iSCSI discover password:
        Please specify the iSCSI portal login user:
        Please specify the iSCSI portal login password:
        
        The following targets have been found:
        [1]	iqn.2003-01.org.linux-iscsi.he.x8664:sn.40c037a2f63f
        TPGT: 1, portals:
            192.168.1.xxx:3260
            192.168.2.xxx:3260
            192.168.3.xxx:3260
        
        Please select a target (1) [1]: 1
        
        The following luns have been found on the requested target:
        [1] 360003ff44dc75adcb5046390a16b4beb   199GiB  MSFT   Virtual HD
            status: free, paths: 1 active
        
        Please select the destination LUN (1) [1]:
      • Для хранилища Gluster введите полный адрес и путь к хранилищу, а также необходимые параметры монтирования:

        Please specify the full shared storage connection path to use (example: host:/path): storage.example.com:/hosted_engine/gluster_volume
        If needed, specify additional mount options for the connection to the hosted-engine storage domain []:
      • Для Fibre Channel выберите LUN из списка автоматического обнаружения. Адаптеры шины хоста должны быть настроены и подключены, а LUN не должен содержать существующих данных.

        The following luns have been found on the requested target:
        [1] 3514f0c5447600351   30GiB   XtremIO XtremApp
            status: free, paths: 2 active
        
        [2] 3514f0c5447600352   30GiB   XtremIO XtremApp
            status: used, paths: 2 active
        
        Please select the destination LUN (1, 2) [1]:
    • Укажите другой размер диска для ВМ HostedEngine, если это необходимо.

      Please specify the size of the VM disk in GiB: [51]:
    • После успешного развёртывания менеджера управления виртуализации будет выведено сообщение:

      [ INFO ] Hosted Engine successfully deployed

5.2. Развертывание менеджера управления в режиме Hosted Engine с помощью веб-интерфейса Cockpit

В случае отсутствия доступа к сети Интернет на хосте, необходимо скачать пакет zvirt-appliance-4.2.rpm, после чего перенести файл на хост любым удобным способом в папку /root и затем установить:

dnf install -y zvirt-appliance-4.2.rpm

Также необходимо отключить все имеющиеся репозитории:

dnf config-manager --disable '*'
  1. Подготовьте полные доменные имена и их IP-адреса для менеджера управления виртуализации и хостов перед развертыванием, в DNS должны существовать соответствующие записи в зонах прямого и обратного просмотра. Ниже приведён пример планирования доменных имён и IP-адресов развёртываемой системы управления виртуализацией zVirt.

    Объект FQDN IP адрес

    Менеджер управления

    engine.vlab.local

    10.252.12.10

    Хост 1

    he-host-1.vlab.local

    10.252.12.11

    Хост 2

    he-host-2.vlab.local

    10.252.12.12

    Хост 3

    he-host-3.vlab.local

    10.252.12.13

    После установки имя HostedEngine будет являться именем виртуальной машины с менеджером управления и веб-интерфейсом управления средой виртуализации. Задаваемый адрес должен быть свободен.

    В случае невозможности использования внешнего DNS добавьте в файл /etc/hosts IP-адреса и FQDN хоста виртуализации и разворачиваемого менеджера управления.

  2. Перейдите в веб-интерфейс управления хостом виртуализации Cockpit. Сервис доступен по доменному имени хоста и порту 9090. Например, https://he-host-1.vlab.local:9090/

    cockpit

    Если веб-интерфейс недоступен, подключитесь к хосту по SSH и активируйте его командой:

    systemctl enable --now cockpit
  3. Убедитесь, что репозитории настроены и активированы.

    В случае развертывания на хосте, не имеющем доступ к сети Интернет, необходимо отключить все имеющиеся репозитории:

    dnf config-manager --disable '*'
  4. Выберите из основного списка вкладку zVirt, далее Hosted Engine и нажмите Запустить для запуска процесса развертывания среды виртуализации в режиме Hosted Engine.

    wizard
  5. Заполните поля для настройки ВМ HostedEngine (минимальное количество виртуальных ЦП - 4, минимальный размер ОЗУ - 4096 МБ, рекомендуемый - не менее 16384 МБ). Укажите пароль для учётной записи администратора root операционной системы ВМ HostedEngine. При необходимости измените дополнительные настройки в разделе Дополнительно

    vm 1
    vm 2
  6. Укажите пароль для учётной записи администратора портала (учётная запись - admin@internal, используется для авторизации в веб-интерфейсе среды виртуализации). Используйте опцию Установить Keycloak, для включения/отключения интеграции с Keycloak на этапе установки.

    engine

    Рекомендуем предварительно принять решение о необходимости использования Keycloak, исходя из следующих особенностей:

    • Если на данном этапе отказаться от интеграции с Keycloak, будет использоваться провайдер по умолчанию AAA-JDBC. После развертывания можно перейти с AAA-JDBC на Keycloak, но при этом всю конфигурацию AAA необходимо будет переносить в Keycloak вручную.

    • Если на данном согласиться с интеграцией с Keycloak, в дальнейшем можно будет переключиться на AAA, но это необходимо делать вручную. Кроме того, мы настоятельно не рекомендуем выполнять такой переход.

    • На текущий момент не существует никаких средств автоматизации, упрощающих миграцию между AAA JDBC/LDAP и keycloak.

    В случае, если выбрана интеграция с Keycloak, заданный в этом пункте пароль также будет назначен пользователю admin@zvirt.

  7. Проверьте конфигурацию, если она корректна, нажмите на кнопку Подготовить ВМ.

    vm preparation
  8. Процесс подготовки и создания ВМ HostedEngine.

    vm process
  9. Завершение процесса подготовки и создания ВМ HostedEngine.

    vm finish
  10. Выполните настройку домена хранения для ВМ HostedEngine. В разделе дополнительно также можно настроить необходимые параметры.

    stor
  11. Проверьте итоговую конфигурацию, если она корректна, нажмите на кнопку Завершить установку.

    stor preparation
  12. Процесс развертывания среды виртуализации в режиме Hosted Engine.

    stor install
  13. После успешного развертывания увидите сообщение.

    finish

5.3. Развертывание менеджера управления в режиме Standalone

В режиме Standalone менеджер управления виртуализации может быть установлен в двух вариантах - на отдельно стоящем сервере, и на сервере, который может быть использован как гипервизор (вариант StandAlone All-in-One).

Режим StandAlone All-in-One не рекомендуется использовать в продуктивной среде.
В режиме StandAlone для правильной работы загрузки образов дисков в домены хранения нужно внести изменения в конфигурационный файл /etc/ovirt-imageio/conf.d/50-engine.conf на менеджере управления соответствии с руководством.
  1. Подготовьте полные доменные имена для менеджера управления виртуализации и хостов перед развертыванием, в DNS должны существовать соответствующие записи в зонах прямого и обратного просмотра. Ниже приведён пример планирования доменных имён и IP-адресов развёртываемой системы управления виртуализацией zVirt

    Объект FQDN IP адрес

    Хост 1 с менеджером управления

    engine.vlab.local

    10.252.12.11

    Хост 2

    sa-host-2.vlab.local

    10.252.12.12

    Хост 3

    sa-host-3.vlab.local

    10.252.12.13

    В случае невозможности использования внешнего DNS добавьте в файл /etc/hosts IP-адреса и FQDN хоста виртуализации и разворачиваемого менеджера управления.

  2. Убедитесь, что репозитории настроены и активированы.

  3. Начните процесс установки командой:

    engine-setup
  4. Следуйте сообщениям в консоли:

    • Настройка интеграции с Cinderlib при необходимости.

                      --== PRODUCT OPTIONS ==--
      Configure Cinderlib integration (Currently in tech preview) (Yes, No) [No]:
    • Подтвердите, что на данном хосте будет развернут менеджер управления.

      Configure Engine on this host (Yes, No) [Yes]:
    • Подтвердите, что необходимо выполнить настройку сетевого провайдера ovirt-provider-ovn.

      Configure ovirt-provider-ovn (Yes, No) [Yes]:
    • Подтвердите, что необходимо выполнить на данном хосте настройку WebSocket Proxy.

      Configure WebSocket Proxy on this host (Yes, No) [Yes]:
    • Подтвердите установку Data Warehouse на данном хосте.

      Configure Data Warehouse on this host (Yes, No) [Yes]:
    • Подтвердите или откажитесь от интеграции с Keycloak.

      It is highly recommended to install Keycloak based authentication.
                Configure Keycloak on this host (Yes, No) [Yes]:

      Рекомендуем предварительно принять решение о необходимости его использования, исходя из следующих особенностей:

      • Если на данном этапе отказаться от интеграции с Keycloak, будет использоваться провайдер по умолчанию AAA-JDBC. После развертывания можно перейти с AAA-JDBC на Keycloak, но при этом всю конфигурацию AAA необходимо будет переносить в Keycloak вручную.

      • Если на данном согласиться с интеграцией с Keycloak, в дальнейшем можно будет переключиться на AAA, но это необходимо делать вручную. Кроме того, мы настоятельно не рекомендуем выполнять такой переход.

      • На текущий момент не существует никаких средств автоматизации, упрощающих миграцию между AAA JDBC/LDAP и keycloak.

    • Подтвердите настройку прокси-сервера для консолей ВМ.

      Configure VM Console Proxy on this host (Yes, No) [Yes]:
    • Подтвердите настройку сервера мониторинга Grafana на данном хосте.

      Configure Grafana on this host (Yes, No) [Yes]:
    • Подтвердите полное доменное имя данного хоста или укажите другое.

      Host fully qualified DNS name of this server [engine.vlab.local]:
    • Согласитесь с автоматической настройкой межсетевого экрана.

      Do you want Setup to configure the firewall? (Yes, No) [Yes]:
    • Подтвердите установку базы данных Data Warehouse на данном хосте или используйте удалённое развертывание базы DWH (подробности см. в Руководстве по Хранилищу данных).

                      --== DATABASE CONFIGURATION ==--
      Where is the DWH database located? (Local, Remote) [Local]:
    • Согласитесь с автоматической настройкой базы данных DWH.

      Would you like Setup to automatically configure postgresql and create DWH database, or prefer to perform that manually? (Automatic, Manual) [Automatic]:
    • Выберите способ размещения базы данных Keycloak.

      Where is the Keycloak database located? (Local, Remote) [Local]:
    • В случае локального размещения базы Keycloak, согласитесь с автоматической настройкой:

      Would you like Setup to automatically configure postgresql and create Keycloak database, or prefer to perform
                that manually? (Automatic, Manual) [Automatic]:
    • Подтвердите расположение базы данных менеджера управления на данном хосте.

      Where is the Engine database located? (Local, Remote) [Local]:
    • Согласитесь с автоматической настройкой базы данных менеджера управления.

      Would you like Setup to automatically configure postgresql and create Engine database, or prefer to perform that manually? (Automatic, Manual) [Automatic]:
    • Установите и подтвердите пароль для учётной записи admin@internal (учётная запись используется для авторизации в веб-интерфейсе среды виртуализации).

                      --== OVIRT ENGINE CONFIGURATION ==--
      Engine admin password:
      Confirm engine admin password:

      В случае, если выбрана интеграция с Keycloak, заданный в этом пункте пароль также будет назначен пользователю admin@zvirt.

    • Выберите режим Both.

      Application mode (Virt, Gluster, Both) [Both]:
    • Если ранее было выбрано согласие с интеграцией с Keycloak, согласитесь с использованием учетной записи admin для инициализации Keycloak.

      Use Engine admin password as initial keycloak admin password (Yes, No) [Yes]:
    • Если ранее был выбран отказ от интеграции с Keycloak, согласитесь с использованием учётных данных по умолчанию для сетевого провайдера.

      Use default credentials (admin@internal) for ovirt-provider-ovn (Yes, No) [Yes]:
    • Определите необходимо ли стирать данные после удаления SAN хранилищ.

                      --== STORAGE CONFIGURATION ==--
      Default SAN wipe after delete (Yes, No) [No]:
    • Подтвердите название организации для сертификата.

                      --== PKI CONFIGURATION ==--
      Organization name for certificate [test-env.local]:
    • Согласитесь на установку веб-страницы системы виртуализации по умолчанию на веб-сервере.

      Do you wish to set the application as the default page of the web server? (Yes,No) [Yes]:
    • Согласитесь с автоматической настройкой SSL на apache.

      Do you wish Setup to configure that, or prefer to perform that manually?
      (Automatic, Manual) [Automatic]:
    • Выберите режим Basic.

      Please choose Data Warehouse sampling scale:
      (1) Basic
      (2) Full
      (1, 2) [1]:
    • Подтвердите, что пароль администратора менеджера управления будет использоваться в качестве начального пароля администратора Grafana.

      Use Engine admin password as initial Grafana admin password (Yes, No) [Yes]:
    • Просмотрите предварительную конфигурацию развёртывания и подтвердите её.

                      --== CONFIGURATION PREVIEW ==--
      Please confirm installation settings (OK, Cancel) [OK]:
    • Сообщение об успешном развёртывании менеджера управления.

      [ INFO ] Execution of setup completed successfully

5.4. Исправление хоста после неудачного развертывания менеджера управления

Если по каким-либо причинам развертывание менеджера управления закончилось ошибкой, хост необходимо очистить:

  1. Для режима Hosted Engine с помощью команды:

    ovirt-hosted-engine-cleanup
  2. Для режима Standalone с помощью команды:

    engine-cleanup

6. После установки

6.1. Проверка работоспособности

  1. Зайдите в веб-интерфейс по адресу, который был указан для менеджера управления, например, https://engine.vlab.local/

    engine installed
  2. Нажмите Портал администрирования и аутентифицируйтесь с учетной записью администратора:

    • В случае интеграции с Keycloak используйте для аутентификации admin@zvirt и пароль заданный при установке системы для пользователя admin.

    • В случае отказа от интеграции с Keycloak используйте для аутентификации admin и пароль заданный при установке системы для пользователя admin.

  3. При успешной аутентификации откроется веб интерфейс управления zVirt.

    dashboard

6.2. Добавление хостов

Добавьте все физические серверы в кластер, через Ресурсы  Хосты > Новый. Для обеспечения доступности менеджера управления в режиме Hosted Engine, в случае выхода из строя первого хоста, при добавлении дополнительных хостов выберите Да на вкладке Hosted Engine:

add host

6.3. Добавление хранилища

zVirt использует централизованную систему хранения для образов дисков виртуальных машин, образов ISO и снимков.

Чтобы добавить новый домен хранения перейдите в Хранилище  Домены > Новый домен и добавьте домены хранения:

  • Домен данных

  • Домен ISO

  • Домен Экспорта

Домен ISO и Домен Экспорта поддерживают только локальное хранилище, NFS или GlusterFS.

7. Сбор и предоставление логов

В случае необходимости предоставления логов технической службе технической поддержки, выполнить следующие действия для сбора журналов системы:

  • Выполнить архивацию логов:

    tar zcf /root/logs.tar.gz /var/log
  • Скачать файл logs.tar.gz;

  • Предоставить файл logs.tar.gz службе технической поддержки.