Перейти к основному содержимому

Требования к оборудованию и сети

vStack HCP — гиперконвергентная платформа: на одних и тех же серверах одновременно работают гипервизор, программно-определяемое хранилище (SDS) и программно-определяемая сеть (SDN). Отдельного массива хранения и отдельных серверов управления в схеме нет. Поэтому требования к узлу складываются из трёх частей сразу: ядра и память нужны виртуальным машинам, диски — слою хранения, пара сетевых портов — межузловому трафику SDS и SDN.

Кластер собирается из одинаковых узлов. Слой хранения размазан по всем узлам, а избыточность задаётся один раз при установке — числом от 1 до 3. Отсюда прямая связь между размером кластера и тем, сколько отказов он переживает: в кластере из 4 узлов возможна только избыточность N+1, а N+2 доступна начиная с 5 узлов. Промышленные инсталляции строят на 5 узлах и больше.

Слой хранения — только all-flash. Все диски узла, и системные, и дисковые ресурсы пулов, — SSD или NVMe. Гибридных конфигураций с HDD в пулах платформа не предполагает: рекомендованные конфигурации ниже собраны на SATA SSD, SAS SSD и NVMe.

Сеть для кластера — не периферия, а внутренняя шина. Узлы связаны парой агрегированных портов: один агрегат несёт SDN-трафик, второй — трафик слоя хранения и кластерный обмен. Агрегаты собираются через два коммутатора, поэтому требования к коммутации так же жёстки, как к серверам.

Управляющая виртуальная машина с vStack Center живёт на том же кластере. Отдельного сервера под контрольную плоскость планировать не нужно, но её ресурсы входят в общий баланс кластера.

Требования к узлу​

Каждый узел кластера должен удовлетворять минимальным требованиям.

КомпонентМинимальное требование
Процессор Intel XeonE5-2600 v4 и новее
Оперативная память384 ГБ и больше
Системные диски2 SSD не менее 96 ГБ каждый
Диски слоя храненияX дисков не менее 512 ГБ каждый, где X — количество узлов в кластере
Сетевые адаптерыНе менее одного адаптера с двумя портами 10 GbE. Рекомендуются два адаптера в PCI-слотах, соответствующих каждому CPU socket
HBALSI 9400-16i
КоммутацияПо схеме коммутации кластера
Минимум узлов в кластере4
Избыточность

4 узла дают только N+1. Для промышленной инсталляции берите 5 узлов и больше — тогда доступна N+2.

Рекомендованные конфигурации кластера​

Жёстких требований к модельному ряду оборудования у платформы нет. Ниже — конфигурации, которые уже введены в эксплуатацию; берите их как ориентир при подборе.

Параметр узлаМинимальная: 4 узла (3+1)Рекомендуемая: 9 узлов (7+2)Максимальная: 24 узла (22+2)
Платформа2U Intel server platform2U Intel server platform2U Intel server platform, High Performance Fans, NVMe Direct Connection
Процессоры2 × Intel Xeon E5-2620 v4 (8 ядер) и выше2 × Intel Xeon Gold 6348 (28 ядер)2 × Intel Xeon Platinum 8558P (48 ядер)
Память12 × 32 ГБ DDR4 RDIMM 2400 МГц16 × 64 ГБ DDR4 RDIMM 3200 МГц32 × 64 ГБ DDR5 RDIMM 5600 МГц
HBA1 × LSI 9400-16i1 × LSI 9400-16iПрямое подключение NVMe
Диски слоя хранения4 × 960 ГБ SSD SATA (DWPD=1, Intel DC S4510 или enterprise-аналог)9 × 3840 ГБ SSD SAS (DWPD ≥ 1, Samsung PM1643a или enterprise-аналог)24 × 3840 ГБ SSD NVMe (DWPD ≥ 1, Dapustor R5101 или enterprise-аналог)
Системные диски2 × 240 ГБ SSD SATA (Samsung PM883 или enterprise-аналог)2 × 240 ГБ SSD SATA (Samsung PM883 или enterprise-аналог)2 × 960 ГБ SSD NVMe (Intel P5530 или enterprise-аналог)
Сетевые адаптеры2 × двухпортовый 10/25 Гбит/с Eth SFP28 (Mellanox CX-5, Intel XXV710, E810)2 × двухпортовый 10/25 Гбит/с Eth SFP28 (Mellanox CX-5, Intel XXV710, E810)2 × двухпортовый 25 Гбит/с Eth SFP28 (Mellanox CX-5, Intel XXV710, E810)
Питание2 × блок питания (Hot Plug)2 × блок питания (Hot Plug)2 × блок питания (Hot Plug)

Требования к коммутации​

  • Не менее двух коммутаторов с поддержкой Tagged VLAN и LACP / vPC.
  • Портов на каждом коммутаторе — не меньше, чем количество узлов, умноженное на 2.
  • Работающий IGMP snooping.

Подойдёт любой современный коммутатор Enterprise-класса. Проверенные модели:

  • Cisco Nexus 3524X;
  • Extreme Networks X590-24x-1q-2c;
  • Huawei CloudEngine S6730-H24X6C;
  • Juniper EX4600-40F-AFI;
  • Eltex MES5448.

MTU в типовом контрольном листе установки — 9216 на агрегате SDN и 9000–9216 на агрегате слоя хранения. Максимальный MTU, который кластер отдаёт клиентам, виден в опции mtu_max ответа метода get-statusmap.

Сетевые сегменты​

Установщик разводит трафик по VLAN. Значения ниже — пример из контрольного листа установки.

СегментПример VLAN IDМаршрутизация
Кластерная сеть1001—
Сеть, инкапсулирующая изолированные виртуальные сети1002non-routed
Сеть публичных точек доступа1003non-routed
Сеть хранения (native)1004routed
Диапазон VLAN ID для маршрутизируемых виртуальных сетей1010–1060—

Адресное пространство сети публичных точек доступа задаётся отдельно (в примерах этого раздела — 192.0.2.0/24). Из него установщик резервирует адрес с последним октетом 250 под веб-интерфейс управления.

Методы проверки соответствия​

Заявленную конфигурацию удобно сверить с тем, что кластер реально видит, уже после установки. Аппаратная инвентаризация приходит с узлов и доступна и в веб-интерфейсе, и по API.

В веб-интерфейсе счётчики ядер и памяти по узлам лежат в разделе Server Nodes (Узлы): таблица со столбцами ID, Name, Health, CPU (Cores), RAM (GB). Диски и модули памяти конкретного узла — на странице узла, разделы Hardware и Disk props. Пулы слоя хранения — в разделе Storage Resources, таблица ZFS pools со столбцами GUID, Name, Health, Consuming, Scrubbing, Resilvering, Current node, Capacity (RAW).

pd-list​

Список физических дисков кластера. Показывает модель, размер и принадлежность пулу — по нему проверяют, что в пулах стоят только SSD или NVMe нужного объёма.

Доступ: только Cluster master. Требуется включённый feature flag feature.physical_disc_management.

{
"jsonrpc": "2.0",
"method": "pd-list",
"params": {
"auth": { "cookie": "..." }
},
"id": "1"
}

Ответ — карта по серийному номеру диска:

{
"jsonrpc": "2.0",
"id": "1",
"result": {
"code": 1,
"data": {
"S3Y1NX0M900XXX": {
"node_id": 1,
"device": "da0",
"model": "INTEL SSDSC2KB480G8",
"size": 480103981056,
"vdev_pool_name": "tank",
"pool_name": "tank",
"status": 0,
"lifecycle": 2,
"online_in_cluster": true
}
}
}
}

Ожидаемо: у каждого диска слоя хранения online_in_cluster равен true, а size не меньше заявленных 512 ГБ. Поле lifecycle показывает роль диска: 0 — свободен, 1 — размечен, 2 — в пуле, 3 — запасной, -1 — ошибка. Пока узел не сообщил роль, поле приходит пустым (null).

Ошибки: -403 — нет требуемой привилегии; -24201 — Physical disc management не включён.

node-hw-list​

Аппаратный инвентарь узлов по данным SMBIOS: производитель, число ядер, модули памяти. По нему сверяют модель процессора и объём памяти с требованиями.

Доступ: только Cluster master. Требуется включённый feature flag feature.hardware_inventory.

{
"jsonrpc": "2.0",
"method": "node-hw-list",
"params": {
"auth": { "cookie": "..." }
},
"id": "1"
}

Ответ — карта node_id → устройство → свойство:

{
"jsonrpc": "2.0",
"id": "1",
"result": {
"code": 1,
"data": {
"1": {
"0": {
"dev_id": 1,
"dev_name": "Processor",
"dev_serial": 0,
"3": { "prop_id": 3, "prop_name": "Manufacturer", "prop_value": "Intel" },
"4": { "prop_id": 4, "prop_name": "Core Count", "prop_value": 8 }
}
}
}
}
}

Ошибки: -403 — метод доступен только Cluster master; -26001 — Hardware inventory не включён.

portgroup-list​

Портовые группы (агрегаты) узлов: протокол агрегации, состав портов и их флаги. Метод показывает, собрался ли LACP на обоих коммутаторах.

Доступ: только Cluster master. Требуется включённый feature flag feature.network_ports_management.

{
"jsonrpc": "2.0",
"method": "portgroup-list",
"params": {
"auth": { "cookie": "..." },
"node_id": 1
},
"id": "1"
}

Ответ по узлу 1 с двумя агрегатами:

{
"jsonrpc": "2.0",
"id": "1",
"result": {
"code": 1,
"data": {
"1": {
"lagg10": {
"portgroup_name": "lagg10",
"portgroup_status": 1,
"portgroup_proto": "lacp",
"ports": {
"ix0": { "port_name": "ix0", "port_flag_active": 1, "port_status": 1 },
"ix1": { "port_name": "ix1", "port_flag_active": 0, "port_status": 0 }
}
}
}
}
}
}

Ожидаемо: portgroup_proto равен lacp, а у каждого порта агрегата port_flag_active и port_status равны 1. В примере выше порт ix1 погашен — линк до второго коммутатора не поднят.

Ошибки: -403 — метод доступен только Cluster master; -25001 — Network ports management не включён.

Ограничения и обходные пути​

ОграничениеПочемуЧто делать
Кластер из 4 узлов держит только N+1Избыточность задаётся при установке и опирается на число узлов; на 4 узлах места под второй одновременный отказ не остаётсяДля промышленной инсталляции планируйте 5 узлов и больше
Дисков слоя хранения меньше, чем узловТребование связывает число дисков с числом узлов: X дисков, где X — количество узловДополните узлы дисками до X, прежде чем начинать установку
HDD в слое храненияПлатформа рассчитана на all-flash; все проверенные конфигурации собраны на SSD и NVMeЗаменяйте диски пулов на SSD или NVMe
Один коммутатор вместо двухАгрегат LACP / vPC собирается через пару коммутаторов; на одном коммутаторе отказоустойчивость коммутации теряетсяСтавьте два коммутатора Enterprise-класса
Портов на коммутаторе меньше, чем узлов × 2Каждый узел подключается двумя портами на каждый коммутаторРасширьте порт-каунт или добавьте коммутатор
IGMP snooping выключен или в VLAN изолированных сетей нет querierТрафик изолированных виртуальных сетей идёт через multicast-группы, которые коммутатор создаёт по IGMPВключите IGMP snooping и назначьте querier в VLAN изолированных сетей
MTU выше 9000 на адаптерах MellanoxОграничение адаптераНе превышайте 9000 на агрегате, собранном на портах Mellanox

См. также​