Предисловие к части 2 В первая часть Мы рассказали об основных аспектах построения систем хранения данных.
Теперь поговорим о практических составляющих, в частности, использовании выбранного оборудования, протоколах обмена и топологии внутренней сети.
Сетевые протоколы и необходимые функции
Прежде чем приступить к построению системы хранения данных, необходимо определиться, для чего она будет использоваться.На сегодняшний день известно достаточно много различных протоколов, которые могут тем или иным образом использоваться при обмене между сервером и системой хранения.
Однако лучше всего выбрать из них наиболее универсальные и, в то же время, самые нетребовательные.
Все системы хранения и протоколы обмена данными можно разделить по типу доступа на: файловые и блочные.
Файловые хранилища — это сетевые ресурсы, с которыми происходит обмен данными по популярным протоколам прикладного уровня.
Наиболее часто используемые: CIFS, NFS, AFP. Также используются другие протоколы передачи файлов, такие как FTP, TFTP, SFTP и т. д. Такие устройства называются сетевыми хранилищами, или сокращенно NAS. По сути, NAS — это файловый сервер, аппаратное и программное обеспечение которого оптимизировано для задач хранения и обмена файлами.
Хранилища с блочным доступом предоставляют специально организованным томам уникальные номера — Logical Unit Number, LUN. В этом случае подключенные ресурсы хранения с точки зрения логической организации выглядят как локальные жесткие диски.
В этом случае используются специальные протоколы доступа, такие как FCP (для Fibre Channel), а также iSCSI, FCoE, ATAoE и другие для сетей Ethernet. Системы хранения данных такого типа называются Storage Area Network, сокращенно SAN, и представляют собой дисковые массивы, подключенные к высокопроизводительной сети передачи данных.
Среди бюджетных СХД протокол iSCSI пользуется большой популярностью благодаря простоте реализации и неприхотливости к ресурсам.
ВАЖНОЕ ЗАМЕЧАНИЕ .
В рамках данной статьи невозможно рассказать обо всех аспектах создания и эксплуатации систем хранения данных.
Поэтому стоит обратиться к другим источникам за дополнительной информацией.
Некоторые из них перечислены в конце статьи.
Системы хранения с блочным доступом (например, локальный жесткий диск) при обычном использовании не допускают более одного подключения без риска потери данных, в то время как системы хранения файлов могут быть доступны для подключения нескольким клиентам.
ПРИМЕЧАНИЕ .
При определенных условиях блочное хранилище может быть подключено к нескольким клиентам, например, при использовании файловых систем общего диска.
В частности, хост-серверы VMware ESX(i) могут одновременно подключаться и работать с системами хранения данных с блочным доступом, если они имеют файловую систему VMFS. Ограничение требует определенных мер контроля доступа.
В сетях Fibre Channel для этого используется зонирование; для семейства Ethernet используется механизм авторизации по паролю и разделение на виртуальные подсети (VLAN).
ПРИМЕЧАНИЕ .
Виртуальная локальная сеть (VLAN) — искусственно ограниченный сегмент локальной сети в виде группы портов с общим набором свойств, например, с одинаковыми требованиями безопасности.
Позволяет обмениваться информацией друг с другом в рамках единого виртуального широковещательного домена независимо от физического расположения подключенных устройств.
Еще одним важным параметром, который диктует нам доступ к блоку, является резервирование канала связи.
Если в случае разрыва строки при копировании на сетевой ресурс вам придется просто перезаписать файл, то при блочном доступе это чревато появлением серьезных ошибок в файловой системе.
Здесь очень пригодится объединение нескольких линий передачи данных в сетях Ethernet в один логический канал.
Эта функция называется Link Aggregation, сокращенно LAGG. Помимо повышения отказоустойчивости, агрегирование каналов позволяет увеличить пропускную способность.
В UNIX-подобных операционных системах: Linux, BSD, Solaris, которые используются в качестве основы для построения различных систем хранения данных, наиболее часто используется протокол LACP — Link Aggregation Control Protocol. Этот открытый стандартный протокол описан в IEEE 802.3ad и IEEE 802.1aq и широко используется для агрегации каналов в простых системах.
Для повышения производительности системы необходимо снизить затраты на обслуживание трафика.
Один из способов — использовать пакеты данных большего размера.
Соответственно, если для передачи одной и той же информации потребуется меньше пакетов, это сократит время обработки и сэкономит аппаратные ресурсы.
Поэтому функция Jumbo Frame тоже будет полезна.
ПРИМЕЧАНИЕ .
Jumboframe — это механизм в сетях семейства Ethernet, благодаря которому можно передавать блоки данных, превышающие 1500 байт (значение, заданное стандартами группы IEEE 802.3) — или, как еще говорят, увеличивать MTU до более 1500 байт).
Самая популярная практика в системах хранения данных на базе IP-сетей — установка размера кадра данных в 9000 байт, например, для ускорения обмена по протоколам iSCSI, NFS, GIFS (SMB).
Все вышеперечисленные функции: VLAN, LAGG (LACP) и Jumbo Frames доступны в выбранном нами коммутаторе Zyxel XS1920 Series.
Топология построения систем хранения данных
Построение малых СХД для среднего и малого бизнеса, с одной стороны, накладывает определенные ограничения по стоимости, с другой – допускает некоторые послабления в области отказоустойчивости и безопасности.Сначала давайте посмотрим на саму простую схему на рисунке 1. В данном случае имеется виртуальная система из 4-х серверов, подключенных к одному хранилищу через выделенный коммутатор.
Для увеличения пропускной способности все соединения дублируются посредством функции агрегации портов.
Таким образом, используются 10 портов RJ45 для 10 Gigabit Ethernet. Остальные 2 универсальных порта 10 Gigabit Ethernet зарезервированы и в дальнейшем могут быть использованы для подключения другой системы хранения или сервера.
Рисунок 1. Простая сеть хранения данных.
Обратите внимание, что переключатель на приведенной выше схеме используется полностью в автономном режиме.
Связи с другими сегментами сети (Uplink/Downlink) нет и кроме серверов и систем хранения к ней больше ничего не подключено.
Такая изоляция оправдана как с точки зрения отказоустойчивости, так и для оптимизации и упрощения сетевого обмена.
При построении этой простой сети следует учитывать, что большинство систем хранения и серверов имеют специальный порт для управления, например, по IPMI. Кроме того, для улучшения контроля над самодельными системами хранения данных часто используется дополнительная сетевая карта, обеспечивающая интерфейс управления по протоколам HTTP/HTTPS или Telnet/SSH. ПРИМЕЧАНИЕ .
IPMI — интеллектуальный интерфейс управления платформой — это специальный интерфейс для мониторинга и управления.
Наиболее известными реализациями являются iLO от HP и IMM2 от IBM. Интерфейс IPMI доступен, даже когда хост-устройство неактивно.
Через IPMI можно выключать, включать, перезагружать систему, перехватывать консоль для управления, снимать показания датчиков, например, температуры, электропитания и так далее.
В качестве недорогого решения для организации такой сети подойдет любой свитч с интерфейсом Fast Ethernet (100Мбит/с) или Gigabit Ethernet. Чтобы минимизировать затраты на ее приобретение, а также на управление, обучение персонала и так далее, имеет смысл выбирать оборудование того же производителя, что и основная сеть хранения данных.
Например, в нашем случае хорошо справится модель Zyxel GS1100-8HP, свитч с 8 гигабитными портами.
Рисунок 2. Пример организации выделенной сети управления.
Если требования к отказоустойчивости высоки, необходимо использовать конструкцию с двумя коммутаторами.
Во избежание конфликтов при доступе к одним и тем же томам iSCSI по разным соединениям используется механизм multipathing. Дополнительным бонусом в этом случае станет возможность сбалансировать и увеличить количество портов, которые можно использовать как для подключения устройств, так и для расширения канала.
ПРИМЕЧАНИЕ .
Multipathing — это технология соединения узлов хранения данных по нескольким независимым линиям.
Например, одно устройство хранения можно подключить к серверу с помощью нескольких каналов iSCSI. При выходе из строя одного из соединений операционная система будет использовать оставшиеся функциональные линии связи для доступа к устройству.
Такая архитектура повышает отказоустойчивость системы и позволяет распределять нагрузку, что приводит к увеличению общей производительности.
Рисунок 3. Схема с двумя переключателями.
(Для наглядности сеть управления не показана.
) Коммутатор Zyxel XS1920 Series хорошо подходит для организации небольшого хранилища данных.
Для более крупных инфраструктур мы можем порекомендовать другую модель — 24-портовый коммутатор 10GbE L2+ серии XS3700.
Заключение
Построение недорогой системы хранения данных, отвечающей требованиям бизнеса, — задача непростая, но вполне достижимая.Конечно, в рамках короткого повествования невозможно охватить все аспекты этой обширной области ИТ.
Например, за кадром остались такие вопросы, как дублирование СХД для обеспечения отказоустойчивости, создание географически распределенных СХД и так далее.
Однако в качестве первого шага опыт построения простых решений для централизованного хранения данных наверняка будет полезен и позволит в будущем организовать эффективную инфраструктуру различного назначения.
Источники:
- Бережной А.
Использование iSCSI при построении систем хранения данных // «Системный администратор», №3, 2017.
- Владан Сегет Как настроить ESXi 6.5 для общего хранилища iSCSI
- LACP (описание) - xgu.ru/wiki/LACP
- Ethernet Альянс.
Большие кадры Ethernet
- Описание коммутатора Zyxel XS1920 Series
- Интеллектуальный интерфейс управления платформой (IPMI)
- Описание неуправляемых коммутаторов на порты 8/10/16/24 GbE — Zyxel GS1100 Series
- Многолучевое распространение (описание)
- Описание коммутатора Zyxel XS3700 Series
-
Насколько Важно Обучение Edi Для Бизнеса?
19 Oct, 24 -
Яблоня
19 Oct, 24