Три ночи, 66 серверов и новый этап Serv-Tech

В 2014 году наша инфраструктура состояла из двух серверов. Мы разместили их в московском дата-центре DataPRO через компанию, которая арендовала там стойки. Для старта этого было достаточно: оборудование работало, появлялись первые клиенты, а мы постепенно развивали сервис.

Через четыре года нам предстояло перевезти уже 66 серверов и семь коммутаторов. За три ночи.

Между этими двумя событиями — история о том, как мы выросли и поняли, что пора менять привычный порядок работы.

Когда двух серверов стало недостаточно

Сначала мы просто добавляли оборудование. Затем понадобилась собственная сеть: появились два коммутатора Cisco 4948E и выделенный канал доступа в интернет на 1 Гбит/с.

Менялись и задачи клиентов. Некоторым требовалась более высокая пропускная способность, поэтому следующим приобретением стал Extreme X670-48X с 48 портами по 10 Гбит/с. Он занял место в центре нашей сети, а Cisco распределились по стойкам.

Вместе с инфраструктурой росло количество вопросов, которые приходилось решать для её обслуживания.

Наши серверы находились в разных стойках и разных частях зала. Соединения между ними требовали отдельных согласований и расходов. Прямого физического доступа к своему оборудованию у нас не было — размещение по-прежнему шло через посредника.

Для двух серверов такой формат подходил. Для инфраструктуры, которую мы к тому моменту построили, он становился тесным.

Мы пытались договориться об изменении условий. Когда стало понятно, что подходящего решения найти не получается, начали искать новую площадку.

Поиск места, в котором можно расти

Мы общались с московскими дата-центрами, сравнивали предложения и обсуждали размещение в отдельных стойках.

Одни варианты подходили технически, но выходили за рамки бюджета. Другие привлекали ценой, однако не соответствовали нашим требованиям. Рассматривали и возможность остаться в DataPRO, перейдя на прямую аренду стоек.

Нам были нужны понятные условия, доступ к оборудованию и возможность самостоятельно организовать сеть. Важна была и помощь инженеров на площадке: наша команда поддержки работала из разных городов, поэтому держать собственную круглосуточную смену в дата-центре мы тогда не могли.

В итоге в списке остались две площадки — IXcellerate и DataLine.

Сначала переговоры продвинулись дальше с IXcellerate: мы уже обсуждали документы и сроки переезда. Но затем получили от DataLine предложение, которое лучше подходило нашим задачам и бюджету. После согласования условий началась подготовка.

Сначала подготовить новую площадку

Прежде чем отключать первый сервер, нужно было подготовить место, где он снова заработает.

В стойке DataLine мы установили второй Extreme X670-48X. Знакомый хостинг-провайдер, который уже размещался на этой площадке, предоставил подключение на 10 Гбит/с. На первом этапе мы использовали его каналы связи и анонсировали свои IP-адреса через его автономную систему.

Между старой и новой площадками настроили туннель. Благодаря этому часть оборудования могла продолжать работать в DataPRO, пока другая часть уже находилась в DataLine.

Переезд не требовал одновременного отключения всей инфраструктуры. Но каждому физическому серверу всё равно предстояло пройти свой путь: выключение, демонтаж, дорога, установка и подключение на новом месте.

Три ночи в дороге

Перевезти всё оборудование за одну ночь было невозможно. Мы разделили работу на три этапа.

В первую ночь переезжали узлы виртуализации и серверы виртуального хостинга — всего 22 сервера и два коммутатора.

Во вторую — выделенные серверы, которые арендовали наши клиенты. Это ещё около 33 серверов и три коммутатора.

На третью ночь остались остальные клиентские серверы и оборудование, на котором работали наши внутренние системы: 11 серверов и два коммутатора.

Демонтаж и перевозку выполняли вдвоём. На новой площадке нас ждал ещё один сотрудник, который помогал устанавливать оборудование в стойки и подключать его. Такое распределение работы позволяло быстрее возвращать серверы в строй.

За сухими цифрами скрывались кабели питания, патч-корды, крепления и многократно повторённая последовательность действий. Отключить, снять, перевезти, установить, подключить, проверить.

Москва ночью помогала отсутствием пробок. Инженеры DataLine — быстрой приёмкой оборудования.

Так, за три ночи, новую площадку заняли 66 серверов и семь коммутаторов.

Последний коммутатор

Когда основное оборудование уже работало в DataLine, в старом дата-центре ещё оставался коммутатор, который обеспечивал связь между двумя площадками.

Мы полностью переключили сеть на новый ЦОД, убедились, что инфраструктура работает в штатном режиме, и вернулись за ним.

С этого момента переезд был завершён.

Что изменилось после переезда

В DataLine у нас появились две собственные арендованные стойки и прямой доступ к оборудованию. Мы получили возможность организовать размещение серверов и сетевые соединения так, как требовалось нашей инфраструктуре.

Стало проще планировать расширение. Появилась возможность размещать в своих стойках оборудование клиентов и выбирать операторов связи из представленных на площадке.

Для команды это означало больше самостоятельности в ежедневной работе. Для сервиса — пространство для дальнейшего развития.

Начав с двух серверов, мы пришли к инфраструктуре, которой уже требовались свои стойки, собственная топология сети и тщательно спланированный переезд.

Это был наш первый опыт такого масштаба. Три ночи оказались насыщенными, но после них у Serv-Tech появилось гораздо больше возможностей для следующего шага.