33
Поддержка кластерных решений, master-slave репликация и вертикальный шардинг

1С-Битрикс - Веб-кластер

Embed Size (px)

DESCRIPTION

Семинар 1С-Битрикс и Оверсан-Скалакси

Citation preview

Page 1: 1С-Битрикс - Веб-кластер

Поддержка кластерных решений, master-slave

репликация и вертикальный шардинг

Page 2: 1С-Битрикс - Веб-кластер

Сколько стоит 1 час?

Крупный интернет-магазин с годовым оборотом 1.5 млрд. руб.

210 рабочих дней в году по 10 рабочих часов.

Час простоя крупного интернет-проекта может обойтись владельцам в 0,3 - 1 миллион рублей упущенной выручки.

Пример:

Page 3: 1С-Битрикс - Веб-кластер

Сколько стоит 1 час?

А также…

Будет разрываться телефон звонками от Заказчика, Клиентов.

Сисадмин будет пить валидол и вспоминать где расположена клавиша «Enter»

Page 4: 1С-Битрикс - Веб-кластер

Сколько стоит 1 час???

А также…

Будет разрываться телефон звонками от Заказчика, Клиентов.

Сисадмин будет пить валидол и вспоминать где расположена клавиша «Enter»

Page 5: 1С-Битрикс - Веб-кластер

1С-Битрикс: Веб-кластер

Основные задачи, которые необходимо решить:

1. Обеспечение высокой доступности сервиса (так называемые HA - High Availability или Failover кластеры)

2. Масштабирование веб-проекта в условиях возрастающей нагрузки (HP - High Performance кластеры)

3. Удобное резервное копирование

Page 6: 1С-Битрикс - Веб-кластер

1С-Битрикс: Веб-кластер

«Веб-кластер» обеспечивает непрерывность бизнеса, отказоустойчивость, масштабирование, распределение нагрузки.

Любой новый или работающий проект на 1С-Битрикс: Управление сайтом 10.0 может быть представлен как веб-кластер взаимозаменяемых серверов.

1. При увеличении посещаемости можно быстро добавить в кластер новые сервера.2. В случае выхода из строя одного из серверов кластера система продолжает

беспрерывно обслуживать Клиентов.3. Балансирование нагрузки, трафика, данных между несколькими серверами.

4. Система позволяет снимать резервные копии со специально выделенных узлов кластера, не влияя на работу сайта.

Page 7: 1С-Битрикс - Веб-кластер

Сервер

Конфигурации веб-проектовна 1С-Битрикс (начало пути)

Сервер

RDBMS(MySQL)

Web server (Apache+1С-Битрикс)

Сервер

RDBMS(MySQL)

Appl. server (Apache+1С-Битрикс)

Proxy server (Nginx)

RDBMS(MySQL)

1С-Битрикс - PHP (FastCGI)

Proxy server (Nginx)

Page 8: 1С-Битрикс - Веб-кластер

Конфигурации веб-проектов на 1С-Битрикс («первое» масштабирование)

Сервер

Сервер

Proxy server (Nginx)

Сервер

RDBMS(MySQL)Appl. server

(Apache+1С-Битрикс)

Стат. файлы

Page 9: 1С-Битрикс - Веб-кластер

Дальше – сложнее …

Page 10: 1С-Битрикс - Веб-кластер

SLAVESLAVE

MASTERСервер

СерверСерверы MASTER

Дальнейшая кластеризация веб-проекта

Сервер-балансировщик

Proxy server (Nginx)

Серверы приложений

RDBMS(MySQL)Appl. server

(Apache+PHP)

Стат. файлы

Серверы SLAVE

RDBMS(MySQL)

Диспетчер SQL запросов

Общие сессии

Общие файлы

Page 11: 1С-Битрикс - Веб-кластер

Дальнейшая кластеризация веб-проекта

Вертикальный шардинг Горизонтальный шардинг

База данных MySQL

База данных MySQL 1

База данных MySQL 2

База данных MySQL

База данных MySQL 1

База данных MySQL 2

Аккаунты a-m

Аккаунты n-z

Page 12: 1С-Битрикс - Веб-кластер

1С-Битрикс: Веб-кластер

«1С-Битрикс: Веб-кластер» - это комбинация технологий:

Вертикальный шардинг (вынесение модулей на отдельные серверы MySQL)Репликация MySQL (Oracle и MS SQL в дальнейшем) и балансирование нагрузки

между серверамиРаспределенный кеш данных (memcached)

Непрерывность сессий между веб-серверами (хранение сессий в базе данных)Кластеризация веб-сервера:

Синхронизация файловБалансирование нагрузки между серверами

Page 13: 1С-Битрикс - Веб-кластер

Разделение одной базы данных веб-приложения на две и более базы данных за счет выделения отдельных модулей, без изменения логики работы веб-приложения:

• Веб-аналитика

• Поиск

1. Эффективное распределение нагрузки.

2. Масштабирование.

3. Разделение больших объемов данных.

Вертикальный шардинг

Page 14: 1С-Битрикс - Веб-кластер

• Гибкая балансировка нагрузки SQL

• Простота администрирования

• Дешевое и быстрое неограниченное масштабирование

• Он-лайн бэкап

• Не требуется доработка логики веб-приложения

Репликация и балансировка нагрузки MySQL

Page 15: 1С-Битрикс - Веб-кластер

Веб-сервер

База данных MySQL

MASTER

«1С-Битрикс: Веб-кластер»

База данных MySQL

SLAVE 1

База данных MySQL

SLAVE N

База данных MySQL

SLAVE …

MySQL replication SQL-балансировщик1С-Битрикс

Масштабирование при росте нагрузки MySQL

Page 16: 1С-Битрикс - Веб-кластер

• Высокая эффективность - за счет централизованного использования кэша веб-приложением

• Надежность - за счет устойчивости подсистемы кешировния к выходу из строя отдельных компонентов

• Неограниченная масштабируемость - за счет добавления новых memcached-серверов.

memcached1

memcached2

memcached3

Веб-кластер «1С-Битрикс»

40% 30%30%

Веб-сервер Веб-сервер Веб-сервер

Распределенный кеш данных (memcached)

Page 17: 1С-Битрикс - Веб-кластер

Распределенный кеш данных (memcached)

Page 18: 1С-Битрикс - Веб-кластер

Непрерывность сессий между веб-серверами

Пользовательская сессия должна быть "прозрачной" для всех серверов веб-кластера.

1. После авторизации на одном из серверов пользователь должен считаться авторизованных и для всех других серверов.

2. И наоборот - окончание сессии на любом сервере должно означать ее окончание на всех серверах сразу.

Page 19: 1С-Битрикс - Веб-кластер

Веб-сервер

База данных MySQL

Нода 1 «1С-Битрикс: Веб-кластер»

Высокая посещаемость

Веб-сервер

Нода 2 «1С-Битрикс: Веб-кластер»

Балансировщик нагрузки

Нагрузка на CPU <50%

1) Нагрузка распределяется между нодами веб-кластера

2) Сервера приложений не перегружены и работают в устойчивом штатном режиме

Авто-синхронизация

Задача: масштабирование при росте нагрузки

Page 20: 1С-Битрикс - Веб-кластер

База данных MySQL

Нода 1 «1С-Битрикс:Веб-кластер»

Очень высокая посещаемость

Балансировщик нагрузки

Нода 2 «1С-Битрикс:Веб-кластер»

Нода N «1С-Битрикс:Веб-кластер»…

Задача: масштабирование при росте нагрузки

Page 21: 1С-Битрикс - Веб-кластер

Веб-сервер 1

/var/www

Веб-сервер 2

?

Задача синхронизации файлов

Page 22: 1С-Битрикс - Веб-кластер

Два типа:

1. Синхронный:• Общая «дисковая полка»• Сетевые средства – NFS• OCFS2, GFS2• DRBD для надежности

2. Асинхронный:• rsync• csync2

Синхронизация файлов

Page 23: 1С-Битрикс - Веб-кластер

Почему мы выбрали csync2?

• Быстрый доступ к файлам приложения за счет использования локальных хранилищ.

• Высокая скорость работы.

• Низкое потребление ресурсов (CPU, дисковые операции). Два этих фактора позволяют запускать процесс синхронизации максимально часто, поэтому данные на серверах становятся идентичными практически в "реальном времени".

• Простота настройки для обмена данными между любым количеством серверов.

• Возможность синхронизации удаления файлов.

• Защищенный обмен данными между хостами (SSL).

Page 24: 1С-Битрикс - Веб-кластер

Нода 2 «1С-Битрикс: Веб-кластер»

Csync2

Нода 1 «1С-Битрикс: Веб-кластер»

Csync2

/var/www /var/www

Нода 3«1С-Битрикс: Веб-кластер»

Csync2

/var/www

Пример синхронизации файлов кластера

Page 25: 1С-Битрикс - Веб-кластер

Способы балансирования нагрузки

• DNS сервер с несколькими записями типа A и разными IP адресами и коротким TTL

• NGINX на отдельном оборудовании

• Аппаратный маршрутизатор с балансированием нагрузки

• Балансировка силами дата центра (облака)

Page 26: 1С-Битрикс - Веб-кластер

Разворачиваем веб-кластер в «облаке»

Балансировщик «облака»

Вирт. сервер 1

RDBMS(MySQL)Master

Appl. server (Apache+1С-Битрикс)

dили nginx и др.

Proxy server (Nginx)

Кэш

(mem

cach

ed)

Вирт. сервер 2

RDBMS(MySQL)Slave

Appl. server (Apache+1С-Битрикс)

Proxy server (Nginx)

Кэш

(mem

cach

ed)

Page 27: 1С-Битрикс - Веб-кластер

Миграция веб-кластера между дата-центрами

Дата-центр 1

1С-Битрикс:Веб-кластер

Дата-центр 2

RDBMS(MySQL)Slave

«Горячий» бэкап

RDBMS(MySQL)Master

S3 снепшотS3 снепшотCнепшот

Page 28: 1С-Битрикс - Веб-кластер

Миграция веб-кластера между дата-центрами

Дата-центр 2

RDBMS(MySQL)Master

S3 снепшотS3 снепшотCнепшот

Веб-кластер

Page 29: 1С-Битрикс - Веб-кластер

Устойчивость системы при выключении узлов веб-кластера

При отключении узлов кластера система не прерывает обслуживание клиентов.

Увеличивается очередь (растет время отдачи страниц клиентам), однако в целом система сбалансирована по нагрузке.

Обратное добавление узла веб-кластера пропорционально увеличивает производительность системы.

Нагрузочный тест – отключение одного из узлов кластера

Page 30: 1С-Битрикс - Веб-кластер

«1С-Битрикс: Веб-кластер»,

ДЦ в Москве

БД

Веб-нода

«1С-Битрикс: Веб-кластер», ДЦ в Нью-Йорке

«1С-Битрикс: Веб-кластер»,

ДЦ в Новосибирске

круговой, асинхронной,master-master

репликацией для обеспечения работы географически распределенных веб-

кластеров 1С-Битрикс

Кэш

БД

Веб-нода

Кэш

БД

Веб-нода

Кэш

Мы работаем над…

Page 31: 1С-Битрикс - Веб-кластер

«1С-Битрикс: Веб-кластер»,

ДЦ в Москве

БД

Веб-нода

«1С-Битрикс: Веб-кластер»,

ДЦ в Нью-Йорке

«1С-Битрикс: Веб-кластер»,

ДЦ в Новосибирске

круговой, асинхронной,master-master

репликацией для обеспечения работы географически распределенных веб-

кластеров 1С-Битрикс

Кэш

БД

Веб-нода

Кэш

БД

Веб-нода

Кэш

БД

Веб-нода

Кэш

БД

Веб-нода

Кэш

БД

Веб-нода

Кэш

БД

Веб-нода

Кэш

БД

Веб-нода

Кэш

БД

Веб-нода

Кэш

Мы работаем над…

Page 32: 1С-Битрикс - Веб-кластер

Руководство по настройке и администрированию«1С-Битрикс: Веб-кластер»

http://www.1c-bitrix.ru/download/manuals/ru/web-cluster_guide.pdf

Page 33: 1С-Битрикс - Веб-кластер

Спасибо за внимание! Вопросы?

Александр Сербул

[email protected]: #AlexSerbul