19
От Статистики до Статистики Яндекс Докладчик: Юхно Олег руководитель группы администрирования email: [email protected] 1 1

От Статистики до Статистики. Эволюция архитектуры системы на примере системы расчета статистики Яндекса

Embed Size (px)

DESCRIPTION

В докладе я расскажу о том, как мы строили систему расчета статистики в Яндексе и как она эволюционировала в процессе своего существования. Я постараюсь рассказать о достоинствах и недостатках сильно централизованной монолитной системы и децентрализованной модульной системы, а также расскажу о некоторых технологических решениях, которые использовались для увеличения производительности системы.

Citation preview

Page 1: От Статистики до Статистики. Эволюция архитектуры системы на примере системы расчета статистики Яндекса

От Статистики до Статистики

Яндекс

Докладчик: Юхно Олег

руководитель группы администрированияemail: [email protected]

11

Page 2: От Статистики до Статистики. Эволюция архитектуры системы на примере системы расчета статистики Яндекса

О чем я хочу рассказать?

Развитии системы статистики

2

Проблемах и их решении

Page 3: От Статистики до Статистики. Эволюция архитектуры системы на примере системы расчета статистики Яндекса

Зачем нужна система расчета статистики

3

Page 4: От Статистики до Статистики. Эволюция архитектуры системы на примере системы расчета статистики Яндекса

Почему нужна система расчета статистики

4

Много проектовМного данныхПотребовалось считать статистику регулярно и единообразно

Page 5: От Статистики до Статистики. Эволюция архитектуры системы на примере системы расчета статистики Яндекса

5

Page 6: От Статистики до Статистики. Эволюция архитектуры системы на примере системы расчета статистики Яндекса

6

Сначала данных и проектов было мало

< 10Gb в сутки

Page 7: От Статистики до Статистики. Эволюция архитектуры системы на примере системы расчета статистики Яндекса

8

Page 8: От Статистики до Статистики. Эволюция архитектуры системы на примере системы расчета статистики Яндекса

9

Данных и проектов еще было мало

< 100Gb в сутки

Page 9: От Статистики до Статистики. Эволюция архитектуры системы на примере системы расчета статистики Яндекса

11

Page 10: От Статистики до Статистики. Эволюция архитектуры системы на примере системы расчета статистики Яндекса

Когда данных стало 200-300Гб в сутки

12

Page 11: От Статистики до Статистики. Эволюция архитектуры системы на примере системы расчета статистики Яндекса

Вторая попытка масштабирования

14

Пределы экстенсивного роста

Page 12: От Статистики до Статистики. Эволюция архитектуры системы на примере системы расчета статистики Яндекса

Финальное решение

Page 13: От Статистики до Статистики. Эволюция архитектуры системы на примере системы расчета статистики Яндекса

16

Page 14: От Статистики до Статистики. Эволюция архитектуры системы на примере системы расчета статистики Яндекса

17

Page 15: От Статистики до Статистики. Эволюция архитектуры системы на примере системы расчета статистики Яндекса

18

Сейчас ежесуточно статистика обрабатывает 2-3Тб данных

Page 16: От Статистики до Статистики. Эволюция архитектуры системы на примере системы расчета статистики Яндекса

19

Page 17: От Статистики до Статистики. Эволюция архитектуры системы на примере системы расчета статистики Яндекса

А будет еще больше…

21Рост в 3-4 раза каждый год!

Page 18: От Статистики до Статистики. Эволюция архитектуры системы на примере системы расчета статистики Яндекса

Итог:

25

Децентрализация системы

Специализация компонентов

Автономностькомпонентов

«Простота»компонентов

Отказоустойчивость Производительность

Простота в обслуживаниии высокая эффективность

Page 19: От Статистики до Статистики. Эволюция архитектуры системы на примере системы расчета статистики Яндекса

Спасибо!

Юхно Олегруководитель группы администрированияemail: [email protected]

26