2014-01-04 02 Алексей Зиновьев. Выбор NoSQL базы данных

Выбор NoSQL базы данных для вашего проекта:

"Не в свои сани не садись"Докладчик: Алексей Зиновьев

● аспирант НИИЧАВО, математик● занимаюсь теорией графов, прогнозированием

пробок, исследованием транспортных систем● большой фанат различных Boobs API ● лидер GDG Omsk, соорганизатор IT-субботников

О чем этот доклад?

Отдохнул на базе…данных

Мир NoSQL баз данных велик и ужасен и каждая хороша в чем-то своем. А в чем именно? На чем основываться, выбирая NoSQL решение для своего проекта? Может быть на предпочтениях бабушки вашего ведущего программиста или на основе забрасывания сапога за ворота в ночь перед Рождеством? Передаю приветы парням в первом ряду. Да, именно тебе! Лови конфетку за внимательность. Нас ждет увлекательный полет над гладью болот MongoDB, Cassandra, Riak, HerrBase, Neo6j, CouchSS. А в тихом омуте, как известно, и черти водятся.

Эмоции

Эмоции● То, что мы чувствуем -

важно● Мода и тренд● Протест и компромисс● Запечатление и эффект

якоря влияют на нас не меньше чем умные статьи

● Через это должен пройти каждый и этот этап не стоит откладывать

Эмоции: за что я не люблю ...

Hbase не знаю, но осуждаю

Riak немного нервирует, потому что я его не знаю

CouchBase, потому что я замучался его тестировать

Кассандра навязывает ограниченный cql и относительно медлено читает и без гектора никуда

Монга модная, сложная и ненадежная Мускул решит все

проблемы и он такой же быстрый

Рынок баз данных

Мифы - это часть борьбыУтверждение Процент согласных

Mongo - ненадежна и падает 45%

Cassandra надежна, устойчива и почти не падает 53%

CouchDB предназначен для веба 35%

Neo4j нужен только, чтобы хранить граф социальных сетей

54%

Hbase нужна только тем, кто не может прикрутить к Hadoop другой нормальной базы

70%

Mongo имеет отличный встроенный MapReduce 62%

Cassandra навязывает нам SQL - подход 86%

Суровая реальность● Нет базы “моей мечты”● Чтобы решать задачи,

необходимо знакомство с основными парадигмами и их воплощениями

● Если вы будете, вопреки голосу разума, цепляться за первую любовь - вас ждет поражение

Принципы приличной NoSQL● Масштабируемость

(автоматическое распределение данных)

● Поддержка нескольких датацентров

● Возможность добавлять прозрачно новые сервера

● Собственная, отличная от реляционной, модель данных

● Согласованность в конечном счете

Критерии сравнения NoSQL● кривая обучения● производительность ● возможности языка запросов● свои фреймворки и “ORM”● простота интеграции с Hadoop, поддержка MapReduce● поддержка PHP и Scala-driver● Красивые окошечки для винды● наличие вспомогательных средств для работы● модность, стильность, молодежность● поддержка основных концепций по управления данными● сфера влияния и распространение в проектах ● наличие конкурентов при решении определенной задачи

Категоризация NoSQL системData Model Performance Scalability Flexibility Complexity Functionality

Key–value Stores

зе бест зе бест зе бест none variable (none)

Column Store

high high moderate low minimal

Document Store

high variable (high)

high low variable (low)

Graph Database

variable variable high high graph theory

Relational Database

variable variable low moderate relational algebra

Сравнение возможностей IМодель данных

API запросов

Система хранения данных

Cassandra Семейства кошачьих

Thrift Memtable/SSTable

CouchDB Документы Map/Reduce Append-only-B-tree

Hbase Семейства голосеменных

Thrift, REST Memtable/SSTable on HDFS

MongoDB Документы Cursor B-tree

Neo4j Графы, бароны Graph On-disk linked lists

Riak Ключ/От/Квартиры/Где/Деньги/Лежат

Nested hashes, REST

Hash

Сравнение возможностей IIВторичные индексы

MapReduce Модность

Cassandra да нет оптовка: дешево и сердито

CouchDB да JavaScript не раскрученный бренд

Hbase нет Hadoop слабая поддержка

MongoDB да JavaScript повышенная

Neo4j да (с помощью Lucene)

нет (графы и MapReduce?)

для нердов

Riak да JavaScript, Erlang

слабая поддержка

Riak: преимущества● Отказоустойчивость (кольцо)● Links, du hast (ссылки на

другие ключи) + фильтры ключей

● MapReduce (Erlang + JC)● REST● Подсистема поиска● Возможность настройки

параметров согласованности и доступности на уровне отдельного запроса

Riak: недостатки● Бедные возможности

запросов● Нет ACID● Неполноценная поддержка

JavaScript● Отсутствие поддержки

структур данных● Невозможно похвастаться

перед родней

Mongo: преимущества● Полноценный язык запросов● Aggregation framework● Mongo + Node.js + JС● Хранение сложных

денормализованных документов

● Большой выбор индексов ● Вам меньше 25● Репликация данных и

сегментирование коллекций● Community

Mongo: недостатки● Ограничение на размер

результата (16 Мб)● Проблема четного числа узлов

и сложные выборы● Опечатка стоит дорого● Вам обязательно скажут, что

она падает● Над планированием кластера

надо думать● Иногда навязывает

воспроизведение схемы в коде (проверка типов и т.д.)

CouchDB: преимущества● Функции-фильтры и как

следствие “псевдошардинг”● Мобильная версия● Простота встраивания и

резервного копирования● Сверхбыстрый формат данных

CouchSON, позволяющий сжимать данные в 10^9 раз на нанобитовом уровне

CouchDB: недостатки● Не всегда удобная система

репликации (“все или ничего”)

● Неполноценный язык запросов, основанный на MapReduce операциях над представлениями

● Нет нормального механизма сегментирования

HBase: преимущества● Версионирование и сжатие● Горизонтальное

масштабирование● Первое место по обработке

трудоемких запросов● Быстрое восстановление

после отказа● Отзывчивое community

энтузиастов● Тесная интеграция с Hadoop

HBase: недостатки● Суровая документация и

высокий порог вхождения● Заимствованная

терминология из мира SQL скорее мешает

● Надо не менее 5 узлов● Нет средств сортировки и

индексирования● Строгая согласованность без

возможности изменений

Cassandra: преимущества● Высокая доступность,

восстановление на ходу● Нет центральной точки

отказа● Datastax, Hector и все-все-все● CQL с поддержкой JOIN● Строка может динамически

раcширяться до бесконечности

● Резервное копирование не нужно

Cassandra: недостатки

● Непростая (по сравнению с Hbase) интеграция с Hadoop

● Моделирование таблиц зависит от ваших запросов● Нет ACID, нет откатов● Сложность в моделировании (необходимо сильно

поменять взгляд на моделирование данных)● Требовательная к RAM

Neo4j: преимущества● Оптимальна для

сильносвязанных сущностей● Вершины, ребра, атрибуты● Индексы на значения

атрибутов● ACID● REST API + Cypher● Множество плагинов,

включая 2d индекс

Neo4j: недостатки● Нет полноценного

горизонтального масштабирования

● Плохо приспособлен для размещения на нескольких машинах

● Для полноценного удаления приходится перезапускать сервер

Чемпионы-тяжеловесыГраф Число

вершинЧисло ребер

Объем данных на диске

Прирост в день

Web-граф 1 трлн 8 трлн 100 PB 300 TB

Facebook (граф друзей)

1 млрд 140 млрд

1 PB 15 TB

Дорожный граф Европы

18 млн 42 млн 20 GB 50 MB

Дорожный граф Омска

80 000 160 000 300 MB 500 KB

Фаза исследованияЭту фазу не стоит пропускать, ибо это единственная фаза, которая позволяет вам экономить деньги.

До ее начала необходимо ответить себе на вопросы о характере ваших данных и сформулировать требования по их использованию.

Первая развилка: связиВ вашем приложении есть сеть данных, граф знаний, а самый популярный запрос связан с обходом сложной иерархии объектов?

Вы готовы отказаться размещения на нескольких машинах?

Neo4j спешит на помощь!

Вторая развилка: BigData

Данные о достаточно большом количестве объектов, изменяющихся во времени и пространстве (движения звезд, твиты об омских зарплатах, фотки в Instagram)

Вторая развилка: BigData

Придется попрощаться с SQL и наращиванием мощности одного сервера.Впрочем и Neo4j для этого не готов

Третья развилка: простотаНужно лишь чтение/запись по ключу, безграничное масштабирование, отсутствие точек общего отказа

Между данными почти нет связей.

Riak оставляет всех позади себя, добавляя возможность MapReduce над вашими данными.

Четвертая развилка: иерархия Структура данных отличается высокой изменчивостью и большой вложенностью.

Связность отдельных сегментов данных невысока.

Riak уходит, на сцену выходит Mongo DB, кружась в смертельном танго с CouchDB.

Пятая развилка: отчеты Необходима обработка и сложная агрегация данных при помощи Hadoop.

Данные довольно плоские.

Hbase царствует безраздельно, но Cassandra наступает ей на пятки, предлагая ряд преимуществ.

О данных замолвите слово● Данные - это океан,

полный морских существ● Но пока они не выловлены,

пользы от никакой● Средство лова: удочку,

сеть, глушить гранатой или вычерпывать кастрюлей, выбираем мы сами

Список источников1. Эрик Редмонд, Джим Р. Уилсон “Семь баз данных

за семь недель”2. “A generic intro to NoSQL” by Ben Scofield.3. http://nosql-database.org/4. Исследования компании Тамтэк5. Собственные исследования

Данные - все, способ хранения - ничто!

Вопросы?