22
사례로 살펴보는 클라우드 데이터 서비스의 모든 것 이현호 부장 한국IBM Analytics 사업부

사례로살펴보는 클라우드데이터서비스의 모든것 · 온라인트랜잭션처리를위한엔터프 라이즈DBMS 실시간GEO 데이터분석 온라인트랜잭션처리를위한엔터프라

  • Upload
    others

  • View
    4

  • Download
    0

Embed Size (px)

Citation preview

Page 1: 사례로살펴보는 클라우드데이터서비스의 모든것 · 온라인트랜잭션처리를위한엔터프 라이즈DBMS 실시간GEO 데이터분석 온라인트랜잭션처리를위한엔터프라

사례로 살펴보는

클라우드 데이터 서비스의모든 것

이현호 부장

한국IBM Analytics 사업부

Page 2: 사례로살펴보는 클라우드데이터서비스의 모든것 · 온라인트랜잭션처리를위한엔터프 라이즈DBMS 실시간GEO 데이터분석 온라인트랜잭션처리를위한엔터프라

Cloudant NoSQL DB Comose for Elasticsearch Compose for etcd

JSON 데이터/이미지 저장, 검색 + Full text search + Geo Spatial 엔진 통합엔진

인덱싱 기술을 사용한 full text 검색엔진

분산환경에서 동일한 값을 공유하기 위한 key-value 저장 처리 엔진

Compose for MongoDB Compose for PostgreSQL Compose for RabbitMQ

JSON 데이터 저장, 검색 오픈소스 RDBMS 비동기 방식의 메시지큐

Compose for Redis Compose for RethinkDB dashDB

메모리에서 Key/value 를 처리하는NoSQL DB

JSON 데이터 처리에 관계형 Query 개념을 추가한 NoSQL DB

BI, DW를 위한 컬럼/MPP 기반의 분석용 RDBMS

dashDB for Transations Geosptial Analytics IBM DB2 on Cloud

온라인 트랜잭션 처리를 위한 엔터프라이즈 DBMS

실시간 GEO 데이터 분석 온라인 트랜잭션 처리를 위한 엔터프라이즈 DBMS

IBM Master Data Management on Cloud

Information Server on Cloud Informix on Cloud

마스터 데이터 관리 데이터 추출, 변환, 이동을 위한 IBMETL 솔루션

온라인 트랜잭션 처리를 위한 엔터프라이즈 DBMS

Insights for Twitter Streaming Analytics Weather Company Data

트위터 데이터 검색 처리 스트림 데이터 분석 날씨 데이터 검색

IBM Cloud Data Services

Page 3: 사례로살펴보는 클라우드데이터서비스의 모든것 · 온라인트랜잭션처리를위한엔터프 라이즈DBMS 실시간GEO 데이터분석 온라인트랜잭션처리를위한엔터프라

• Virtual Realty (VR)

• Fitness & Social (Mobile)

• Internet of Things (IoT)

• Health Care

적용 사례

Page 4: 사례로살펴보는 클라우드데이터서비스의 모든것 · 온라인트랜잭션처리를위한엔터프 라이즈DBMS 실시간GEO 데이터분석 온라인트랜잭션처리를위한엔터프라

Building a VR Data Layerwith Compose and IBM

Page 5: 사례로살펴보는 클라우드데이터서비스의 모든것 · 온라인트랜잭션처리를위한엔터프 라이즈DBMS 실시간GEO 데이터분석 온라인트랜잭션처리를위한엔터프라

• 적절한 DB와 VR 장비를 지원하는 서비스를 디자인하는 것은 복잡

• VR 게임 개발에는 다양한 요구가 존재

헤드셋 데이터의 빠른 응답, 유연성

게임 구매 시스템 지원 DB 필요

게임 데이터 분석, 사용자 인사이트

VR 데이터 처리 고려사항

게임 빠른트랜잭션 분석 센서

Page 6: 사례로살펴보는 클라우드데이터서비스의 모든것 · 온라인트랜잭션처리를위한엔터프 라이즈DBMS 실시간GEO 데이터분석 온라인트랜잭션처리를위한엔터프라

VR 데이터 처리를 위한 Layer 선택

MongoDB PostgreSQL MySQL(Beta)

Cloudant

Redis

Streams

Elasticsearch

dashDB for Transactions

dashDB for Analytics

Analytics, reporting, and

data visualization

In memory caching and near/real-time str

eaming analytics

Transactional data, strongly consistent, sys

tems of record

Operational data, eventually consistent,

mobile applications

Apache Spark

DB2 on Cloud

ScyllaDB(Beta)

ComposeServices

IBM CDSServices

게임 빠른트랜잭션 분석 센서

Page 7: 사례로살펴보는 클라우드데이터서비스의 모든것 · 온라인트랜잭션처리를위한엔터프 라이즈DBMS 실시간GEO 데이터분석 온라인트랜잭션처리를위한엔터프라

VR 데이터 처리를 위한 Layer 선택

게임 빠른트랜잭션 분석 센서

MongoDB PostgreSQL MySQL(Beta)

Cloudant

Redis

Streams

Elasticsearch

dashDB for Transactions

dashDB for Analytics

Apache Spark

DB2 on Cloud

ScyllaDB(Beta)

ComposeServices

IBM CDSServices

각요소별 VR 플랫폼을위한최적의데이터레이어선택!

Page 8: 사례로살펴보는 클라우드데이터서비스의 모든것 · 온라인트랜잭션처리를위한엔터프 라이즈DBMS 실시간GEO 데이터분석 온라인트랜잭션처리를위한엔터프라

VR 데이터 처리를 위한 Layer 선택

RabbitMQ

Redis

PostgreSQLCloudantdashDB for A

nalyticsCompose

ServicesIBM CDSServices

dashDB

Schema Discovery

비구조적데이터인 JSON을분석을쉽게하기위해

RDBMS의테이블로변환

웹 & 모바일애플리케이션

VR 해드셋IOT 센서데이터

Spark은 Cloudant에 IOT 데이터저장하기전에적절히데이터변환, 필터

수행함

Spark-Cloudant Adapter

SlackDevOps & Support

RabbitMQ 은트랜잭션의중요이벤트시데브옵스팀의 Slack 채널에 API를사용하여사전공지

AMQP

Redis 는 IOT 데이터를캐시안에저장하고Spark으로보냄

모바일앱데이터를유연하게지원하기위해

JSON 사용

모바일애플리케이션트랜잭션을위한

RDBMS 사용

RabbitMQApache Spark

Redis

Page 9: 사례로살펴보는 클라우드데이터서비스의 모든것 · 온라인트랜잭션처리를위한엔터프 라이즈DBMS 실시간GEO 데이터분석 온라인트랜잭션처리를위한엔터프라

Fitness 모바일 서비스를 제공하는 Runkeeper는 5천만 이상의 사용자를 통해 수집한 데이터를 분석하여사용자들에게 좀 더 유익한 정보를 제공하고자 합니다. IBM Cloud Data Services는 이러한 목표를 위해

다양한 측면으로 고객의 충성도와 관심을 이끌어 내는 혁신적인 서비스를 제공 합니다.

RunKeeper

Fitness 모바일앱서비스

Page 10: 사례로살펴보는 클라우드데이터서비스의 모든것 · 온라인트랜잭션처리를위한엔터프 라이즈DBMS 실시간GEO 데이터분석 온라인트랜잭션처리를위한엔터프라

Fitness 앱으로 고객 경험과 만족도 향상 회사 소개

iOS/Android 모바일 fitness 애플리케이션 개발사. 사용자 활동 가이드 및 기록

사용자가 목표를 위해 꾸준히 운동할 수 있도록 모티베이션

5천만 이상 사용자, 3 백만 경로, 200 개 이상 국가 서비스, 100 이상의 third-party 통합

비즈니스 요구사항

풍부한 데이터에 기반한 사용자를 위한 좀 더 개인화된 지원 서비스 개발

글로벌 커뮤니티를 통해 개성과 취향에 대한 상호 공유

고객 충성도를 높이고 사용량을 증가 시킴

솔루션

Cloudant - 위치 저장, 경로 추천, Graph 통합

dashDB - 사용자 데이터 분석, 새로운 서비스 출시

Watson Analytics - 소셜 데이터 분석, 커뮤니티 이해도 향상

Watson Personality Insights - 소셜 데이터 분석, 마켓 분류를 위한 개인 프로파일 생성

The Weather Company data - 날씨 데이터를 활용, 경로 추천

Page 11: 사례로살펴보는 클라우드데이터서비스의 모든것 · 온라인트랜잭션처리를위한엔터프 라이즈DBMS 실시간GEO 데이터분석 온라인트랜잭션처리를위한엔터프라

솔루션 데이터 아키텍쳐

Page 12: 사례로살펴보는 클라우드데이터서비스의 모든것 · 온라인트랜잭션처리를위한엔터프 라이즈DBMS 실시간GEO 데이터분석 온라인트랜잭션처리를위한엔터프라

IBM CDS & Development

SQL, No-SQL, Big Data, Streaming 등 다양한Application 속성에 맞는 데이터 처리 서비스를 Blumix 내에서 선택/조합 가능

Pay as You Go 또는 Bare metal 선택 가능

머신러닝/AI를 위한 Watson API 연계 가능

Watson Analytics, Cognos on Cloud, Data Science Experience등 다양한 분석 Cloud 서비스 활용

Weather Company Data, Twitter, Open Data 등을 개발 Application에 사용 가능

Page 13: 사례로살펴보는 클라우드데이터서비스의 모든것 · 온라인트랜잭션처리를위한엔터프 라이즈DBMS 실시간GEO 데이터분석 온라인트랜잭션처리를위한엔터프라

오픈 소스 DB 클라우드 서비스 Compose

IBM SoftLayer Amazon AWS

Compose는 SoftL

ayer, AWS, GCP

에서 서비스

IBM SoftLayer 에서:

IBM 관리 서비스 멀티테넌트

Amazon AWS에서:

IBM 관리 서비스 Self-Hosted 서비스 멀티테넌트

IBM Compose 플랫폼

MongoDB Redis

ScyllaDB(Beta)

PostgreSQL RethinkDB RabbitMQ

etcdElasticsearch MySQL(Beta)

Google Cloud Platform

Page 14: 사례로살펴보는 클라우드데이터서비스의 모든것 · 온라인트랜잭션처리를위한엔터프 라이즈DBMS 실시간GEO 데이터분석 온라인트랜잭션처리를위한엔터프라

모바일 앱 개발을 위한 IBM Cloudant

CouchDB 2.0JSON Storage,

API, Replication

LuceneText 인덱스

& 검색

GeoJSONGeospatial 인덱스 &

조회

Cloudant QueryDeclarative MongoDB

-style API

HAProxy로드밸런싱

Apache CouchDB 2.0

JSON Docs

Visualization / GUI

수평확장클러스터프레임워크

관리툴성능진단, 모니터, re-shard, re-balance

Cloudant 하나로 JSON, 이미지저장, 텍스트 검색, Geo 검색을활용한 Application 개발 가능

Rest API 사용

Primary Index , Incremental MapReduce를 이용한Secondary Index, Text 인덱스지원

모든 노드가 쓰기 가능한Multi-Master 클러스터

추가. 개발자를 위해 Docker hub에서 다운 받아 사용 가능한 Cloudant (무료 라이선스)

추가. Linux 서버에 직접 설치가능한 Cloudant Local (90일Trial)

Page 15: 사례로살펴보는 클라우드데이터서비스의 모든것 · 온라인트랜잭션처리를위한엔터프 라이즈DBMS 실시간GEO 데이터분석 온라인트랜잭션처리를위한엔터프라

BI 애플리케이션 개발을 위한 IBM dashDB

컴럼, 인메모리 기반으로 기존로우 기반 RDBMS 보다 수십배빠르게 분석용 쿼리를 수행하는 DBMS

노드 병렬 처리가 가능한 MPP 구성 가능

JDBC, ODBC 등 표준 인터페이스를 통한 DBMS 접근

기존 FTP, HTTP 보다 수~수십배 빠른 고속 파일 로드 서비스Aspera 내장, AWS S3/IBM Storage Object를 이용한 압축로드 지원

추가. Docker에 직접 구성 가능한 dashDB Local 출시 (Docker Hub에서 다운로드 후 90일Trial 사용)

Page 16: 사례로살펴보는 클라우드데이터서비스의 모든것 · 온라인트랜잭션처리를위한엔터프 라이즈DBMS 실시간GEO 데이터분석 온라인트랜잭션처리를위한엔터프라

CDS 데모

Cloudant Docker 설치와 샘플 애플리케이션

dashDB Docker 설치와 리포팅

Page 17: 사례로살펴보는 클라우드데이터서비스의 모든것 · 온라인트랜잭션처리를위한엔터프 라이즈DBMS 실시간GEO 데이터분석 온라인트랜잭션처리를위한엔터프라
Page 18: 사례로살펴보는 클라우드데이터서비스의 모든것 · 온라인트랜잭션처리를위한엔터프 라이즈DBMS 실시간GEO 데이터분석 온라인트랜잭션처리를위한엔터프라

날짜를 유일키로 정의 _id

Page 19: 사례로살펴보는 클라우드데이터서비스의 모든것 · 온라인트랜잭션처리를위한엔터프 라이즈DBMS 실시간GEO 데이터분석 온라인트랜잭션처리를위한엔터프라
Page 20: 사례로살펴보는 클라우드데이터서비스의 모든것 · 온라인트랜잭션처리를위한엔터프 라이즈DBMS 실시간GEO 데이터분석 온라인트랜잭션처리를위한엔터프라
Page 21: 사례로살펴보는 클라우드데이터서비스의 모든것 · 온라인트랜잭션처리를위한엔터프 라이즈DBMS 실시간GEO 데이터분석 온라인트랜잭션처리를위한엔터프라
Page 22: 사례로살펴보는 클라우드데이터서비스의 모든것 · 온라인트랜잭션처리를위한엔터프 라이즈DBMS 실시간GEO 데이터분석 온라인트랜잭션처리를위한엔터프라

Thank you