전사데이터품질관리시스템을통한 데이터품질향상사례 ...전사데이터품질관리시스템을통한 데이터품질향상사례 2004. 12.15 KT 발표자: 홍기선

전사 데이터품질관리시스템을 통한데이터 품질향상 사례

2004. 12.15

KT발표자: 홍기선

2/21Copyright ⓒ 2004 KT All rights reserved.

목목 차차

I. 데이터 식스 시그마

II. 데이터품질관리시스템(DQM)

III. 데이터 품질관리 체계 정의


데이터 식스 시그마

식스 시그마를 활용한 데이터 품질 관리는 사후 정비를 통한 품질 개선과 더불어 데이터 품질의 원인인 개발 및 업무 프로세스의 개선에 기반한 사전적 품질 저하의 방지를 통하여 지속적으로 데이터 품질을 관리하는 방안이다.

데이터 품질 관리를 위한 식스 시그마 활용 가이드 데이터 식스 시그마

• 식스 시그마는 제조산업의 Quality Assurance에서출발한 것으로, 통계적 기법을 활용한 오류 발생률을 감소시키고, 프로세스 개선을 통한 점진적 품질을 제고하고자 하는 것임

• 사후적 조치로서의 데이터 정제와 함께 사전적으로데이터 정의 및 개발 프로세스의 개선을 추진

• 데이터 품질 관리를 위한 6Sigma 적용 방향

• KT의 데이터 품질 관리 체계를 식스 시그마 기반의데이터 식스 시그마로 구현

• 데이터 품질 수준에 대한 정량화와 이를 통한 개선및 관리 수행

Definition Quality

Contents Quality

•개발 프로세스의 문제로 인하여 유발

•데이터 표준화 및 관리 체계를 통하여 개선

•영업,시설,경영 등의 업무 프로세스/시스템과 관련

•업무 규칙에 적용 및 개선을 통하여 개선

프로세스

지표

조직

경영 •경영 과제 및 데이터 품질간의 연계

•품질 제고의 주요 수단이 프로세스 개선

•평균 성과 기준에서의 편차 관리

•품질에 대한 마인드 제고

Data

Quality

데이터

품질

관리

체계

및시스템

품질 관리 DB

정의(Define)

측정(Measure)

관리(Control)

개선(Improve)

분석(Analyze)

-데이터 정비의 사후적 개선 및 개발/업무 프로세스 개선을 통한 사전적개선 수행

-경영 관점에서 중요한 CTQ 데이터

및 지표 정의

-유형별 가중치 및 목표 수준 설정

-원천 데이터, 표준 오류 데이터 및ETT 오류 데이터의 대상 데이터에 대하여 수집 및 측정 수행

-오류 데이터 발생 추세, 유형별,

원인별 분포 등을 분석

-개선 결과에 대한 평가 및 모니터링을 통한 독려와 관리 수행


데이터 식스 시그마 - 정의

정의 단계에서는 이후 단계의 품질 관리에 대한 기반 작업으로서, 측정 대상의 데이터를 정의하고, 데이터 품질에 대한 요건을 정의하며, 이에 기반한 데이터 품질 평가에 대한 업무 규칙 및 지표를 개발한다.

• 주요 시스템의 핵심 테이블 및 컬럼 중심으로 선정하여 컬럼 단위로 관리

• CTQ는 데이터 오너부서,시스템운용부서의 요구로 반영하며 업무규칙에 의한 평가규격이시스템에 구현됨으로써 품질관리 됨

• CTQ 데이터에 공통 적용하여, 시스템 및

핵심 정보 영역별 품질 측정의 기준이 됨

• Table 관련 지표, Column 관련 지표

그리고 특정 지표로 구분

품질 관리 대상 정의품질 측정 지표 (Data Quality Index) 설정

• 선정된 CTQ 데이터 항목을 DQI

지표별 측정을 위한 규격서 작성

• 각 CTQ 데이터항목별로 고유한 값을 가짐

품질 평가 규격서 작성

MetricsCategory

MetricsCategory

Metrics

Attribute

Metrics

Attribute Attribute Attribute

Metrics

Data Item Data Item Data Item Data Item Data Item

•유연성 제고를 위한 다차원/계층 구조의

DQI 지표 체계

•MDR을 통한 DQI 지표 체계의 메타데이타 관리


데이터 식스 시그마 - 정의DQI 지표

DQI 지표는 시스템 구축에 앞서 DQI지표 정의 단계에서 완전성, 유효성, 유일성, 일관성, 명확성의 총 5개의 기준과 하위 16개의 세부 유형으로 정의하였다. 데이터 품질 관리 시스템에서는 정의된 DQI 지표에 따라 데이터품질현황의 측정 및 평가를 수행한다.

DQI 기준 DQI 세부 유형 단위 항목

값이 항상 채워져 있어야 한다. 컬럼

값이 다른 데이터 항목의 조건에 따라 채워져야 한다.

값이 모든 업무 규칙을 준수해야 한다.

해당 데이터 항목은 유일해야 하며 중복되어서는 안 된다.

시간적인 선후관계를 준수해야 한다.

계산/집계된 결과 관계를 준수해야 한다.

동일한 Identifier에 대하여 상세 정보가 일치해야 한다.

기간계 참조무결성 기간계 기준의 상호 참조 관계를 준수해야 한다. 특정

EDW 기준의 상호 참조 관계를 준수해야 한다.

시스템 간 데이터 항목이 일치해야 한다.

코드성 데이터 항목은 별도 정의되어 관리해야 한다.

하나의 데이터 항목은 하나의 의미로 사용해야 한다.

엔티티 간의 다대다 관계를 명확하고 쉽게 표현해야 한다.

코드성 데이터 항목은 코드 표준을 준수해야 한다.

각 개체는 메타데이터 개체 표준을 준수해야 한다.

각 항목은 메타데이터 항목 표준을 준수해야 한다.

컬럼

컬럼

테이블

특정

계산 집계 일관성 특정

특정

특정

특정

시스템

시스템

시스템

컬럼

시스템

표준 항목 준수도 테이블

단독 완전성완전성(Completeness)

값이 채워져 있어야 한다.조건 완전성

유효성(Validity)

값이 모든 업무 규칙을 준수해야 한다.

업무규칙 유효성

유일성(Uniqueness)

해당 데이터 항목은 유일해야하며 중복되어서는 안 된다.

유일성

시간순서 일관성

상세 정보 일관성

EDW 참조무결성

데이터 정합도

미정의 코드

복합필드

다대다 표현

표준 코드 준수도

표준 개체 준수도

명확성(Comprehensiven

ess)

데이터 모델 및 정책에 대한정의, 설명 등이 명확하게 존재하여 의미의 혼동이 없어야한다.

일관성(Consistency)

값이 다른 데이터 항목과 모순되지 않아야 한다.


데이터 식스 시그마 - 정의CTQ 데이터

CTQ 데이터 대상 선정은 개별 데이터의 프로세스, 시장, 재무 및 최종 사용자에 미치는 영향도를 기준으로 진행되었으며, 향후 CTQ 및 핵심 정보 영역의 추가 및 변경은 데이터 품질 관리 오너 부서 및 시스템 담당자 들과의 협의를 통해 확장 가능하다.

기준 고려 사항 예시

CTQ 데이터

항목 도출

CTQ 데이터

항목 도출

•해당 데이터의 업무 프로세스상 중요성•업무 하위 프로세스에 미치는 중요도•데이터 변경에 따른 하위 프로세스 변경도•데이터 변경에 따른 시스템 변경 영향도

프로세스 영향도

•고객•계약•주소/건물•인사정보 …

시장(Market) 영향도•데이터의 법적 리스크•정부 규제 영향도•경쟁사 현황 및 시장 현황 영향도

•고객•계약•경쟁사정보 …

재무 영향도•재무적 관점에서 관리가 필요한 데이터•매출/원가 등 각 부서별 상이한 관점에 의해관리가 필요한 데이터

•매출•원부정보 …

최종 사용자 영향도•고객 서비스 리스크가 큰 데이터•최종 사용자의 의사 결정에 중대한 데이터•마케팅 관점에서 관리가 필요한 데이터

•고객•상품•마케팅 정보 …


데이터 식스 시그마 - 정의품질평가규격

CTQ데이터의 품질평가규격은 선정된 CTQ 데이터항목의 데이터품질 현황을 DQI 지표 별로 측정하기 위한 측정 방법으로써, 각 CTQ

데이터항목별로 고유한 값을 가진다. 담당자들이 작성한 품질평가규격은 데이터품질관리시스템에서 SQL로 자동 변환되어 데이터품질측정에 사용된다.

Business Rule

업무 담당자들이 알고 있는

Business Rule 조사

Business Rule

업무 담당자들이 알고 있는

Business Rule 조사

MetaData

각 CTQ 데이터 항목의

메타정보 활용

MetaData

각 CTQ 데이터 항목의

메타정보 활용

데이터표준

데이터 표준에 대한 준수

여부

데이터표준

데이터 표준에 대한 준수

여부

Sample


데이터 식스 시그마 - 측정

EDW에 수집된 소스 시스템의 원천 데이터를 기준으로 품질을 측정하며, 품질 측정은 정의 단계의 평가 대상 및 규격을 기준으로 구현된 데이터 품질관리 시스템을 통하여 자동으로 수행되어, 그 결과는 품질 관리 DB에 축적된다.

•측정은 기본적으로 대상 데이터 전체로 수행하며, 레거시 시스템의 원천데이터를 EDW의 수집 영역에서 측정하고 ETT 오류 및 표준 위배 관련 오류를 포함한 품질측정 결과 데이터를 분석 단계에서 활용함

• 대상 데이터를 정의된 품질 평가 규격에 따라 Test Script를 작성하여, 이를 데이터 품질관리시스템에 등록하여 자동 실행함

• 측정된 결과는 품질 관리 DB에 Log로 기록되며 이 Table LOG는 원천데이터 품질오류,ETT 오류 및 표준 오류 데이터 형식과Compatible하며 다음의 정보를 포함 함

- Test 내용 기술- 대상 수집 일자 및 측정 일자- 대상 데이터 정보 (소스 시스템, 테이블 등)- 측정 기준 (Filtering Rule Set) 별 결과

소스A

소스B

소스C

통합 요약수집

데이터품질관리시스템

(DQM)

품질 관리 DB

MDR변환/정제, 품질

규칙

원천 데이터 품질 측정

표준 위배 오류

ETT

ETT 오류

표준데이터관리시스템

(SDM)

표준 Tracking

원천 데이터 오류


데이터 식스 시그마 - 분석

원천 데이터에 대한 지표 별 측정 결과와 함께, MDR의 표준 데이터에 따른 기간계 트래킹 결과, 그리고 EDW의 정제 오류 데이터를분석하며 과거 누적 데이터와 함께 현 측정 결과를 다양한 기준 및 통계적 기법을 활용한 분석을 위하여 다차원 구조의 분석 DB를구성한다.

측정 결과 DB

기준 및유형

DQ Star

시스템

대상데이터

측정일자

DQI

…error 건수

측정 결과 분석 DB (DQStar)

정의된 정제 규칙에 위배되는 ETT 오류 데이터

MDR 표준 데이터 기준의 기간계Tracking 결과

측정 결과의 분석을 위한데이터 변환 및 로딩

분석 리포트

• DQStar를 기준으로 다양한 관점에서

측정 결과에 대한 리포트 생성

• 오류데이터 유형별, 원인별 분석

• 유형별, 시스템별, 지역별 관리자료

작성

• 오류원인 누적관리, 중복오류관리

• 유형별, 원인 별 오류 통계 처리

( 추세, 분포, 상관관계 등 분석 )

• 데이터 오류 유형별, 조건별 자료 제

공 (통계적 표현 방법에 의한 자료 표

현 구현 )

• 통계 처리 및 분석 결과 검색

공통 Format변환


데이터 식스 시그마 - 개선 (정비)

저품질의 데이터를 EDW를 중심으로 사후적으로 정제하는 활동과 함께, 개발 프로세스 및 업무 프로세스 (또는 업무용 프로그램)에대한 개선을 수행하여 저품질 데이터의 원인을 제거하여 데이터 품질 저하를 사전에 방지하는 것이 중요하다.

데이터 정비 방안수립 및 제시

시스템 별 데이터정비 추진

정비 대상 선정 및우선순위 부여

업무처리부문의 표준화

대상 시스템의기준 및 표준데이터 활용

대상 시스템의데이터 정제

사전적 개선 활동 영역 사후적 개선 활동 영역

프로세스/어플리케이션

을 개선함으로써 품질

원인 제거대상 시스템의 데이터를

정비

데이터 품질 기여도

어려움

정비의용이성

쉬움낮음높음

DQI 지표 정의 단계에서 설정한 “품질기여도”를

측정하여 데이터 품질 측면에서 기여도가 높은 분

야를 우선적으로 정비

TIMS 빌딩DB고객ID통합DB

TIMS:고객 ICIS:주소

ANSWERS

TIMS:주소

DELMONS

경영계영업계

시설계

EDW:주소

전사 시스템

연동/통합시스템

CRM 관련시스템

Sample


데이터 식스 시그마 – 개선 (정비) 결과 평가

저품질 데이터에 대한 데이터 개선 활동에 대한 모니터링 및 성과 평가를 통하여, 지속적으로 고품질의 데이터를 유지하게 되며, 이를 위하여 전체 데이터 품질에 대한 조망과 과거의 추이를 조망할 수 있는 Data Quality Map과 Spider Map은 데이터 품질에 대한 관련 경영층 및 실무부서와의 Communication 및 성과 평가를 위한 도구로서 활용된다.

구성요소

예시

DQ = .3*dCR+.3*dCM+02*dCS+.2*dCP

정확성

명확성 완전성

일치성

4

65

3

Spider Map

세부구성요소

DQI

Data Quality Map

Data Quality

입력오류

중복코드오류

계산/집계

오류

다대다표현

복합필드

미정의코드

참조무결성 위배

이름/주소

불일치

코드사용비일관성

기간계미존재데이타

누락된필드

누락된레코드

대상 데이터별 DQI

정확성 (dCR) 명확성 (dCM) 일관성 (dCS) 완전성 (dCP)

• 전체 데이터 품질 현황을 한눈에 조망할 수 있어, 경영층의 데이터 품질 수준에 대한 총괄적 이해 및 지속적 관심을 유도할 수 있음

• 각 구성요소들의 값들을 합하여 산정된 하나의 DQ 값으로부터, 개별 시스템 및 기관별 세부 평가 결과를 조회할 수 있음

• 설정된 베이스라인을 기준으로 한

추이 분석 및 비교 평가

• 사전/사후 측정결과 대상 시스템 별누적 분석 자료 주기적 비교 평가

• DQI 수준 시스템 별, 조직 별 평가

• 정비율 시스템 별, 조직 별 평가

• 평가 결과 자료 제공

4.54

4.5

5


데이터 품질관리 시스템 (DQMS) 구축

데이터 품질관리 시스템은 웹 기반의 커뮤니케이션 포털 형태로 지표 및 대상 관리, 데이터 수집 및 측정의 자동화 기능, 다양한 기준의 품질 평가 결과 분석 등을 포함하며 이를 활용하여 데이터품질관리 체계에 기반한 데이터 품질 관리 활동을 추진한다.

게시판 및 QnA

공지 기능 제공

사용자 및 권한 관리

DQI 지표 관리

CTQ 정보 관리

평가규격 자동 생성

가중치/목표수준 관리

평가규격서 조회 지표별/시스템별/

기관별 조회

현황 및 이력 조회

오류데이터 저장

파일 받기 및 출력

월주기 데이터 품질 자동 측정

Job Scheduler를 통한

작업 관리

수동 측정 입력 관리

측정 결과 집계 및 저장

분석 및 평가

수집 및 측정

DQI 관리

사용자 포털


데이터 품질관리 시스템 (DQMS) 정의

담당자들이 작성한 품질평가규격은 데이터품질관리시스템에서 SQL로 자동 변환되어 데이터품질 측정에 사용된다.

품질평가규격 작성

데이터품질 평가규격 작성

측정방법 등록

SampleDQS의 CTQ 측정방법 등록

기능

SQL로 자동 변환

DQM에서 월 주기 자동 측정


데이터 품질관리 시스템 (DQMS) 정의

CTQ데이터 정의

•SQL문의 구현을 자동 생성함•복잡한 로직의 경우, SQL 직접 입력또는 별도 배치 프로그램을 작성하여연동하도록 함

•로직 구현을 위한 다양한 연산자 제공•대상 및 참조값을 연동하기 위하여 데이터표준관리 시스템의 메타데이터 활용

Sample


데이터 품질관리 시스템 (DQMS) 분석

•막대/꺾은선 그래프를 통하여현황 및 이력의 추이 파악

OLAP Tool을 연동하여, 현황/이력별, 시스템별/조직별 등 다양한 분석 관점 및 통계적 표현방법을 제공한다.

•다양한 관점의 데이터품질수준 차트 조회

Sample


데이터 품질관리 시스템 (DQMS) 분석

데이터 품질 관리를 위하여 식스 시그마 개념을 활용하여, 사후 정비를 통한 품질 개선과 더불어 데이터 품질의 원인인 개발 및 업무 프로세스의 개선에 기반한 사전적 품질 저하의 방지를 통하여 지속적으로 데이터 품질을 관리한다.

•데이터 품질 현황의 시그마수준별 표현

Sample


데이터 품질관리 시스템 (DQMS) 평가

정비 대상 데이터를 선정하고 이에 대한 정비율 현황 및 이력을 시스템/조직별로 관리하며, 현업 담당자들이 이를 확인하고오류데이터를 파일로 확인할 수 있도록 하여 데이터 정비 활동을 수행하게 한다.

•데이터 정비 현황 및 이력 관리

•데이터 품질 오류 데이터 제공

Sample


데이터 품질관리 체계 정의

데이터 품질 관리 프로세스는 대상 데이터 정의, 데이터 품질 측정, 품질 평가 및 분석, 데이터 품질 개선, 데이터 품질 관리 및 유지 단계로 구분된다. 데이터 품질 관리 프로세스가 효율적이고 효과적으로 운영되기 위한 조직의 책임 및 역할, 상세 절차는 데이터관리체계에서 정의한다.

생성 수정/변경 폐기

1) 대상 데이터 정의Define

3) 품질 평가 및 분석Analyze

2) 데이터 품질 측정Measure

4) 품질 개선Improve

모니터링리포팅

개선 수행

개선 피드백

5) 관리 및 유지Control

승인 변경

: 품질관리시스템이 지원

: 업무 절차에 의해 수행

측정 준비

측정



데이터 식스 시그마의 구현 및 수행을 위한 조직의 역할/책임, 기본 정책 및 절차 등을 정의함

•데이터 식스 시그마에 기반한 데이터 품질 관리 절차의 수립

•데이터 표준 관리 절차와의 연계하여

정보 가치사슬 정의

•정의->측정->분석->평가->관리의 세부

활동 기술서 작성

•데이터 식스 시그마에 기반한 데이터 품질 관리 절차의 수립

•데이터 표준 관리 절차와의 연계하여

정보 가치사슬 정의

•정의->측정->분석->평가->관리의 세부

활동 기술서 작성

정책/지침

절차

역할/책임

데이터관리위원회 •데이터 품질과 전사 비즈니스

전략과의 연계

데이터오너조직

데이터관리조직

데이터운영조직

•데이터 표준 및 품질의 구현 및적용

데이터스튜어드

•표준, 업무 규칙, 지표 개발•표준/품질 준수 여부 감시의 데이타 통제 기능 수행

DQ 전문가•데이터 품질 관리 방법론 및 체계 관리

데이터관리자•데이터 품질 괸리 및 데이터 품질의 원인 분석/클린징 수행 등

CIOCIO

데이터

스튜어드

데이터 관리 조직

DQ

전문가

데이터 오너 조직 데이터 운영 조직

경영진(Executive)

경영진(Executive)

의사결정(Executive)

레벨

의사결정(Executive)

레벨

운영(Operating)

레벨

운영(Operating)

레벨

데이터관리 위원회데이터관리 위원회

데이터오너 시스템데이터

관리자

•“데이터 품질 관리 정책, 지침은 데이터 품질위원회를 통해관리/감독 되어야 한다”

- 주기적인 리포팅, DQI 스코어카드, 데이터 품질 준수 & 보고서 등

을 통해 관리/감독됨.

•“데이터 품질 프로그램의 적용을 위해서 데이터 품질 측정

지표가 개발되어야 한다”- 데이터 스튜어드가 지표 개발을 관장하고, 주기적인 측정 보고서를제출하며, 데이터 오너는 이에 대한 수용 여부와 개선을 제시함.



데이터 품질 관리를 효과적으로 수행하기 위해서는 품질 관리 수행 조직을 구성하고 각 구성 조직 별 역할 및 책임이 구체적으로 정의되어야 함

대상 정의 해당 부서 주요 역할

데이터품질위원회

데이터 품질 관리를 전사적 차원에서 운영및 관리하며 데이터 품질 관리 정책, 지침, 프로세스 수립 및 운영에 필요한 최상위

의사 결정 기관

중요 품질 관리 대상을 선정하고, 지속적인모니터링과 전사적 데이터 품질 개선의 실행력을 갖는 업무 주관부서, 시스템 별 품질개선 주도 조직(본사/사업부서)

품질 측정 결과에 따른 정비 수행 담당자로서 목표에 따른 데이터 정비 주체

데이터 품질 관리의 전반적인 활동을 주관하는 상시 조직으로, 데이터 품질 관리 운영자와 DQS 운영자로 구성됨

기간계 시스템 별 CTQ / 핵심 정보 영역관리 및 상세 평가 규칙 작성

기준정보 및 메타데이터 현행화

IT 본부장본사/사업부장

-품질 관리 정책, 지침 및 프로세스 관련 최상위 의사 결정 기관

-품질 관리 감사 및 측정 결과 관련 최상위의사 결정

데이터 품질 관리오너 (Owner) 부서

본사 / 사업부서데이터 품질 담당자

-CTQ 항목 정의-CTQ 항목 별 가중치/목표수준정의-데이터 품질 모니터링-데이터 품질 개선 실행 추진

데이터 품질 현업담당자

현업 지역본부데이터 품질 담당자지사 및 지점 소속데이터 품질 담당자

-데이터 품질 개선 활동 수행(현장 실사 정비)-데이터 품질 유지(데이터 입력 시 표준 및규칙 준수)

데이터 품질관리 부서

데이터 표준부품질 담당자DQM 운영 부서

-데이터 품질관리 업무 총괄-DQI 지표/CTQ/핵심 정보 영역 관리-데이터 품질 개선을 위한 리포팅-부서별 오류 데이터 제공-데이터 품질 이슈 파악 활동-요청 사항 시스템 반영

데이터 품질 기간계시스템 개발/운용부서

IT 본부 /시스템관련 부서기간계시스템담당자

-시스템 내 생성/변경된 CTQ별 평가규격 정의 및 반영

-데이터 품질 개선 활동 수행(시스템적 정비)


데이터 품질관리 프로세스

데이터 품질 관리를 위한 조직을 의사결정 레벨과 운영 레벨로 크게 구분하여 전사적 또는 개별 시스템의 품질 이슈를 종/횡적으로처리할 수 있도록 함

의사결정

레벨

의사결정

레벨

운영

레벨

운영

레벨

평가 (Control)

정의

(Define)

측정

(Measure)

분석

(Analyze)

개선

(Improve)

데이터관리

위원회

데이터오너

조직

데이터관리

조직

데이터운영

조직

CTQ정의

전사레벨 CTQ

업무 CTQ

전사 레벨의

품질측정

시스템 단위의

품질측정

입력단 분석

Root Cause리뷰

데이터Flow분석

입력단 분석

오류원인 분석

사용자 교육

Root Cause개선

데이터 Flow개선

프로세스 개선

데이터 정제

데이터 표준 메타데이터 데이터품질 현황/이력

의사결정레벨

운영레벨

DQI정의

완전성

유효성

유일성

일관성

명확성


Documents

전사데이터품질관리시스템을통한 데이터품질향상사례 ...전사데이터품질관리시스템을통한 데이터품질향상사례 2004. 12.15 KT 발표자: 홍기선