28
Высшая школа экономики, Москва, 2013 www.hse.ru Радченко Ирина Алексеевна кандидат технических наук, доцент http://about.me/Irina.Radchenko http://iRadche.ru Предварительная подготовка данных к публикации и оценка качества открытых данных

Предварительная подготовка данных к публикации и оценка качества открытых данных

Embed Size (px)

DESCRIPTION

Предварительная подготовка данных к публикации и оценка качества открытых данных 30.10.2013

Citation preview

Page 1: Предварительная подготовка данных к публикации и оценка качества открытых данных

Высшая школа экономики, Москва, 2013

www.hse.ru

Радченко Ирина Алексеевна кандидат технических наук, доцент http://about.me/Irina.Radchenko http://iRadche.ru

Предварительная подготовка данных к публикации и оценка качества открытых данных

Page 2: Предварительная подготовка данных к публикации и оценка качества открытых данных

2

Валидация и очистка наборов данных

Одна из важных проблем при публикации наборов данных –

наличие ошибок

Page 3: Предварительная подготовка данных к публикации и оценка качества открытых данных

3

Типичные ошибки в наборах данных

1. Смешивание различных форматов (временных, географических и т.д.)

Page 4: Предварительная подготовка данных к публикации и оценка качества открытых данных

4

Типичные ошибки в наборах данных

2. Различное представление одних и тех же значений (г., гор., город)

Page 5: Предварительная подготовка данных к публикации и оценка качества открытых данных

5

Типичные ошибки в наборах данных

3. Дублирование записей

Page 6: Предварительная подготовка данных к публикации и оценка качества открытых данных

6

Типичные ошибки в наборах данных

4. Использование разных размерностей

Page 7: Предварительная подготовка данных к публикации и оценка качества открытых данных

7

Типичные ошибки в наборах данных

5. Ошибки аббревиатур

Page 8: Предварительная подготовка данных к публикации и оценка качества открытых данных

8

Решение – использование инструментария для очистки данных

Open Refine

Page 9: Предварительная подготовка данных к публикации и оценка качества открытых данных

9

Бесплатное программное обеспечение

Совместим со всеми браузерами

Существует возможность работать в оффлайне

Нет необходимости в пересылке данных по интернету

Существует возможность работать с историей внесенных изменений

Существует возможность визуализации различных характеристик наборов данных

Существует возможность работать с данными различных машиночитаемых форматов

Преимущества Open Refine

Page 10: Предварительная подготовка данных к публикации и оценка качества открытых данных

10

Инструментарий для очистки данных

Page 11: Предварительная подготовка данных к публикации и оценка качества открытых данных

11

Очистка данных

Page 12: Предварительная подготовка данных к публикации и оценка качества открытых данных

12

Очистка данных

Page 13: Предварительная подготовка данных к публикации и оценка качества открытых данных

13

Очистка данных

Page 14: Предварительная подготовка данных к публикации и оценка качества открытых данных

14

Очистка данных

Page 15: Предварительная подготовка данных к публикации и оценка качества открытых данных

15

Очистка данных

Page 16: Предварительная подготовка данных к публикации и оценка качества открытых данных

16

Очистка данных

Page 17: Предварительная подготовка данных к публикации и оценка качества открытых данных

17

Очистка данных

Page 18: Предварительная подготовка данных к публикации и оценка качества открытых данных

18

Очистка данных

Page 19: Предварительная подготовка данных к публикации и оценка качества открытых данных

19

Источник: https://theodi.org/

Сертификация открытых данных

Page 20: Предварительная подготовка данных к публикации и оценка качества открытых данных

20

Источник: https://certificates.theodi.org/

Сертификация открытых данных

Page 21: Предварительная подготовка данных к публикации и оценка качества открытых данных

21

Источник: https://certificates.theodi.org/about

Сертификация открытых данных

Page 22: Предварительная подготовка данных к публикации и оценка качества открытых данных

22

Источник: https://certificates.theodi.org/about

Сертификация открытых данных

Page 23: Предварительная подготовка данных к публикации и оценка качества открытых данных

23

Источник: https://certificates.theodi.org/about

Сертификация открытых данных

Page 24: Предварительная подготовка данных к публикации и оценка качества открытых данных

24

Источник: https://www.gov.uk/government/publications/open-data-charter/g8-open-data-charter-and-technical-annex

Хартия G8 открытых данных

Page 25: Предварительная подготовка данных к публикации и оценка качества открытых данных

25

Источник: http://census.okfn.org

Глобальная Перепись открытых данных

Page 26: Предварительная подготовка данных к публикации и оценка качества открытых данных

26

Источник: http://blog.okfn.org/2013/10/28/government-data-still-not-open-enough/

Глобальная Перепись открытых данных

Page 27: Предварительная подготовка данных к публикации и оценка качества открытых данных

27

Источник: http://census.okfn.org/country/

Глобальная Перепись открытых данных

Page 28: Предварительная подготовка данных к публикации и оценка качества открытых данных

http://iRadche.livejournal.com/

https://www.facebook.com/iRadche

@iRadche

http://www.slideshare.net/iRadche

Спасибо за внимание! http://iRadche.ru

http://about.me/Irina.Radchenko