13
Антонов А.В. , Курзинер Е.С. Корпорация «Галактика» [email protected] [email protected] ОПРЕДЕЛЕНИЕ ТЕМАТИЧЕСКИ ОПРЕДЕЛЕНИЕ ТЕМАТИЧЕСКИ ЗНАЧИМЫХ ДОКУМЕНТОВ В ЗНАЧИМЫХ ДОКУМЕНТОВ В СИСТЕМЕ ГАЛАКТИКА- СИСТЕМЕ ГАЛАКТИКА- ZOOM ZOOM (АВТОРУБРИКАЦИЯ) (АВТОРУБРИКАЦИЯ)

ОПРЕДЕЛЕНИЕ ТЕМАТИЧЕСКИ ЗНАЧИМЫХ ДОКУМЕНТОВ В СИСТЕМЕ ГАЛАКТИКА- ZOOM (АВТОРУБРИКАЦИЯ)

Embed Size (px)

DESCRIPTION

ОПРЕДЕЛЕНИЕ ТЕМАТИЧЕСКИ ЗНАЧИМЫХ ДОКУМЕНТОВ В СИСТЕМЕ ГАЛАКТИКА- ZOOM (АВТОРУБРИКАЦИЯ). Антонов А.В. , Курзинер Е.С. Корпорация «Галактика» [email protected] [email protected]. Авторубрикация – автоматическая классификация документов по заранее определенным рубрикам. - PowerPoint PPT Presentation

Citation preview

Page 1: ОПРЕДЕЛЕНИЕ ТЕМАТИЧЕСКИ ЗНАЧИМЫХ ДОКУМЕНТОВ В СИСТЕМЕ ГАЛАКТИКА- ZOOM  (АВТОРУБРИКАЦИЯ)

Антонов А.В. , Курзинер Е.С.

Корпорация «Галактика»[email protected]

[email protected]

ОПРЕДЕЛЕНИЕ ОПРЕДЕЛЕНИЕ ТЕМАТИЧЕСКИ ЗНАЧИМЫХ ТЕМАТИЧЕСКИ ЗНАЧИМЫХ ДОКУМЕНТОВ В СИСТЕМЕ ДОКУМЕНТОВ В СИСТЕМЕ

ГАЛАКТИКА-ГАЛАКТИКА-ZOOMZOOM (АВТОРУБРИКАЦИЯ)(АВТОРУБРИКАЦИЯ)

ОПРЕДЕЛЕНИЕ ОПРЕДЕЛЕНИЕ ТЕМАТИЧЕСКИ ЗНАЧИМЫХ ТЕМАТИЧЕСКИ ЗНАЧИМЫХ ДОКУМЕНТОВ В СИСТЕМЕ ДОКУМЕНТОВ В СИСТЕМЕ

ГАЛАКТИКА-ГАЛАКТИКА-ZOOMZOOM (АВТОРУБРИКАЦИЯ)(АВТОРУБРИКАЦИЯ)

Page 2: ОПРЕДЕЛЕНИЕ ТЕМАТИЧЕСКИ ЗНАЧИМЫХ ДОКУМЕНТОВ В СИСТЕМЕ ГАЛАКТИКА- ZOOM  (АВТОРУБРИКАЦИЯ)

Авторубрикация – автоматическая Авторубрикация – автоматическая классификация документов по заранее классификация документов по заранее

определенным рубрикамопределенным рубрикам

Подход: фильтрация на основе Подход: фильтрация на основе векторного шаблонавекторного шаблона

Page 3: ОПРЕДЕЛЕНИЕ ТЕМАТИЧЕСКИ ЗНАЧИМЫХ ДОКУМЕНТОВ В СИСТЕМЕ ГАЛАКТИКА- ZOOM  (АВТОРУБРИКАЦИЯ)

Информационный портрет – Информационный портрет – основа технологии основа технологии

Галактика-Галактика-ZoomZoom

Набор значимых языковых Набор значимых языковых конструкций,конструкций,

КОНТЕКСТ запрашиваемой темы.КОНТЕКСТ запрашиваемой темы.

Page 4: ОПРЕДЕЛЕНИЕ ТЕМАТИЧЕСКИ ЗНАЧИМЫХ ДОКУМЕНТОВ В СИСТЕМЕ ГАЛАКТИКА- ZOOM  (АВТОРУБРИКАЦИЯ)

Центральная Центральная ПрессаПресса

1.09.20041.09.20041109 док.1109 док.480 слов 480 слов статистикстатистикии

Пример выборки документов Пример выборки документов и соответствующего инфопортретаи соответствующего инфопортрета

Пример выборки документов Пример выборки документов и соответствующего инфопортретаи соответствующего инфопортрета

Page 5: ОПРЕДЕЛЕНИЕ ТЕМАТИЧЕСКИ ЗНАЧИМЫХ ДОКУМЕНТОВ В СИСТЕМЕ ГАЛАКТИКА- ZOOM  (АВТОРУБРИКАЦИЯ)

МетодМетод: сравнение ИП (векторов) : сравнение ИП (векторов) документа и рубрики (шаблона)документа и рубрики (шаблона)

Мера близости ИПМера близости ИП: на основе : на основе скалярного произведенияскалярного произведения

УточнениеУточнение: ручная коррекция шаблона: ручная коррекция шаблона

Автоклассификатор Галактики-Автоклассификатор Галактики-ZoomZoomАвтоклассификатор Галактики-Автоклассификатор Галактики-ZoomZoom

Page 6: ОПРЕДЕЛЕНИЕ ТЕМАТИЧЕСКИ ЗНАЧИМЫХ ДОКУМЕНТОВ В СИСТЕМЕ ГАЛАКТИКА- ZOOM  (АВТОРУБРИКАЦИЯ)

1.1. Получение выборки документов Получение выборки документов (вручную и/или запрос)(вручную и/или запрос)

2.2. Автоматическое построение шаблона Автоматическое построение шаблона (ИП)(ИП)

3.3. Ручная коррекция шаблонаРучная коррекция шаблона4.4. Опытная классификация на тестовом Опытная классификация на тестовом

наборенаборе5.5. Оценка классифицированных Оценка классифицированных

документовдокументов

Процедура построения шаблона Процедура построения шаблона рубрикирубрики

Процедура построения шаблона Процедура построения шаблона рубрикирубрики

Page 7: ОПРЕДЕЛЕНИЕ ТЕМАТИЧЕСКИ ЗНАЧИМЫХ ДОКУМЕНТОВ В СИСТЕМЕ ГАЛАКТИКА- ZOOM  (АВТОРУБРИКАЦИЯ)

ПрессаПресса

1.09.20041.09.2004Отобранные Отобранные документы документы по рубрике по рубрике Алкоголизм-Алкоголизм-Наркомания Наркомания с порогом с порогом выше 50%выше 50%

Пример выборки документов Пример выборки документов и инфопортрета рубрики Алкоголизм-и инфопортрета рубрики Алкоголизм-

НаркоманияНаркомания

Пример выборки документов Пример выборки документов и инфопортрета рубрики Алкоголизм-и инфопортрета рубрики Алкоголизм-

НаркоманияНаркомания

Page 8: ОПРЕДЕЛЕНИЕ ТЕМАТИЧЕСКИ ЗНАЧИМЫХ ДОКУМЕНТОВ В СИСТЕМЕ ГАЛАКТИКА- ZOOM  (АВТОРУБРИКАЦИЯ)

ПрессаПресса

1.09.20041.09.2004Отобранный Отобранный документ по документ по рубрике рубрике Алкоголизм-Алкоголизм-Наркомания Наркомания с весом 70%с весом 70%

Пример инфопортрета документа 1 Пример инфопортрета документа 1 Пример инфопортрета документа 1 Пример инфопортрета документа 1

Page 9: ОПРЕДЕЛЕНИЕ ТЕМАТИЧЕСКИ ЗНАЧИМЫХ ДОКУМЕНТОВ В СИСТЕМЕ ГАЛАКТИКА- ZOOM  (АВТОРУБРИКАЦИЯ)

ПрессаПресса

1.09.20041.09.2004Отобранный Отобранный документ по документ по рубрике рубрике Алкоголизм-Алкоголизм-Наркомания Наркомания с весом 65%с весом 65%

Пример инфопортрета документа 2Пример инфопортрета документа 2Пример инфопортрета документа 2Пример инфопортрета документа 2

Page 10: ОПРЕДЕЛЕНИЕ ТЕМАТИЧЕСКИ ЗНАЧИМЫХ ДОКУМЕНТОВ В СИСТЕМЕ ГАЛАКТИКА- ZOOM  (АВТОРУБРИКАЦИЯ)

Оценка качества Оценка качества авторубрикацииавторубрикации

Оценка качества Оценка качества авторубрикацииавторубрикации

Рубрика Отобрано документов

алкоголизм-наркомания 25

беременность 11

диета 25

ДТП 25

жилье 3

комнатные растения 25

кошки 8

пожар 16

религия 25

Из 163 документов релевантными были признаны 134 документа, то есть 83%. Из 163 документов релевантными были признаны 134 документа, то есть 83%.

Page 11: ОПРЕДЕЛЕНИЕ ТЕМАТИЧЕСКИ ЗНАЧИМЫХ ДОКУМЕНТОВ В СИСТЕМЕ ГАЛАКТИКА- ZOOM  (АВТОРУБРИКАЦИЯ)

1. Полнота создаваемого образа.

2. Избыточность текстового материала.

3. Статистическая достоверность и устойчивость.

4. Работа в реальном времени.

Достоинства Достоинства технологии рубрицирования технологии рубрицирования

Галактика-Галактика-ZoomZoom

• Представление шаблона рубрики в виде списка значимых слов и словосочетаний.

• Быстрый просмотр контекста.

• Соединение ручного и автоматического построения шаблона рубрики.

• Быстрая готовность шаблона.

• Отсутствие лингвистической обработки.

• Работа в реальном времени.

Page 12: ОПРЕДЕЛЕНИЕ ТЕМАТИЧЕСКИ ЗНАЧИМЫХ ДОКУМЕНТОВ В СИСТЕМЕ ГАЛАКТИКА- ZOOM  (АВТОРУБРИКАЦИЯ)

ПроблемыПроблемы

Уменьшение шума. Дальнейшее уменьшение ручной

работы. Учет взаимовлияния рубрик. Интеграция с точными методами

(тезаурус).– Определение границ применимости

технологии.

Page 13: ОПРЕДЕЛЕНИЕ ТЕМАТИЧЕСКИ ЗНАЧИМЫХ ДОКУМЕНТОВ В СИСТЕМЕ ГАЛАКТИКА- ZOOM  (АВТОРУБРИКАЦИЯ)

ОПРЕДЕЛЕНИЕ ТЕМАТИЧЕСКИ ЗНАЧИМЫХ ОПРЕДЕЛЕНИЕ ТЕМАТИЧЕСКИ ЗНАЧИМЫХ ДОКУМЕНТОВ В СИСТЕМЕ ГАЛАКТИКА-ДОКУМЕНТОВ В СИСТЕМЕ ГАЛАКТИКА-

ZOOMZOOM (АВТОРУБРИКАЦИЯ) (АВТОРУБРИКАЦИЯ)

ОПРЕДЕЛЕНИЕ ТЕМАТИЧЕСКИ ЗНАЧИМЫХ ОПРЕДЕЛЕНИЕ ТЕМАТИЧЕСКИ ЗНАЧИМЫХ ДОКУМЕНТОВ В СИСТЕМЕ ГАЛАКТИКА-ДОКУМЕНТОВ В СИСТЕМЕ ГАЛАКТИКА-

ZOOMZOOM (АВТОРУБРИКАЦИЯ) (АВТОРУБРИКАЦИЯ)

Благодарю Благодарю за вниманиеза внимание

Антонов А.В. начальник отдела поисковых систем «Галактика»e-mail: [email protected];

тел. 797-6171

Демо-сайт http://zoom.galaktika.ru

Демо-сайт http://zoom.galaktika.ru