69

Настоящее и будущее рекомендательных систем. Михаил Ройзнер

  • Upload
    yandex

  • View
    158

  • Download
    5

Embed Size (px)

DESCRIPTION

Настоящее и будущее рекомендательных систем

Citation preview

Page 1: Настоящее и будущее рекомендательных систем. Михаил Ройзнер
Page 2: Настоящее и будущее рекомендательных систем. Михаил Ройзнер

Настоящее и будущее рекомендательных систем

Михаил Ройзнер

Page 3: Настоящее и будущее рекомендательных систем. Михаил Ройзнер

amazon.com 3

Page 4: Настоящее и будущее рекомендательных систем. Михаил Ройзнер

foursquare.com 4

Page 5: Настоящее и будущее рекомендательных систем. Михаил Ройзнер

facebook.com 5

Page 6: Настоящее и будущее рекомендательных систем. Михаил Ройзнер

Ты помнишь, как всё начиналось…

Page 7: Настоящее и будущее рекомендательных систем. Михаил Ройзнер

7

Page 8: Настоящее и будущее рекомендательных систем. Михаил Ройзнер

Netflix Prize

〉 2006–2009

〉 100 млн оценок

〉 Задача: улучшить качество предсказания оценки пользователя на 10%

〉 $1 000 000

netflixprize.com 8

Page 9: Настоящее и будущее рекомендательных систем. Михаил Ройзнер

Похожим пользователям — похожие фильмы

9

Page 10: Настоящее и будущее рекомендательных систем. Михаил Ройзнер

Похожим пользователям — похожие фильмы

9

Стражигалактики

Вася ?

Page 11: Настоящее и будущее рекомендательных систем. Михаил Ройзнер

Похожим пользователям — похожие фильмы

9

Стражигалактики

Вася ?

Катя

Люди Икс

Мстители Железный человек

Капитан Америка

Света

Маша

Петя

4

3

5

5

4

4

5

4

5

4

4

4

4

4

5

5

5

4

3 5

Page 12: Настоящее и будущее рекомендательных систем. Михаил Ройзнер

Похожим пользователям — похожие фильмы

9

Стражигалактики

Вася

Катя

Люди Икс

Мстители Железный человек

Капитан Америка

Света

Маша

Петя

4

3

5

5

4

4

5

4

5

4

4

4

4

4

5

5

5

4

3 5 4.6

Page 13: Настоящее и будущее рекомендательных систем. Михаил Ройзнер

Singular Value Decomposition (SVD)

10

≈Use

rs

Movies

×Use

rs

Movies

d

d

U IR

Page 14: Настоящее и будущее рекомендательных систем. Михаил Ройзнер

Композиции алгоритмов

11

User-based Item-based SVD RBM

X

k

↵kfk

Page 15: Настоящее и будущее рекомендательных систем. Михаил Ройзнер

netflixprize.com 12

Page 16: Настоящее и будущее рекомендательных систем. Михаил Ройзнер

netflixprize.com 12

Page 17: Настоящее и будущее рекомендательных систем. Михаил Ройзнер

netflixprize.com 12

Page 18: Настоящее и будущее рекомендательных систем. Михаил Ройзнер

Выводы из Netflix Prize

13

Page 19: Настоящее и будущее рекомендательных систем. Михаил Ройзнер

Выводы из Netflix Prize

〉 Новые методы, такие как SVD и RBM, работают лучше стандартных корреляционных моделей.

13

Page 20: Настоящее и будущее рекомендательных систем. Михаил Ройзнер

Выводы из Netflix Prize

〉 Новые методы, такие как SVD и RBM, работают лучше стандартных корреляционных моделей.

〉 Алгоритмы можно объединять в композиции.

13

Page 21: Настоящее и будущее рекомендательных систем. Михаил Ройзнер

Выводы из Netflix Prize

〉 Новые методы, такие как SVD и RBM, работают лучше стандартных корреляционных моделей.

〉 Алгоритмы можно объединять в композиции.

〉 Самые точные методы оказались слишком сложны для масштабирования и внедрения.

13

Page 22: Настоящее и будущее рекомендательных систем. Михаил Ройзнер

Выводы из Netflix Prize

〉 Новые методы, такие как SVD и RBM, работают лучше стандартных корреляционных моделей.

〉 Алгоритмы можно объединять в композиции.

〉 Самые точные методы оказались слишком сложны для масштабирования и внедрения.

〉 Качество рекомендаций зависит не только от качества предсказания оценок, но и от других характеристик.

13

Page 23: Настоящее и будущее рекомендательных систем. Михаил Ройзнер

Качество рекомендаций

Page 24: Настоящее и будущее рекомендательных систем. Михаил Ройзнер

RMSE

Метрика

http://research.microsoft.com/pubs/115396/evaluationmetrics.tr.pdf 15

Page 25: Настоящее и будущее рекомендательных систем. Михаил Ройзнер

RMSE

Метрика

http://research.microsoft.com/pubs/115396/evaluationmetrics.tr.pdf 15

Page 26: Настоящее и будущее рекомендательных систем. Михаил Ройзнер

RMSE

Метрика

http://research.microsoft.com/pubs/115396/evaluationmetrics.tr.pdf 15

NDCG Precision/Recall

Page 27: Настоящее и будущее рекомендательных систем. Михаил Ройзнер

Оригинальность

Властелин колец

16

Крестный отецМатрица

Page 28: Настоящее и будущее рекомендательных систем. Михаил Ройзнер

Разнообразие

iPhone 6 Black 64Gb

17

iPhone 6 Silver 64GbiPhone 6 Black 16Gb

Page 29: Настоящее и будущее рекомендательных систем. Михаил Ройзнер

Новизна

Doom

18

Age of EmpiresCarmagedon

Page 30: Настоящее и будущее рекомендательных систем. Михаил Ройзнер

Доверие

19

Три неизвестных альбома

Page 31: Настоящее и будущее рекомендательных систем. Михаил Ройзнер

Объяснение рекомендаций

Page 32: Настоящее и будущее рекомендательных систем. Михаил Ройзнер
Page 33: Настоящее и будущее рекомендательных систем. Михаил Ройзнер
Page 34: Настоящее и будущее рекомендательных систем. Михаил Ройзнер
Page 35: Настоящее и будущее рекомендательных систем. Михаил Ройзнер
Page 36: Настоящее и будущее рекомендательных систем. Михаил Ройзнер

SVD помогает объяснять рекомендации

22

sim(i1, i2) = cos↵ =

hi1, i2iki1kki2k

sim(i1, i2) = cos↵ =

hi1, i2iki1kki2k

sim(i1, i2) = cos↵ =

hi1, i2iki1kki2k

sim(i1, i2) = cos↵ =

hi1, i2iki1kki2k

item 1

item 2

Page 37: Настоящее и будущее рекомендательных систем. Михаил Ройзнер

Метаинформация

Page 38: Настоящее и будущее рекомендательных систем. Михаил Ройзнер

Pandora

〉Music Genome Project

〉 450 атрибутов треков

〉 20–30 минут на один трек

24

Page 39: Настоящее и будущее рекомендательных систем. Михаил Ройзнер

István Pilászy, Domonkos Tikk, 2009 http://dl.acm.org/citation.cfm?id=1639731

Recommending New Movies: Even a Few Ratings Are More Valuable Than Metadata

Page 40: Настоящее и будущее рекомендательных систем. Михаил Ройзнер

Метаинформация в SVD

26

items

user

sta

gs

pseu

do-u

sers

Page 41: Настоящее и будущее рекомендательных систем. Михаил Ройзнер

Контекст

Page 42: Настоящее и будущее рекомендательных систем. Михаил Ройзнер

Контекстные рекомендации

28

Page 43: Настоящее и будущее рекомендательных систем. Михаил Ройзнер

Контекстные рекомендации

28

Время суток

Page 44: Настоящее и будущее рекомендательных систем. Михаил Ройзнер

Контекстные рекомендации

Местоположение

28

Время суток

Page 45: Настоящее и будущее рекомендательных систем. Михаил Ройзнер

Контекстные рекомендации

Местоположение

28

ПогодаВремя суток

Page 46: Настоящее и будущее рекомендательных систем. Михаил Ройзнер

Контекст в SVD — тензорные разложения

29

Use

rs

ItemsContex

t

Page 47: Настоящее и будущее рекомендательных систем. Михаил Ройзнер

Контекст в SVD — тензорные разложения

29

Use

rs

ItemsContex

tU

I

C

dd

Context

Items

Use

rs

d

Page 48: Настоящее и будущее рекомендательных систем. Михаил Ройзнер

Контекст в SVD — тензорные разложения

29

Use

rs

ItemsContex

tbruic =

dX

k=1

ukikckU

I

C

dd

Context

Items

Use

rs

d

Page 49: Настоящее и будущее рекомендательных систем. Михаил Ройзнер

Дополнительные источники данных

Page 50: Настоящее и будущее рекомендательных систем. Михаил Ройзнер

Spotify

〉 Анализ аудиосигнала треков

〉 Извлечение атрибутов с помощью свёрточных нейронных сетей

http://benanne.github.io/2014/08/05/spotify-cnns.html 31

Page 51: Настоящее и будущее рекомендательных систем. Михаил Ройзнер

eBay

〉Фотографии из блогов о моде

〉 Распознавание предметов одежды

〉Модель сочетаемости одежды по её характеристикам

http://arxiv.org/abs/1401.1778 32

Page 52: Настоящее и будущее рекомендательных систем. Михаил Ройзнер

eBay

〉Фотографии из блогов о моде

〉 Распознавание предметов одежды

〉Модель сочетаемости одежды по её характеристикам

http://arxiv.org/abs/1401.1778 32

Page 53: Настоящее и будущее рекомендательных систем. Михаил Ройзнер

YouTube

〉 Тематическое моделирование по текстовым данным

〉 Поисковые запросы, описания роликов, комментарии

〉 Вовлеченность пользователей увеличилась на 80%

http://dl.acm.org/citation.cfm?id=2623344 33

Page 54: Настоящее и будущее рекомендательных систем. Михаил Ройзнер

YouTube

〉 Тематическое моделирование по текстовым данным

〉 Поисковые запросы, описания роликов, комментарии

〉 Вовлеченность пользователей увеличилась на 80%

http://dl.acm.org/citation.cfm?id=2623344 33

Page 55: Настоящее и будущее рекомендательных систем. Михаил Ройзнер

Внешние и внутренние данные в одной модели

34

items

user

s

words

item

s

1 1 1

1 11

1 11

Page 56: Настоящее и будущее рекомендательных систем. Михаил Ройзнер

Внешние и внутренние данные в одной модели

34

items

user

s

words

item

s

1 1 1

1 11

1 11

SVD

Page 57: Настоящее и будущее рекомендательных систем. Михаил Ройзнер

Внешние и внутренние данные в одной модели

34

items

user

s

words

item

s

1 1 1

1 11

1 11

SVD LDA

Page 58: Настоящее и будущее рекомендательных систем. Михаил Ройзнер

Внешние и внутренние данные в одной модели

34

items

user

s

words

item

s

1 1 1

1 11

1 11

SVD LDA

Page 59: Настоящее и будущее рекомендательных систем. Михаил Ройзнер

Будущее рекомендаций

Page 60: Настоящее и будущее рекомендательных систем. Михаил Ройзнер

Знания о пользователях

36

Page 61: Настоящее и будущее рекомендательных систем. Михаил Ройзнер

Знания о пользователях

36

Социальные сети

Page 62: Настоящее и будущее рекомендательных систем. Михаил Ройзнер

Знания о пользователях

Телефоны

36

Социальные сети

Page 63: Настоящее и будущее рекомендательных систем. Михаил Ройзнер

Знания о пользователях

Телефоны

36

Носимые устройстваСоциальные сети

Page 64: Настоящее и будущее рекомендательных систем. Михаил Ройзнер

Идеальные рекомендации

37

Page 65: Настоящее и будущее рекомендательных систем. Михаил Ройзнер

Идеальные рекомендации

37

Точные

Page 66: Настоящее и будущее рекомендательных систем. Михаил Ройзнер

Идеальные рекомендации

37

Точные Понятные

Page 67: Настоящее и будущее рекомендательных систем. Михаил Ройзнер

Идеальные рекомендации

37

Точные Понятные Полезные

Page 68: Настоящее и будущее рекомендательных систем. Михаил Ройзнер

Спасибо!

Page 69: Настоящее и будущее рекомендательных систем. Михаил Ройзнер

Михаил Ройзнер

Руководитель группы разработки рекомендательных систем

Контакты

@mroizner

[email protected]