Recommender SystemsBeyond Collaborative Filtering

Sungjoo Ha

May 17th, 2016

Sungjoo Ha 1 / 19

“Recommender Systems” Problem

사용자가얼마나특정아이템을좋아할지예측해보자.I 과거행동을바탕으로

I 다른사용자와의관계를바탕으로

I 아이템사이의관계로부터

I 문맥을살펴보고

I . . .

Sungjoo Ha 2 / 19

Collaborative Filtering

I m사용자, n아이템I 사용자가의견을표출한아이템목록이존재

• 직접적인점수• 암묵적인표현 –구매여부,트랙재생여부등

I 표현되지않은의견을예측• 사용자/아이템사이의관계를활용해서

Sungjoo Ha 3 / 19

Approaches to CF

I Neighborhood methodI Matrix factorizationI Restricted Boltzmann machines

Sungjoo Ha 4 / 19

Content-based Recommendation

I 내용에기반한추천

I 내용을바탕으로사용자의취향을파악하는모델을만들어서

활용

I 아이템의성격혹은특징을 “내용”이라함• 영화의장르• 개봉년도• 출연배우• 영화의줄거리텍스트• · · ·

Sungjoo Ha 5 / 19

Pros and Cons

I 장점• 다른사용자의정보가필요하지않음• 새로운아이템도추천할수있음• “이유”를제공할수있는경우가많음

I 단점• “내용”의품질이좋아야함• 쓸모있는피쳐의추출이어려운매체가많음• 주어진피쳐로사용자의취향이모델링가능해야함• · · ·

Sungjoo Ha 6 / 19

Music Recommendations

I 곡을 400여가지속성으로분류• “미묘한”현악기의활용• 춤추고싶어지는비트• 멋진트럼본솔로• · · ·

I 트위터및위키백과등의웹정보수집

I 음원으로부터직접적으로피쳐추출• Convolutional neural network를사용• 이미 40차원벡터로표현된음원데이터를학습용으로사용

Sungjoo Ha 7 / 19

Hybrid Approach

I 다양한방식으로 CF와 CB를결합I 가중치를주는방식

I 상황에따라다른방법을활용하는방식

I 양쪽의추천을적당히섞어서보여주는방식

I 한쪽의결과가다른쪽의입력으로들어가는방식

I 동시에양쪽을학습• Topic modeling을통해얻은 latent topic space를 CF에서아이템의 latent vector representation으로활용

• 이두개를포괄하는모델을만들어서동시에최적화

Sungjoo Ha 8 / 19

Beyond Traditional Approaches

I Learning to rankI Context-aware recommendationsI Deep learningI SimilarityI Bandit formulationI Social recommendationsI · · ·

Sungjoo Ha 9 / 19

Context-aware Recommendations

상황에따라다른추천을하는시스템

I Tensor factorizationI Factorization machines

Sungjoo Ha 10 / 19

Matrix Factorization

? 5

5

? 1 ? 1 2 ? ? ?

?

4

3 ?

4

0.2 4.8

4.9

3.0 0.7 4.9 1.3 2.0 1.7 3.8 3.1

0.3

4.1

2.7 2.3

3.9

Sungjoo Ha 11 / 19

Tensor Factorization

Users

Items

Context Higher-order singular valuedecomposition (HOSVD)

Sungjoo Ha 12 / 19

Factorization Machines

I Matrix/tensor factorization접근의일반화I 행렬이나텐서의모양에따라최적화알고리즘을새로

유도해야하는것을우회

I 아이디어:기존의행렬분해는사용자를나타내는피쳐와아이템을나타내는피쳐의상호작용을모델링하는것

I Indicator/real value피쳐와그에대응되는가중치벡터를모델링

Sungjoo Ha 13 / 19

Factorization Machines

y(x) = w0 +

n∑i=1

wixi +

n∑i=1

n∑j=i+1

〈vi,vj〉xixj

w0 ∈ R,w ∈ Rn,V ∈ Rn×k

I 수식을잘정리하면 O(kn2)대신 O(kn)의연산만필요

Sungjoo Ha 14 / 19

MF Compared with FM

I Matrix factorization• y(x) = w0 + wu + wi + 〈vu,vi〉

I SVD++• y(x) = w0 + wu + wi + 〈vu,vi〉+ 1√

|Nu|

∑l∈Nu〈vi,vl〉

I Factorization machines with user/item/other movies rated• y(x) = w0 + wu + wi + 〈vu,vi〉+ 1√

|Nu|

∑l∈Nu〈vi,vl〉

• + 1√|Nu

∑l∈Nu

(wl + 〈vu,vl〉+ 1√|Nu

∑l′∈Nu,l′>l〈vl,v

′l)

Sungjoo Ha 15 / 19

Bandit Formulation

I 오프라인이아닌온라인형태의접근

I Exploration/exploitation tradeoffI 아는것을바탕으로좋은추천해주기

I 상호작용을통해사용자에대해더알아내기

Sungjoo Ha 16 / 19

Multi-armed Bandits

I 다양한수익률을낼수있는슬롯머신이있을때어떤전략을

사용해야좋은가?I 몇가지가정하에이론적인결과들이연구되어있음

Sungjoo Ha 17 / 19

MAB

I ε-greedy• ε의확률로랜덤한시도• 1− ε의확률로현재가장좋은레버를당김

I Upper confidence bound (UCB)• Posterior의평균과함께분산을고려• 잘모르는것은좋을것이라고낙관적으로가정해서가장좋은레버를당김

• UCT의아이디어는여기에서옴• 몇가지가정하에최적임이보장됨

I Thompson sampling (probability matching)• 베이지안모델링• Posterior로부터모델을샘플링해서이를최적화하는방식• 역시몇가지가정하에최적임이보장됨

Sungjoo Ha 18 / 19

References

I The Recommender Problem Revisited, Amatriain andMobasher, KDD tutorial, 2014

I Recommender Systems: Collaborative Filtering and otherapproaches, Amatriain, MLSS, 2014

I Music Recommendations at Spotify, Bernhardsson, NYCMachine Learning Meetup, 2013

I Recommending music on Spotify with deep learning,Dieleman, 2014

I Collaborative Topic Modeling for Recommending ScientificArticles, KDD, 2011

I Factorization Machines, Rendel, ICDM, 2010

Sungjoo Ha 19 / 19