【推荐系统】行列式点过程(DPP)算法推导

一、背景

推荐系统主要解决用户和物品之间的相关性，以及推荐列表的多样性。相关性主要通过用户兴趣和物品之间的匹配程度来衡量，希望把用户感兴趣的物品推荐给用户，可以通过CTR预估模型来构建。多样性的衡量没有那么直观，一种方法是计算不同Item之间的cosin值，值越小表明多样性越好。

Hulu在NIPS 2018会议上发表的论文《

Fast Greedy MAP Inference for Determinantal Point Process to Improve Recommendation Diversity

》是基于行列式点过程来提升推荐系统多样性，在实验上取得了不错的效果.

二、行列式点过程基本原理

在介绍行列式点过程之前，先给出一些符号的约定：

集合使用大写字母表示，比如：

Z

$Z$

向量和矩阵分别通过粗体小写字母和粗体大写字母表示

⋅

)

⊤

(\cdot)^{\top}

$(\cdot)^{⊤}$

表示向量或矩阵的转置

x

,

y

⟩

⟨x,y⟩

$⟨ x, y ⟩$

是向量

x

$x$

和

y

$y$

的内积

给定子集

X

$X$

和

Y

$Y$

，

X

,

Y

L_{X,Y}

$L_{X, Y}$

是

L

$L$

的sub-matrix，通过行中的

X

$X$

和列中的

Y

$Y$

索引。

X

,

X

=

L

X

,

+

L

X

,

{

i

}

=

L

X

,

i

L_{X,X}=L_X,+L_{X,\lbrace i \rbrace}=L_{X,i}

$L_{X, X} = L_{X}, + L_{X, {i}} = L_{X, i}$

，

{

i

}

,

X

=

L

i

,

X

L_{\lbrace i \rbrace,X}=L_{i,X}

$L_{{i}, X} = L_{i, X}$

。

e

t

(

L

)

det(L)

$d e t (L)$

是矩阵

L

$L$

的行列式，惯例上令

e

t

(

L

∅

)

=

1

det(L_\emptyset)=1

$d e t (L_{\emptyset}) = 1$

DPP

(Determinantal Point Process)行列式点过程，是一种性能较高的概率模型。其将复杂的概率计算转换成简单的行列式计算，通过核矩阵(

kernel matrix

)的行列式计算每一个子集的概率。该概率可以理解为用户对推荐列表满意的概率，受到相关性与多样性两个因素的影响。具体地，对于给定的集合

{

}

Z=\lbrace 1,2,…,M \rbrace

$Z = {1, 2, . . ., M}$

，一个DPP

P

$P$

是定义在该集合的所有子集

2^Z

$2^{Z}$

上的一个概率度量。当

P

$P$

会为空集给出非零概率时，存在一个矩阵

∈

L∈R^{M×M}

$L \in R^{M \times M}$

，对于所有子集

⊆

Y⊆Z

$Y \subseteq Z$

，

Y

$Y$

出现的概率满足：

(

)

∝

(

)

P(Y) \propto det(L_Y)

$P (Y) \propto d e t (L_{Y})$

其中，

L

$L$

是一个实数型(real)、半正定(PSD)的核矩阵，它通过

Z

$Z$

的元素进行索引。这里简单介绍一下半正定矩阵的定义：

给定一个大小为

×

n

n\times n

$n \times n$

的实对称矩阵

A

$A$

，若对于任意长度为

n

$n$

的非零向量

x

$x$

，有

T

A

x

≥

0

x^TAx\geq0

$x^{T} A x \geq 0$

成立，则矩阵

A

$A$

是一个

半正定矩阵

。

推荐列表就是从候选商品集合中选择能够最大化后验概率的商品子集，这一筛选过程就是行列式点过程的最大后验概率推断

MAP

（maximum a posteriori inference）。

⊆

(

)

Y_{map}=arg\space max_{Y\subseteq Z}\space+det(L_{Y})

$Y_{m a p} = a r g m a x_{Y \subseteq Z} + d e t (L_{Y})$

三、如何通过DPP优化推荐系统多样性

DPP中的核矩阵 L) 是一个半正定矩阵，可以被分解为

L=B^TB

$L = B^{T} B$

，其中

B

$B$

的每一列为候选集中商品的表示向量。

为了将DPP模型应用于推荐场景中，考虑将每个列向量

B_{i}

$B_{i}$

分解为

B_{i}=r_{i}f_{i}

$B_{i} = r_{i} f_{i}$

，其中：

$r_{i} r i 为item i i i 与user之间的相关性，并且 r i ≥ 0 r_{i}\geq0 r i ≥ 0$
$f_{i} f i 为item i i i 的embedding，并且 ∣ ∣ f i ∣ ∣ 2 = 1 ||f_i||_2=1 ∣ ∣ f i ∣ ∣ 2 = 1$

核矩阵中的元素可以被写成：

⟨

⟩

⟨

⟩

⟨

⟩

L_{ij}=\langle B_i,B_j\rangle=\langle r_if_i, r_j f_j \rangle=r_i r_j \langle f_i, f_j \rangle

$L_{i j} = ⟨ B_{i}, B_{j} ⟩ = ⟨ r_{i} f_{i}, r_{j} f_{j} ⟩ = r_{i} r_{j} ⟨ f_{i}, f_{j} ⟩$

其中，

⟩

\langle f_i,f_j \rangle=S_{ij}

$⟨ f_{i}, f_{j} ⟩ = S_{i j}$

是商品

i

$i$

与商品

j

$j$

之间的相似度。所以，核矩阵可以被进一步写为:

(

)

⋅

(

)

L=Diag(r_u)\cdot S \cdot Diag(r_u)

$L = D i a g (r_{u}) \cdot S \cdot D i a g (r_{u})$

其中，

(

)

Diag(r_u)

$D i a g (r_{u})$

是对角阵（diagonal matrix），它的对角向量（diagonal vector）是相关性度量向量

r_u

$r_{u}$

。则核矩阵的行列式可以表示为：

∣

(

)

∣

⋅

∣

⋅

∣

(

)

∣

∏

∈

⋅

∣

\left|L\right|=\left|Diag\left(r_{u}\right)\right|\cdot\left|S\right|\cdot\left|Diag\left(r_{u}\right)\right|=\prod_{i\in R_{u}}r_{u,i}^{2}\cdot\left|S\right|

$∣ L ∣ = ∣ D i a g (r_{u}) ∣ \cdot ∣ S ∣ \cdot ∣ D i a g (r_{u}) ∣ = i \in R_{u} \prod r_{u, i}^{2} \cdot ∣ S ∣$

取其对数，则可以表示为：

(

)

∑

∈

(

)

(

)

logdet(L)=\sum\limits_{i \in R_u}log(r_{u,i}^2)logdet(S))

$l o g d e t (L) = i \in R_{u} \sum l o g (r_{u, i}^{2}) l o g d e t (S))$

其中，

(

⋅

)

det(\cdot)

$d e t (\cdot)$

表示矩阵的行列式。上式中的

∈

(

)

\sum\limits_{i\in R_u}log(r_{u,i}^2)

$i \in R_{u} \sum l o g (r_{u, i}^{2})$

可以表示为用户和商品的相关性，

(

)

det(S)

$d e t (S)$

可以表示商品之间的多样性，这里简单解释一下为什么可以表示多样性。

假设$ S= \begin {bmatrix}S_{ii} +S_{ij} S_{ij}++S_{jj}\end{bmatrix}

则

，则

$，则$

det\left(S \right)=S_{ii}S_{jj}-S_{ij}
^{2}=1-S_{ij}
{2}$，则

e

t

(

S

)

det \left (S\right)

$d e t (S)$

越大，对应的 S_{ij}^{2})$越小，也即多样性越好。

因此最大化

(

)

det\left(L\right)

$d e t (L)$

可以优化推荐集的多样性。假设系统筛选出的推荐给用户的商品子集为

⊆

C_{u}\subseteq R_{u}

$C_{u} \subseteq R_{u}$

，

L_{C_u}

$L_{C_{u}}$

表示被商品子集

C_u

$C_{u}$

索引的核矩阵的子矩阵，则商品子集

C_u

$C_{u}$

的相关性和多样性可以用下式度量：

(

)

∑

∈

(

)

−

(

)

logdet(L_{C_u})=\sum\limits_{i+\in+C_u}log(r_{u,i}^2)-logdet(S_{C_u})

$l o g d e t (L_{C_{u}}) = i + \in + C_{u} \sum l o g (r_{u, i}^{2}) - l o g d e t (S_{C_{u}})$

多样性问题便可以转化为前面的MAP问题。

四、行列式点过程的MAP求解

行列式点过程的MAP求解是一个复杂的过程，Hulu的论文中提出了一种改进的贪心算法能够快速求解，该算法的时间复杂度为

(

)

O(N^2M)

$O (N^{2} M)$

，

N

$N$

为返回的商品列表中商品的个数。

这一求解过程简单来说就是每次从候选集中贪心地选择一个能使边际收益最大的商品加入到最终的结果子集中，直到满足停止条件为止，即每次选择商品

j

$j$

添加到结果集中

Y_g

$Y_{g}$

中，

Y_g

$Y_{g}$

初始化为空集，商品

j

$j$

需要满足下面的等式：

∈

log

⁡

(

∪

{

}

)

−

(

)

(1)

j= \underset{i \in Z \backslash Y_g}{argmax} \log det(Y_g \cup \lbrace i \rbrace)- log det(Y_g) \tag{1}

$j = i ∈ Z \ Y g a r g ma x lo g d e t ( Y g ∪ { i } ) − l o g d e t ( Y g ) ( 1 )$

其中行列式

(

)

det(L_{Y_g})

$d e t (L_{Y_{g}})$

直接求解复杂度较高，需要有巧妙的方法简化计算过程。假设

(

)

det(L_{Y_g})>0

$d e t (L_{Y_{g}}) > 0$

，

L_{Y_g}

$L_{Y_{g}}$

Cholesky 分解如下：

⊤

L_{Y_g}=VV^{\top}

$L_{Y_{g}} = V V^{⊤}$

其中 V) 是一个可逆下三角矩阵。对于任意

∈

i \in Z \backslash Y_g

$i ∈ Z \ Y g $

，

∪

{

}

L_{Y_g \cup \lbrace i \rbrace}

$L_{Y_{g} \cup {i}}$

的Cholesky 分解可以定为：

其中，等式右边右上角的子矩阵为0向量，是因为 V) 是一个下三角矩阵。根据矩阵乘法公式，行向量

c_i

$c_{i}$

和标量

≥

d_i≥0

$d_{i} \geq 0$

满足：

⊤

(3)

V{c_i^{\top}}= L_{Y_{g}}\tag{3}

$V c_{i}^{⊤} = L_{Y_{g}} (3)$

−

∥

(4)

d_i^2 =L_{ii}-\|c_i\|_2^2\tag{4}

$d_{i}^{2} = L_{i i} - ∥ c_{i} ∥_{2}^{2} (4)$

另外，根据等式(2), 可以得到：

(

∪

{

}

)

(

⊤

)

⋅

(

)

⋅

(5)

det(L_{Y_g \cup \lbrace i \rbrace})=det(VV^{\top}) \cdot d_i^2 det(L_{Y_g}) \cdot d_i^2\tag{5}

$d e t (L_{Y_{g} \cup {i}}) = d e t (V V^{⊤}) \cdot d_{i}^{2} d e t (L_{Y_{g}}) \cdot d_{i}^{2} (5)$

因此，等式(1)可以简化为：

∈

log

⁡

(

)

(6)

j = \underset{i \in Z \backslash Y_g}{argmax} \log(d_i^2) \tag{6}

$j = i ∈ Z \ Y g a r g ma x lo g ( d i 2 ) ( 6 )$

一旦等式(6)被求解，根据等式(2)，

∪

{

}

L_{Y_g \cup \lbrace i \rbrace}

$L_{Y_{g} \cup {i}}$

的Cholesky 分解变成是：

∪

{

}

[

]

[

]

⊤

(7)

L_{Y_{g} \cup\{j\}}=\left[\begin{array}{cc} V & 0 \\ c_{j} & d_{j} \end{array}\right]\left[\begin{array}{cc} V & 0 \\ c_{j} & d_{j} \end{array}\right]^{\top} \tag{7}

$L_{Y_{g} \cup {j}} = [V c_{j} 0 d_{j}] [V c_{j} 0 d_{j}]^{⊤} (7)$

其中，

c_j

$c_{j}$

和

d_j

$d_{j}$

是已经计算出来了的。当一个新item被添加到

Y_g

$Y_{g}$

之后，

L_{Y_g}

$L_{Y_{g}}$

的Cholesky因子可以被有效更新。

对于每个item

i

$i$

，

c_i

$c_{i}$

和

d_i

$d_{i}$

可以被增量更新。在等式(6)被求解后，将

′

c_i’

$c_{i}^{'}$

和

′

d_i’

$d_{i}^{'}$

定义为新的需求求解的向量和标量，其中

∈

(

∪

{

}

)

i \in Z \backslash (Y_g \cup \lbrace j \rbrace)

$i ∈ Z \ ( Y g ∪ { j } )$

。

根据等式(3)和等式(7)，我们有：

]

∪

{

}

[

]

(8)

\left[\begin{array}{cc} V & 0 \\ c_{i} & d_{i} \end{array}\right] c_{i}^{T}=L_{Y_{g} \cup\{j\}, i}=\left[\begin{array}{c} L_{Y_{g, i}} \\ L_{j i} \end{array}\right] \tag{8}

$[V c_{i} 0 d_{i}] c_{i}^{T} = L_{Y_{g} \cup {j}, i} = [L_{Y_{g, i}} L_{j i}] (8)$

通过将等式(3)和等式(8)组合，我们可以对

c_i

$c_{i}$

和

d^2_i

$d_{i}^{2}$

进行更新，有：

′

[

(

−

⟨

⟩

)

]

≐

[

]

c_{i}^{\prime}=\left[\begin{array}{lll} c_{i} & \left.\left(L_{j i}-\left\langle c_{j}, c_{i}\right\rangle\right) / d_{j}\right] & \doteq\left[c_{i}\right. & e_{i} \end{array}\right]

$c_{i}^{'} = [c_{i} (L_{j i} - ⟨ c_{j}, c_{i} ⟩) / d_{j}] ≐ [c_{i} e_{i}]$

等式(4)意味着：

′

−

∥

′

∥

−

(9)

d_i’^2=L_{ii}-\|c_i’\|_2^2=L{ii}\|c_i\|_2^2-e_i^2=d_i^2-e_i^2 \tag{9}

$d_{i}^{' 2} = L_{i i} - ∥ c_{i}^{'} ∥_{2}^{2} = L i i ∥ c_{i} ∥_{2}^{2} - e_{i}^{2} = d_{i}^{2} - e_{i}^{2} (9)$

最初，

∅

Y_g=\emptyset

$Y_{g} = \emptyset$

, 等式(5)意味着:

(

)

d_i^2=det(L_{ii})=L_{ii}

$d_{i}^{2} = d e t (L_{i i}) = L_{i i}$

。

完整算法描述如下：

图1 Fast Greedy MAP求解

原文链接：https://blog.csdn.net/qq_41629800/article/details/107339054

一、背景

二、行列式点过程基本原理

三、如何通过DPP优化推荐系统多样性

四、行列式点过程的MAP求解

你可能也喜欢