MF

有如下R(5,4)的打分矩阵：（“-”表示用户没有打分）

其中打分矩阵R(n,m)是n行和m列，n表示user个数，m行表示item个数


那么，如何根据目前的矩阵R（5,4）如何对未打分的商品进行评分的预测（如何得到分值为0的用户的打分值）？

——矩阵分解的思想可以解决这个问题，其实这种思想可以看作是有监督的机器学习问题（回归问题）。

矩阵R可以近似表示为P与Q的乘积：R（n,m）≈ P(n,K)*Q(K,m)

矩阵分解的过程中，将原始的评分矩阵

分解成两个矩阵

和

的乘积：

矩阵P(n,K)表示n个user和K个特征之间的关系矩阵，这K个特征是一个中间变量，矩阵Q(K,m)的转置是矩阵Q(m,K)，矩阵Q(m,K)表示m个item和K个特征之间的关系矩阵，这里的K值是自己控制的，可以使用交叉验证的方法获得最佳的K值。为了得到近似的R(n,m)，必须求出矩阵P和Q，如何求它们呢？

【方法】

1. 首先令
   

2. 损失函数：使用原始的评分矩阵
   
   与重新构建的评分矩阵
   
   之间的误差的平方作为损失函数，即：

   如果R(i,j)已知，则R(i,j)的误差平方和为：
   

最终，需要求解所有的非“-”项的损失之和的最小值：



3. 使用梯度下降法获得修正的p和q分量：




4. 不停迭代直到算法最终收敛（直到sum(e^2) <=阈值）

（Plus：为了防止过拟合，增加正则化项）

【加入正则项的损失函数求解】

1. 首先令
   

2. 通常在求解的过程中，为了能够有较好的泛化能力，会在损失函数中加入正则项，以对参数进行约束，加入正则的损失函数为：
   
   

也即：

3. 使用梯度下降法获得修正的p和q分量：
   
   求解损失函数的负梯度：
   
   

根据负梯度的方向更新变量：

4. 不停迭代直到算法最终收敛（直到sum(e^2) <=阈值）

【预测】利用上述的过程，我们可以得到矩阵和，这样便可以为用户 i 对商品 j 进行打分：

import numpy as np
from math import pow
import matplotlib.pyplot as plt
R=np.array([[5,3,0,1],[4,0,0,1],[1,1,0,5],[1,0,0,4],[0,1,5,4]])
print("原始的评分矩阵R为：")
print(R)
alpha=0.0002#学习率
beta=0.02
N=len(R)
M=len(R[0])
K=2
P=np.random.rand(N,K)#生成N行K列的矩阵
Q=np.random.rand(K,M)#生成K行M列的矩阵
result=[]
for i in range(5000):#运行5000次
    for i in range(len(R)):
        for j in range(len(R[i])):
            if R[i][j]>0:
                eij=R[i][j]-np.dot(P[i,:],Q[:,j])
                for k in range(K):
                    P[i][k]=P[i][k]+alpha*(2*eij*Q[k][j]-beta*P[i][k])
                    Q[k][j]=Q[k][j]+alpha*(2*eij*P[i][k]-beta*Q[k][j])
    eR=np.dot(P,Q)#填充后的矩阵

    e=0#误差
    for i in range(len(R)):
        for j in range(len(R[i])):
            if R[i][j]>0:
                e = e + pow(R[i][j] - np.dot(P[i, :], Q[:, j]), 2)
    for k in range(K):
        e=e+(beta/2)*(pow(P[i][k],2)+pow(Q[k][j],2))
    result.append(e)
    if e<0.001:
        break
print("经过填充后的矩阵eR:")
print(eR)
n = len(result)
x = range(n)
print(x)
plt.plot(x, result, color='r', linewidth=3)
plt.title("Convergence curve")
plt.xlabel("generation")
plt.ylabel("loss")
plt.show()

结果


原始的评分矩阵R为：

[[5 3 0 1]

[4 0 0 1]

[1 1 0 5]

[1 0 0 4]

[0 1 5 4]]

经过填充后的矩阵eR:

[[4.99624873 2.93544304 4.48473294 0.99914131]

[3.96256443 2.3373952 3.7417222 0.99661392]

[1.06212841 0.83976764 5.25422718 4.96327875]

[0.96875908 0.74074439 4.28993813 3.97199539]

[1.76812146 1.20587323 4.91735138 4.03231098]]


结果图