Python实现基于协同过滤算法带差分隐私的推荐系统

朴灿烈づ我的快乐病毒、 2024-04-01 14:56 54阅读 0赞

目录  
第一章 绪论 1  
1.1 研究背景及意义 1  
1.2 国内外研究现状 3  
1.3 论文的主要研究内容 5  
1.4 论文结构 6  
第二章 基础知识 6  
2.1 推荐系统 6  
2.2.1 推荐系统概述 6  
2.2.2 协同过滤推荐算法 7  
2.2.3 协同过滤算法的相关问题 11  
2.3 差分隐私 12  
2.4 本章小结 15  
第三章 基于差分隐私保护的协同过滤推荐系统 15  
3.1 对于推荐系统的攻击方式 15  
1.3 论文的主要研究内容  
从上面的介绍可以看出，推荐系统已经在日常生活中得到了十分广泛的应用，是解决信息过载问题的一个重要手段。我们总是希望得到更精准的推荐，从而帮助我们做出更好的决策。但是潜在的攻击者会希望得到推荐系统中记录的敏感信息从而获利。所以，在保证推荐系统推荐结果有效性的同时也要保护用户的隐私数据，防止攻击者对这些数据进行非法操作。  
本文的主要研究内容如下：  
（1）分析了在推荐系统中加入差分隐私的重要性和必要性，介绍了推荐系统隐私保护的研究背景和目前国内外推荐系统、差分隐私技术以及二者结合产物的研究现状。  
（2）推荐系统概述。介绍推荐系统的主要分类方法和对于协同过滤推荐算法的研究；介绍了协同过滤算法的主要步骤：收集用户偏好、找到相似的用户或者物品、计算并推荐。  
（3）差分隐私概述。分析了差分隐私的概念和该模型相对于传统安全模型的优势，研究了差分隐私的性质和常用的实现机制。  
（4）基于差分隐私的协同过滤推荐系统的设计、实现与测试。基于前面的理论知识，设计了一个使用基于用户的协同过滤的推荐系统,其中相似度采用两种方法计算，并使用差分隐私将推荐结果进行加密。然后将设计出来的系统应用于MovieLens的两个不同规模的数据集上进行实验比较和分析，通过测试，找到可以相对较好地平衡推荐结果准确度和隐私保护程度的隐私预算。  
1.4 论文结构  
本篇论文共包含六个章节，具体各个章节的内容介绍如下：  
第一章为绪论。首先介绍了本文的研究背景，其次分析了推荐系统和差分隐私的研究现状及存在的问题，最后总结了本文主要的研究内容。  
第二章介绍了相关的背景知识。首先对推荐系统进行概述，引出协同过滤算法，并根据协同过滤推荐系统的三个主要步骤对其进行详细介绍。然后介绍本文的另一主题——差分隐私。主要介绍其定义、概念和实现机制。  
第三章介绍了基于差分隐私保护的协同过滤推荐系统的具体实现。在本部分，首先介绍了攻击者基于协同过滤的推荐系统挖掘用户隐私数据的攻击模型，总结了要应对该种手段，差分隐私对于传统数据加密方式的优越性。然后，提出了本文涉及系统的代码实现过程。  
第四章主要分析了在不同相似度计算方法和不同隐私预算的情况下，对于推荐精度和隐私保护程度的平衡。找到了最佳的相似度计算方法和隐私预算组合。  
第五章主要总结了本文的主要工作和成果，并对后续的研究工作方向进行展望。  
第二章 基础知识  
2.1 推荐系统  
2.2.1 推荐系统概述  
推荐系统(RS)是一种向目标用户建议可能感兴趣物品的软件工具和技术。推荐系统的建议可用于多种决策过程，如购买什么物品、听什么音乐以及在网上浏览什么新闻等。推荐系统中的“物品”指系统向用户所推荐内容的总称。某个推荐系统通常专注于一个特定类型的物品(如CD或新闻)，因此它的设计、图形用户界面以及用于生成推荐结果的核心技术都是为特定类型的物品提供有用且有效的建议而定制的。  
推荐系统主要服务于缺乏经验和能力的用户，他们通常无法从大量可供选择的物品中选取感兴趣的物品，如无法从某网站中选取感兴趣的商品。推荐系统中一个典型的例子是图书推荐，系统可以帮助用户挑选一木可能感兴趣的书来读。知名网站亚马逊中，系统采用个性化推荐技术为每个客户进行推荐。通常所说的推存具有个性化，即不同的用户或用户组所接收的建议是不同的。当然也存在非个性化推荐，但它们大都非常简单，通常出现在报纸或杂志上。最简单的个性化推荐是提供一个排序好的物品列表。通过该排序列表，系统试图根据用户的偏好和某些约束条件来预测最合适的产品或服务。本文转载自http://www.biyezuopin.vip/onews.asp?id=16998为了完成上述计算任务，推荐系统通常需要收集用户的喜好信息，这种喜好信息或是显式的，如物品的评分信息，或通过解释用户的行为做出推断所得。  
![在这里插入图片描述][0412a878245840749f530a8e7ddd657e.png]  
图2.1 推荐系统模型

'''改进：
        1.Pearson系数在小数据集上可以出结果了
        2.在调用recommend_with_predict函数时，避免对top10_simliar函数的重复调用，减少运行时间
        3.Laplace值通过库函数添加(np.random.laplace)
        4.预测算法改正，之前参数有错误
        5.此处的预测分数未进行均值中心化
        6.均值中心化之后还是一个评分为5的占优势，需要多个用户共同参与预测了
        7.我tm的，终于搞定了多个用户，看样子结果还蛮不错的，应该可以使劲跑了
        大数据集：283228个用户，58099部电影
    '''
    
    import matplotlib.pyplot as plt
    import numpy as np
    import pandas as pd
    from math import *
    
    
    
    # 最开始的部分，读取数据
    movies = pd.read_csv("/Users/jerryw/Desktop/ml-latest-small/movies.csv")
    ratings = pd.read_csv("/Users/jerryw/Desktop/ml-latest-small/ratings.csv")
    data = pd.merge(movies, ratings, on='movieId')  # 通过两数据框之间的movieId连接
    data = data[['userId', 'rating', 'movieId', 'title']].sort_values('userId')  # 未排序的是timestamp, genres
    data = data.to_csv('/Users/jerryw/Desktop/ml-latest-small/data.csv', index=False)
    
    file = open("/Users/jerryw/Desktop/ml-latest-small/data.csv", 'r', encoding='UTF-8')
    # 读取data.csv中每行中除了名字的数据
    data = {
        }  # 存放每位用户评论的电影和评分
    for line in file.readlines()[1:100837]:
        # 注意这里不是readline()
        line = line.strip().split(',')
        # 如果字典中没有某位用户，则使用用户ID来创建这位用户
        if not line[0] in data.keys():
            data[line[0]] = {
        line[3]: line[1]}
        # 否则直接添加以该用户ID为key字典中
        else:
            data[line[0]][line[3]] = line[1]
    file.close()
    # print(data)
    
    # for userId in data:
    #     print (userId)
    #     for movieId in data[userId]:
    #         print ("   ", movieId, ':', data[userId][movieId])
    
    
    """计算任何两位用户之间的相似度，由于每位用户评论的电影不完全一样，所以兽先要找到两位用户共同评论过的电影
    """
    
    
    def Euclidean(user1, user2):
        # 取出两位用户评论过的电影和评分
        user1_data = data[user1]
        user2_data = data[user2]
        distance = 0
        # 找到两位用户都评论过的电影，并计算欧式距离
        for key in user1_data.keys():
            if key in user2_data.keys():
                # distance越大表示两者越相似
                distance += pow(float(user1_data[key])-float(user2_data[key]), 2)
    
        return 1/(1+sqrt(distance))  # 这里返回值越小，相似度越大
    
    
    def cosine(user1, user2):
        # 取出两位用户评论过的电影和评分
        user1_data = data[user1]
        user2_data = data[user2]
        distance = 0
        common = {
        }
    
        # 找到两位用户都评论过的电影
        for key in user1_data.keys():
            if key in user2_data.keys():
                common[key] = 1
        if len(common) == 0:
            return 0  # 如果没有共同评论过的电影，则返回0
        n = len(common)  # 共同电影数目
        # print(n,common)
    
        # 计算评分和
        sum1 = sum([float(user1_data[movie]) for movie in common])
        sum2 = sum([float(user2_data[movie]) for movie in common])
    
        # 计算评分平方和
        sum1Sq = sum([pow(float(user1_data[movie]), 2) for movie in user1_data])
        sum2Sq = sum([pow(float(user2_data[movie]), 2) for movie in user2_data])
    
        # 计算乘积和
        PSum = sum([float(user1_data[it])*float(user2_data[it]) for it in common])
    
        # 计算相关系数
        den = sqrt((sum1Sq)*(sum2Sq))
        if den == 0:
            return 0
        result = PSum/den
        return result
    
    
    def pearson_sim(user1, user2):
        # 取出两位用户评论过的电影和评分
        user1_data = data[user1]
        user2_data = data[user2]
        distance = 0
        common = {
        }
    
        # 找到两位用户都评论过的电影
        for key in user1_data.keys():
            if key in user2_data.keys():
                common[key] = 1
        if len(common) == 0:
            return 0  # 如果没有共同评论过的电影，则返回0
        n = len(common)  # 共同电影数目
        # print(n,common)
    
        # 计算评分和
        sum1 = sum([float(user1_data[movie]) for movie in common])
        sum2 = sum([float(user2_data[movie]) for movie in common])
    
        # 计算评分平方和
        sum1Sq = sum([pow(float(user1_data[movie]), 2) for movie in common])
        sum2Sq = sum([pow(float(user2_data[movie]), 2) for movie in common])
    
        # 计算乘积和
        PSum = sum([float(user1_data[it]) * float(user2_data[it]) for it in common])
    
        # 计算相关系数
        num = n * PSum - (sum1 * sum2)
        den = sqrt((n * sum1Sq - pow(sum1, 2)) * (n * sum2Sq - pow(sum2, 2)))
        if den == 0:
            return 0
        r = num / den
        return r
    
    
    def pearson_sim_pro(user1, user2):
        # 取出两位用户评论过的电影和评分
        user1_data = data[user1]
        user2_data = data[user2]
        distance = 0
        common = {
        } # 以字典形式包括目标用户和参考用户共同看过的电影
    
        # 找到两位用户都评论过的电影
        for key in user1_data.keys():
            if key in user2_data.keys():
                common[key] = 1
        if len(common) == 0:
            return 0  # 如果没有共同评论过的电影，则返回0
        n = len(common) 
        # if user2 == '366' or user2 == '417':
        #     print(common)
        #     for movie in common.keys():
        #         print(user1, movie, user1_data[movie])
        #         print(user2, movie, user2_data[movie])
        
        # 计算分子,9742是电影数目
        sum_of_product_of_xy = 9742 * sum(float(user1_data[movie]) * float(user2_data[movie]) for movie in common)
        product_of_sum_of_x_and_y = sum(float(user1_data[movie]) for movie in common) * sum(float(user2_data[movie]) for movie in common)
        num = sum_of_product_of_xy - product_of_sum_of_x_and_y
        
    
        # 计算分母参数以及分母
        sum1 = pow(sum([float(user1_data[movie]) for movie in user1_data]), 2)
        sum2 = pow(sum([float(user2_data[movie]) for movie in user2_data]), 2)
        sum1Sq = 9742 * sum([pow(float(user1_data[movie]), 2) for movie in user1_data])
        sum2Sq = 9742 * sum([pow(float(user2_data[movie]), 2) for movie in user2_data])
        den1 = sum1Sq - sum1
        den2 = sum2Sq - sum2
        den = sqrt(den1 * den2)
    
        if den == 0:
            return 0
        r = num / den
        return r
    
    
    # 计算某个用户与其他用户的相似度
    def top10_simliar(userID, choice):
        # 空列表，有东西再往进加
        res = []
        for userid in data.keys(): #这里要做循环，把目标用户与所有其他用户的相似度都计算出来再排序
            # 排除与自己计算相似度
            if not userid == userID:
                if(choice == '1'):
                    simliar = cosine(userID, userid)
                elif(choice == '2'):
                    simliar = pearson_sim(userID, userid)
                else:
                    simliar = pearson_sim_pro(userID, userid)
                res.append((userid, simliar))
        res.sort(key = lambda val: val[1])
        res.reverse()
        return res[:4]
    
    def recommend_with_predict(user):
        # 相似度最高的用户
        print("1.cosine\n2.preason_sim\n3.preason_sim_pro")
        choice = input("用哪个方法？")
        # 打印相关度最高的前四个用户
        RES = top10_simliar(user, choice)
        print("相关度最高的前四名用户：", RES)
        
        # 得到用户名和相似值，为下一步计算做准备
        top_sim_user_data = [] # 存放最相似用户看过的电影和相应的评分
        weight = [] # 存放最相似用户的相似度
       
        count = 0
        while count < 4:
            top_sim_user_data.append(data[RES[count][0]])
            weight.append(float(RES[count][1]))
            print("最相似用户", count + 1, "的名字和相似度：\n", RES[count][0], "\n", RES[count][1], "\n")        
            count += 1
            
        user_data = data[user]
        # 计算评分平均数
        ave = []
        count = 0
        while count < 4:
            ave.append(sum(float(top_sim_user_data[count][movie]) for movie in top_sim_user_data[count].keys()) / len(top_sim_user_data[count]))
            count += 1
    
        # 被推荐人的平均分
        ave_predicted = sum(float(user_data[movie]) for movie in user_data.keys()) / len(user_data) 
        
        # 读取电影名字
        file = open("/Users/jerryw/Desktop/ml-latest-small/movies.csv", 'r', encoding='UTF-8')
        movies = []
        for line in file.readlines()[1:9743]:
            line = line.strip().split(',')
            movies.append(line[1])
        file.close()
        
        movies = sorted(movies)
    
        # 用一个字典存储各个用户的电影及其分数，如果没有看过，则分数为0
        user_scores = {
        }
        count = 0
        while count < 4:
            user_scores[count] = {
        }
            # 模仿之前的data导入
            for movie in movies:            
                if movie not in top_sim_user_data[count].keys():
                    user_scores[count][movie] =  0.0
                else:
                    user_scores[count][movie] = float(top_sim_user_data[count][movie])
            count += 1
    
        predict_movies = []
        # 做出预测
        choice_of_laplace = input("要不要加差分隐私？\n“y”代表确认")
        if choice_of_laplace == 'y':
            sensitivety = float(input("输入敏感度："))
            epsilon = float(input("输入差分隐私参数："))
            beta = sensitivety / epsilon
    
        # 根据前几名最相似的用户，将他们对各自电影的评分乘以权重，得到预测分数
        for movie in movies:
            count = 0
            sum_of_weight = 0 # 权重求和
            predict_score = 0
            while count < 4:
                # 评分为0，即该用户没有看过这个电影
                if user_scores[count][movie] == 0.0: 
                    weight_temp =  0.0 # weight_temp是循环到每个用户的权重值，算加权总分的时候可以用
                else:
                    weight_temp = weight[count]
                    predict_score += float(user_scores[count][movie] - ave[count]) * weight_temp
                sum_of_weight += weight_temp           
                count += 1
    
            # 若权重和不为0则计算原始预测值，反之，原始预测值为被推荐用户对其所有观看电影的平均分
            if sum_of_weight != 0: 
                predict_score = predict_score / sum_of_weight + ave_predicted
            else:
                predict_score = ave_predicted
    
            # 判断要不要加拉普拉斯噪声
            if choice_of_laplace == 'y': 
                predict_score += np.random.laplace(0, beta, 1)
    
            predict_movies.append((movie, float(predict_score)))
        
        # 去重
        predict_movies = list(set(predict_movies))
    
        # 按照评分从高到低排序
        predict_movies.sort(key = lambda val: val[1])
        predict_movies.reverse()
        return predict_movies[:10]
    
    
    if __name__ == '__main__':
        user = input("输入要推荐的人的编号：")
        Recommendations = recommend_with_predict(user)
        print(Recommendations)
        print("\n")

![在这里插入图片描述][38683f0fcd0d4b3e91fdf8f3d820c518.png_pic_center]  
![在这里插入图片描述][390c1323b195451b953a753abc6bfe35.png_pic_center]  
![在这里插入图片描述][6110bd2ca0ba47b489c22c1a4bc7b5e1.png_pic_center]  
![在这里插入图片描述][49455a375b144053936e783700453303.png_pic_center]  
![在这里插入图片描述][a54a5e96fb444a189912fc6bf50979ae.png_pic_center]  
![在这里插入图片描述][51c3aece948a4705a03aa75ef2ec0e09.png_pic_center]  
![在这里插入图片描述][8c2538ccf45441d6984007ebce16ac82.png_pic_center]  
![在这里插入图片描述][6b4ce2f64c1344fba17cd63239217d72.png_pic_center]  
![在这里插入图片描述][527d4d596a9041318f05a07d38920438.png_pic_center]  
![在这里插入图片描述][83e7fa0ec72444049de9786f1d82e8bc.png_pic_center]  
![在这里插入图片描述][2b515a924e084991bec18c5184c833cd.png_pic_center]  
![在这里插入图片描述][13db184eeab1451f9854923fcdacc710.png_pic_center]

[0412a878245840749f530a8e7ddd657e.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/04/01/32cf1f2f12ce4c45a26eb2f6ad92726d.png
[38683f0fcd0d4b3e91fdf8f3d820c518.png_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/04/01/2effcb98c4e04535a0a183bd2a8db11e.png
[390c1323b195451b953a753abc6bfe35.png_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/04/01/abf7d7cc546a4399a75c1fa3f7f89f38.png
[6110bd2ca0ba47b489c22c1a4bc7b5e1.png_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/04/01/386a78153c2e4618b8cc92a03d59d69c.png
[49455a375b144053936e783700453303.png_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/04/01/c335f7ec67684e1f8e7258c9267e5c54.png
[a54a5e96fb444a189912fc6bf50979ae.png_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/04/01/70b28ff8d8fc4e5d93e39c151237a585.png
[51c3aece948a4705a03aa75ef2ec0e09.png_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/04/01/7d15fe2545a241599609ead8ba63d74b.png
[8c2538ccf45441d6984007ebce16ac82.png_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/04/01/c0bd3c9fc548447199523fa526c45016.png
[6b4ce2f64c1344fba17cd63239217d72.png_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/04/01/38fcad4dafc24b6b85a639c2cd49b5eb.png
[527d4d596a9041318f05a07d38920438.png_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/04/01/6d7a47b0e5a24152b35e2c07d4f98ec0.png
[83e7fa0ec72444049de9786f1d82e8bc.png_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/04/01/6e5d47d717ce4b13b2f442a066621c80.png
[2b515a924e084991bec18c5184c833cd.png_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/04/01/e14107b6a6e44a01ba3ec5076c6f259c.png
[13db184eeab1451f9854923fcdacc710.png_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/04/01/d27ac2f955aa4e96bf567d7818e862ed.png