可是推荐系统会遭受流行性感冒成见(popularity bias)的危害。流行性感冒成见就是指，一些时兴的新项目会被常常强烈推荐，而别的新项目会被忽视。在上面的事例中，一些影片被大量的人钟爱，得到 了高些的得分，就归属于时兴的新项目，或是能够 称为受欢迎新项目，这种新项目会被大量强烈推荐给客户，这就是流行性感冒成见。

流行性感冒成见的造成一部分来源于训炼数据信息自身存有不一样的时兴度，另一部分缘故来源于推荐系统。伴随着時间的变化，这类流行性感冒成见可能被提升。由于假如客户在意见反馈循环系统中持续为最热电影打高分数，这种影片就越来越更受欢迎，被强烈推荐的概率也就更大。

以便科学研究意见反馈循环系统对推荐算法变大成见和别的层面的危害，来源于埃因霍温科技学院、德保罗大学和科罗拉多高校博尔德校区的科学研究工作人员在一个电影数据上应用三种推荐系统开展了模拟仿真，仿真模拟推荐算法的互动全过程。

做为科学研究数据信息的MovieLens 1M数据包括了6040个客户对3706部电影得出的1000209个得分，成绩范畴在1-5中间。科学研究工作人员应用的三种推荐系统分别是：根据客户的协同过滤算法(UserKNN)、贝叶斯算法人性化排列(BPR)和一种向任何人强烈推荐最时兴商品的优化算法MostPopular。

根据应用这种数据信息和优化算法开展迭代更新——系统软件持续为客户转化成强烈推荐目录，客户又持续对强烈推荐目录中的新项目开展评分，科学研究工作人员发觉，伴随着時间的变化，三种优化算法下的数据信息均值时兴度都有一定的升高，但整体多元性展现降低，这也就证实了推荐算法在意见反馈循环系统后的成见被变大。

流行性感冒成见的变大还更改了对系统客户兴趣爱好的分辨。在全部的推荐系统中，客户的喜好两者之间原始喜好中间的误差伴随着時间的变化而提升。换句话说，这将造成推荐算法为客户作出的强烈推荐愈来愈偏移客户的真正爱好，系统软件强烈推荐让你的影片将已不合乎你的口感。

此外，因为推荐算法的成见被变大，客户基本上只有触碰到时兴度提高的新项目，只有见到这些被大量人打过高分数的最热电影。因此，在推荐算法中她们的喜好都是向一个相互的范畴集中化，这就主要表现为客户喜好的单一化。而意见反馈循环系统导致的成见对极少数人群客户的危害更大。

“处理优化算法成见的方式越来越尤为重要。由于假如处理方式不正确，伴随着時间的变化，推荐算法中一个不大的误差也很有可能会被极其变大。”科学研究工作人员在毕业论文结尾写到。

面部识别用以训炼的数据信息存有极大误差

对于面部识别优化算法产生的成见愈来愈遭受关心。比如，能将模糊照片清晰的PULSE优化算法将老布什美国奥巴马的模糊照片“复原”出了一张白种人脸孔，在美国BLM健身运动(Black Lives Matter，黑种人的命也是命)热火朝天的情况下，就引起了极大的异议。

面部识别行业里出現优化算法误差和岐视，一个关键缘故是用以训炼的数据存有非常大的误差性。来源于牛津大学和中东地区科技学院的科学研究工作人员就从2个用以识别人脸小表情的数据信息集中化找到直接证据。

这两个数据各自为：RAF-DB和CelebA。在其中，RAF-DB包括来源于互联网技术的不计其数的照片，这种照片包含脸部情绪和特性注解，而CelebA有着202599张图象，包括10177人的4 0种特性注解。

以便明确2个数据存有误差的水平，科学研究工作人员对任意非空子集开展了取样，并剪裁了图象，以使脸部在方位上保持一致。随后，她们应用支持向量机来考量精确性和公平公正。

理论上而言，以便让优化算法维持精确和公平公正，这一支持向量机应在全部全过程中出示不一样的人口数量人群的类似結果。但具体情况并不是这样。

在RAF-DB数据库查询中，绝大部分的照片来源于年纪在20-39岁中间的白种人。从实际的数据信息看来，这种照片有77.4%来源于白种人，15.5%来源于亚籍，而仅有7.1%来源于非洲裔外国人；在性別层面，女士为56.3%，男士为43.7%；在年纪上，超出一半的照片来源于20-39岁的年青人，三岁下列和七十岁之上的人乃至低于10%。

为进一步科学研究数据库查询存有成见的水平，科学研究工作人员各自应用了三种优化算法对数据库查询的精确性和公平公正开展评定。結果发觉，在精确性层面，RAF-DB数据库查询对极少数族裔的鉴别精确性小于白种人；在公平公正层面，性別特性相对性更公平公正，为97.3%，人种和年纪的公平公正相对性较低，为88.1%和77.7%。

而在CelebA数据库查询的图片出处中，女士占比为61.4%，而男士仅有38.6%。在年纪上，年青人占75.7%，显著超出了占有率24.3%的老人。

在精确性层面，CelebA数据库查询对年青女士的准确度为93.7%，但对老年人男士的精确性较低，为90.7%。而该数据库查询在性別和年纪层面的公平公正主要表现都不错，各自为98.2%和98.1%。

很多企业曾用面部识别手机软件给招聘面试者的心态评分，假如全部系统软件全是有成见的，针对招聘面试者而言就代表着不合理。脸部情绪数据信息集中化成见的存也突显了管控的重要性。怎样用法律法规避免 技术性乱用，变成将来这一行业里非常值得思索的难题之一。