朱倩男：推荐系统不会自主产生信息茧房 需将算法优化与人工干预结合

中新经纬客户端6月25日电 (薛宇飞)近日，由中国人民大学高瓴人工智能学院等单位主办的“推荐算法社会价值与可持续发展”研讨会在中国人民大学举行。会上，国内首份算法科普性报告《算法向善与个性化推荐发展研究报告》(下称《报告》)发布，中国人民大学高瓴人工智能学院博士后朱倩男分享了相关研究成果。

中国人民大学高瓴人工智能学院博士后朱倩男 主办方供图

当前，推荐算法在给工作生活带来便利的同时，也引发了信息茧房、算法黑盒、算法偏见等争议问题。据朱倩男介绍，此次发布的《报告》希望以一种通俗易懂的方式让大众了解什么是推荐系统，通过分析推荐系统面临问题的原因，让公众了解推荐系统在这些问题中到底扮演者怎样的角色，以及是否需要对这些问题的产生负责。她希望通过报告提高大众对推荐系统的认知，消除大众对推荐系统的误解以及不安心理。

在对“信息茧房”问题的研究中，将推荐结果多样化是学术届的主流研究方向。主要是从多个角度探索和挖掘用户多样性兴趣，使推荐结果更加丰富和多样化。在工业界，很多互联网企业也在积极解决信息茧房的问题，比如抖音的“同城窗口”和“关注窗口”会给用户提供从信息茧房中走出去的机会；今日头条的“热榜”模块会给用户推荐国家大事、新闻要事，帮助用户接触到更多的信息面。

朱倩男表示，推荐系统不会自主地产生信息茧房，信息茧房一直就有，不是一个新的现象。只不过进入人工智能时代，信息茧房的现象被显性看见。“我们给出了一些建设性的意见，比如增加推荐结果多样性，优化推荐算法机制，增加人工干预来提高推荐结果的质量。”她说。

对于如何规避“算法黑盒”的问题，朱倩男介绍说，第一个是推行算法披露机制，提高算法透明度。第二是加强对可解释性推荐算法的研究，通过建立通用的推荐算法框架来提高算法的可解释性。算法黑盒会带来可解释性差的问题，朱倩男认为这是一个正常的问题，这是人工智能时代发展过程的中间状态，随着政府、研究机构以及公众对推荐算法的关注，对算法透明度和可解释性的研究会是今后的热点。

对于“虚假新闻和低俗内容泛滥”问题，目前学术界大部分的工作是研究新闻的形成原因以及路径，从这两个方面规避虚假新闻和低俗内容的传播。聚焦到工业界，一个典型的案例就是今日头条采用人工和模型双重结合机制，建立一些鉴黄、反低俗等模型，来过滤那些负能量的内容，从而规避虚假新闻和低俗内容的广泛传播。

针对“算法歧视与偏见”问题，目前学术界的做法侧重解决数据和算法自身携带歧视问题。对于工业界来说，目前对于解决歧视与偏见问题处于起步阶段，后面还要探索。朱倩男称，“推荐算法会存在歧视与偏见，归根到底是对于数据不完全解读造成的，比方说对于数据本身可能含有一些歧视性、不完整信息，就会造成推荐系统有些不公平现象的产生。同时，我们也列了一些规避算法歧视和偏见的措施，比如建立一个算法追责机制，对事故主体进行确认并追责。”

对于“用户隐私与安全”问题，朱倩男表示，“推荐算法设计本身并不会造成用户数据隐私的泄露，更多可能是在数据传输或者存储过程中造成用户隐私泄露。目前学术界主要采取的是数据扰动方法来规避用户数据泄漏。我们在文章中写了一些关于保护用户隐私与安全的措施，包括用户数据保护、推荐结果保护和预测模型保护。”

朱倩男介绍，报告对产业界的典型案例做了分析。以今日头条资讯推荐为例。该推荐系统主要采用一些推荐算法，如深度学习、协同过滤推荐、有监督学习等，对资讯内容、用户特征和环境特征三者融合，做个性化精准推荐。现实场景中，今日头条面对的数据量非常大，它采用了Storm集群和千级别召回策略来对用户推荐的内容进行实时更新。重要的是，内容安全一直是今日头条比较关注的，有专门的内容审核团队和机器学习算法对内容进行鉴别，以确保内容的安全性。(中新经纬APP)