个性化推荐很多读者都知道，但其中不乏认识上的误区。有的人觉得个性化推荐就是细分市场和精准营销，实际上细分市场和精准营销往往是把潜在的用户分成很多群体，这固然相比基于全体的统计有了长足的进步，但是距离“给每一个用户量身定做的信息服务”还有很大的差距，所以，只能说个性化推荐是细分市场的极致！实际上，信息服务经历了两次理念上的变革，第一次是从总体到群体，第二次是从群体到个体。第二次变革正在进行中，所要用到的核心技术就是这篇文章要讨论的个性化推荐技术。
还有读者觉得个性化推荐就等同于协同过滤，这可能是因为协同过滤应用比较广泛并且比较容易为大众理解。实际上协同过滤只是个性化推荐技术中的一个成员。它与很多更先进技术相比，就好像流行歌曲和高雅音乐，前者广受欢迎，而且一般人也可以拿个麦克风吼两声，但是说到艺术高度，流行歌曲还是要差一些。当然，流行歌曲经济价值可能更大，这也是事实。总的来说，协同过滤只是个性化推荐技术中的一款轻武器，远远不等于个性化推荐技术本身。
图1：信息服务的两次变革：从总体到群体，从群体到个体。
有些读者可能不是很了解个性化推荐，我先推荐一些阅读的材料。中文的综述可以看我们2009年在《自然科学进展》上的综述[1]。这篇文章质量不能说很好，但是可以比较快得到很多信息，了解个性化推荐研究的概貌。有了这个基础，如果想要了解突出应用的算法和技术，我推荐项亮和陈义合著的《推荐系统实践》[2]。百分点科技出版过一本名为《个性化：商业的未来》的小册子[3]，应用场景和商业模式介绍得比较细致，技术上涉及很少，附录里面介绍了一些主流算法和可能的缺陷，或许能够稍有启发。国外的专著建议关注最近出版的两本[4,5]，其中[4]实际上是很多文章的汇总，因为写这些文章的都是达人，所以质量上佳。
Adomavicius和Tuzhilin的大型综述特别有影响力，不仅系统回顾了推荐系统研究的全貌，还提出了一些有趣的开放性问题[6]——尽管我个人不是很喜欢他们对于推荐系统的分类方法。我们今年发表了一篇大综述，应该是目前最全面的综述，所强调的不仅仅是算法，还有很多现象和思路[7]——大家有兴趣不妨看看。
有些读者认为个性化推荐技术的研究已经进入了很成熟的阶段，没有什么特别激动人心的问题和成果。恰恰相反，现在个性化推荐技术面临很大的挑战，这也是本文力图让大家认识的。接下来进入正题！我将列出十个挑战（仅代表个人观点），其中有一些是很多年前就认识到但是没有得到解决的长期问题，有一些事实上不可能完全解决，只能提出改良方案，还有一些是最近的一些研究提出来的焦点问题。特别要提醒读者注意的是，这十个挑战并不是孤立的，极有可能一个方向上的突破能够对若干重大挑战都带来进展。
挑战一：数据稀疏性问题。
现在待处理的推荐系统规模越来越大，用户和商品（也包括其他物品，譬如音乐、网页、文献……）数目动辄百千万计，两个用户之间选择的重叠非常少。如果用用户和商品之间已有的选择关系占所有可能存在的选择关系的比例来衡量系统的稀疏性，那么我们平时研究最多的MovieLens数据集的稀疏度是4.5%，Netflix是1.2%。这些其实都是非常密的数据了，Bibsonomy是0.35%，Delicious是0.046%。想想淘宝上号称有近10亿商品，平均而言一个用户能浏览1000件吗，估计不能，所以稀疏度应该在百万分之一或以下的量级。数据非常稀疏，使得绝大部分基于关联分析的算法（譬如协同过滤）效果都不好。这种情况下，通过珍贵的选择数据让用户和用户，商品和商品之间产生关联的重要性，往往要比用户之间对商品打分的相关性还重要[8]。举个例子来说，你注意到一个用户看了一部鬼片，这就很大程度上暴露了用户的兴趣，并且使其和很多其他看过同样片子的用户关联起来了——至于他给这个片子评价高还是低，反而不那么重要了。事实上，我们最近的分析显示，稀疏数据情况下给同一个商品分别打负分（低评价）和打正分的两个用户要看做正相关的而非负相关的，就是说负分扮演了“正面的角色”[9]——我们需要很严肃地重新审查负分的作用，有的时候负分甚至作用大于正分[10]。
这个问题本质上是无法完全克服的，但是有很多办法，可以在相当程度上缓解这个问题。首先可以通过扩散的算法，从原来的一阶关联（两个用户有多少相似打分或者共同购买的商品）到二阶甚至更高阶的关联[11-13]，甚至通过迭代寻优的方法，考虑全局信息导致的关联[14-15]。这些方法共同的缺点是建立在相似性本身可以传播的假设上，并且计算量往往比较大。其次在分辨率非常高的精度下，例如考虑单品，数据可能非常稀疏。但是如果把这些商品信息粗粒化，譬如只考虑一个个的品类，数据就会立刻变得稠密。如果能够计算品类之间的相似性，就可以帮助进行基于品类的推荐（图2是品类树的示意图）。在语义树方面有过一些这方面的尝试[16]，但是很不成熟，要应用到商品推荐上还需要理论和技术上的进步。另外，还可以通过添加一些缺省的打分或选择，提高相似性的分辨率，从而提高算法的精确度[17]。这种添加既可以是随机的，也可能来自于特定的预测算法[18]。
随机的缺省分或随机选择为什么会起到正面的作用呢，仅仅是因为提高了数据的密度吗？我认为仔细的思考会否决这个结论。对于局部热传导的算法[19]，添加随机连接能够整体把度最小的一些节点的度提高，从而降低小度节点之间度差异的比例（原来度为1的节点和度为3的节点度值相差2倍，现在都加上2，度为3的节点和度为5的节点度值相差还不到1倍），这在某种程度上可以克服局部热传导过度倾向于推荐最小度节点的缺陷。类似地，随机链接可以克服协同过滤或局部能量扩散算法[20]过度倾向于推荐最大度节点的缺陷。总之，如果拉小度的比例差异能够在某种程度上克服算法的缺陷，那么使用随机缺省打分就能起到提高精确度的作用。
图2：品类树的示意图。
挑战二：冷启动问题。
新用户因为罕有可以利用的行为信息，很难给出精确的推荐。反过来，新商品由于被选择次数很少，也难以找到合适的办法推荐给用户——这就是所谓的冷启动问题。如果我们能够获得商品充分的文本信息并据此计算商品之间的相似性，就可以很好解决冷启动的问题[21]，譬如我们一般不担心图书或者论文推荐会遇到冷启动的问题。不幸的是，大部分商品不同于图书和文章本身就是丰富的内容，在这种情况下通过人工或者自动搜索爬取的方法商品相应的描述，也会有一定的效果。与之相似，通过注册以及询问得知一些用户的属性信息，譬如年龄、居住城市、受教育程度、性别、职业等等，能够得到用户之间属性的相似度，从而提高冷启动时候推荐的精确度[22,23]。最近标签系统（tagging systems）的广泛应用提供了解决冷启动问题的可能方案[24]。因为标签既可以看作是商品内容的萃取，同时也反映了用户的个性化喜好——譬如对《桃姐》这部电影，有的人打上标签“伦理”，有的人打上标签“刘德华”，两个人看的电影一样，但是兴趣点可能不尽相同。当然，利用标签也只能是提高有少量行为的用户的推荐准确性，对于纯粹的冷启动用户，是没有帮助的，因为这些人还没有打过任何标签。系统也可以给商品打上标签，但是这里面没有个性化的因素，效果会打一个折扣。从这个意义上讲，利用标签进行推荐、激励用户打标签以及引导用户选择合适的标签，都非常重要[25]。
要缓解冷启动的问题，一种有效的办法是尽可能快地了解用户的特点和需求，所以如何设计问卷调查本身以及如何利用其中的信息也是一门大学问[26]。与之相对应，对于一个新商品，怎么样让用户，特别是有影响力的用户，对其给出高质量的评价，对于解决冷启动问题也有重大价值[27]。如何在保证一定推荐精度的情况下，让新用户和新商品的特性尽快暴露，是一个很有意义也很困难的研究难题[28]。
最近一个有趣的研究显示，新用户更容易选择特别流行的商品[29]——这无论如何是一个好消息，说明使用热销榜也能获得不错的结果。冷启动问题还可以通过多维数据的交叉推荐和社会推荐的方法部分解决，其精确度和多样性又远胜于热销榜，这一点我们在后面会进一步介绍。
挑战三：大数据处理与增量计算问题。
尽管数据很稀疏，大部分数据都包含百千万计的用户和商品，与此同时，新商品也不断加入系统，新用户不停进入系统，用户和商品之间还不停产生新的连接。数据量不仅大，而且数据本身还时时动态变化，如何快速高效处理这些数据成为迫在眉睫的问题。在这个大前提下，算法时间和空间的复杂性，尤其是前者，获得了空前重视。一般而言，一个高效的算法，要么自身复杂性很低，要么能够很好并行化，要么两者兼具。
提高算法的效率，有很多途径。大致上可以分为两类，一是精确算法，二是近似算法。需要注意的是，精确算法中“精确”这次词，并不是指算法的推荐精确度有多大，而是相对于近似算法而言，强调这个算法并不是以牺牲算法中某些步骤的精确性而提高效率的。譬如说计算n的阶乘,可以有不同的高精度算法，凡是得出最后精确值的就是精确算法，而如果利用斯特林公式进行计算，就属于近似算法了。一般而言，近似算法的效率会明显高于精确算法。
通过巧妙的方法，可以设计出效率很高的精确算法。譬如Porteous等人设计了一种可以用于潜层狄利克雷分配（Latent Dirichlet Allocation, LDA）算法的新的采样方法，比传统吉布斯采样算法快8倍[30]。
Cacheda等人设计了一种预测算法，只考虑一个用户与其他用户打分的差异以及一个商品与其他商品得分的差异，这个算法远远快于协同过滤算法，却能够得到比标准的基于用户的协同过滤算法更精确的预测效果，其预测精度有时候甚至可以和SVD分解的方法媲美[31]。提高精确算法的另外一条途径就是并行化——很多算法的并行化，一点都不简单。谷歌中国成功将LDA算法并行化并应用于Orkut的推荐中，取得了很好的效果[32]。最近Gemulla等人提出了一种随机梯度下降法，可以并行分解百万行列的矩阵，该方法可以应用在包括推荐在内的若干场景下[33]。
近似算法往往基于增量计算，也就是说当产生新用户，新商品以及新的连接关系时，算法的结果不需要在整个数据集上重新进行计算得到，而只需要考虑所增加节点和连边局部的信息，对原有的结果进行微扰，快速得到新结果[34]。一般而言，这种算法随着加入的信息量的增多，其误差会积累变大，最终每过一段时间还是需要利用全局数据重新进行计算。更先进但也更苦难的办法，是设计出一种算法，能够保证其误差不会累积，也就是说其结果与利用全部数据重新计算的结果之间的差异不会单调上升。我们不妨把这种算法叫做自适应算法，它是增量算法的一个加强版本[35]，其设计要求和难度更高。增量算法已经在业界有了应用，譬如百分点推荐引擎中的若干算法都采用了增量技术，使得用户每次新浏览、收藏或者购买商品后其推荐列表立刻得到更新。但是自适应算法目前还只是在比较特殊的算法上面才能实现，更勿谈工业界应用了。
图3：兼顾精确性和多样性的混合扩散推荐算法示意图。
挑战四：多样性与精确性的两难困境。
如果要给用户推荐他喜欢的商品，最“保险”的方式就是给他特别流行的商品，因为这些商品有更大的可能性被喜欢（否则也不会那么流行），往坏了说，也很难特别被讨厌（不要举凤姐的例子）。但是，这样的推荐产生的用户体验并不一定好，因为用户很可能已经知道这些热销流行的产品，所以得到的信息量很少，并且用户不会认同这是一种“个性化的”推荐。Mcnee等人已经警告大家，盲目崇拜精确性指标可能会伤害推荐系统——因为这样可能会导致用户得到一些信息量为0的“精准推荐”并且视野变得越来越狭窄[36]。事实上，让用户视野变得狭窄也是协同过滤算法存在的一个比较主要的缺陷。已经有一些实证研究显示，多样性、新颖性、偶然性这些从未获得过如精确性一般重要地位的因素，对于用户体验都十分重要——譬如用户希望音乐推荐更多样更偶然[37]。
与此同时，应用个性化推荐技术的商家，也希望推荐中有更多的品类出现，从而激发用户新的购物需求。多样性和新颖性的要求在大多数情况下具有一致性，一些商家更喜欢引导用户关注一些销量一般的长尾商品（这些商品的利润往往更多），这种新颖性的要求往往和多样性的要求一致。还有一些特别的需求非常强调多样性和新颖性，譬如类似于“唯品会”这样的限时抢购模式或者最近非常流行的团购模式，广受欢迎的热销商品很快就抢购/团购一空，推荐引擎能够发挥作用的只能是推荐那些不太被主流消费者关注的小众产品。对于新浪微博这类的社会网络，相当部分新用户很快就不活跃了，很大程度上是因为得不到其他人关注。类似地，世纪佳缘和百合网这类的网站中，一个用户如果很长时间没有机会得到任何异性的青睐，也会失去动力。在这种情况下，我们要考虑的不仅仅是向某些用户推荐，而是如何把一些至少目前还不是特别受欢迎的用户推荐出去——这时候，在多样性和新颖性上表现出色的算法意义更大。最近Ugander等人的工作显示，一个用户要向其他若干用户推广某种互联网活动，在同等推广力度下（用推荐的朋友数目衡量），其所选择的推荐对象的结构多样性越大，效果往往越好[38]。
保证推荐的多样性很有价值，但是，推荐多样的商品和新颖的商品与推荐的精确性之间存在矛盾，因为前者风险很大——一个没什么人看过或者打分较低的东西推荐出手，很可能被用户憎恶，从而效果更差。很多时候，这是一个两难的问题，只能通过牺牲多样性来提高精确性，或者牺牲精确性来提高多样性。一种可行之策是直接对算法得到的推荐列表进行处理，从而提升其多样性[39-41]。Hurley和Zhang就是在推荐算法得到的前N个商品中进行一次组合优化，找出L个商品（L
图4：对推荐系统实施攻击的示意图。
挑战五：推荐系统的脆弱性问题。
受推荐系统在电子商务领域重大的经济利益的驱动，一些心怀不轨的用户通过提供一些虚假恶意的行为，故意增加或者压制某些商品被推荐的可能性[44]。图4展示了一个攻击的实例。假设我们现在要决定是否向用户h推荐商品7，如果系统中只有那些合法用户（a-g），通过上表我们发现用户a和f与用户h的品味比较相似，由于用户a和f都喜欢商品7，那么系统应该把商品7推荐给用户h。如果受到恶意攻击，系统会发现大多数由攻击者生成的虚假用户（i-m）的品味都与用户h相似，并且他们对商品7都给了负面的评价，那么在这种情况下，系统就不会把商品7推荐给用户h。这样一来，就达到了那些攻击者降低对商品7推荐可能性的目的。上面的例子仅仅是众多攻击方案中比较简单的一员，Burke等人2011年的研究报告中就分析了4大种类8种不同的攻击策略[45]。除了如图4这样的简单方法外，攻击者还通过将攻击对象和热销商品或特定用户群喜欢的商品绑定而提高攻击效果，甚至通过持续探测猜测系统的计算相似性的算法，从而有针对性地开展攻击。
从上面的介绍可以看出，一个推荐算法能否在一定程度上保持对恶意攻击的鲁棒性，成为需要认真考虑的一个特征。以最简单的关联规则挖掘算法为例，Apriori算法的鲁棒性就远胜于k近邻算法[46]。有一些技术已经被设计出来提高推荐系统面对恶意攻击的鲁棒性，譬如通过分析对比真实用户和疑似恶意用户之间打分行为模式的差异，提前对恶意行为进行判断，从而阻止其进入系统或赋予疑似恶意用户比较低的影响力[47-49]。总体来说，这方面的研究相对较少，系统性的分析还很缺乏，反而是攻击策略层出不穷，有一种“道高一尺，魔高一丈”的感觉。
挑战六：用户行为模式的挖掘和利用。
深入挖掘用户的行为模式有望提高推荐的效果或在更复杂的场景下进行推荐。譬如说，新用户和老用户具有很不一样的选择模式：一般而言，新用户倾向于选择热门的商品，而老用户对于小众商品关注更多[29]，新用户所选择的商品相似度更高，老用户所选择的商品多样性较高[50]。上面曾经介绍过的能量扩散和热传导的混合算法[19]可以通过一个单参数调节推荐结果的多样性和热门程度，在这种情况下就可以考虑给不同用户赋予不同的参数（从算法结果的个性化到算法本身的个性化），甚至允许用户自己移动一个滑钮调节这个参数——当用户想看热门的时候，算法提供热门推荐；当用户想找点很酷的产品时，算法也可以提供冷门推荐。
用户行为的时空统计特性也可以用于提高推荐或者设计针对特定场景的应用（关于人类行为时空特性的详细分析请参考文献[51]）。最简单的例子是在推荐前考虑用户从事相关活动随时间变化的活跃性。举个例子，在进行手机个性化阅读推荐的时候，如果曾经的数据显示某个用户只在7点到8点之间有一个小时左右的手机阅读行为（可能是上班时在地铁或者公交车上），那么9点钟发送一个电子书阅读的短信广告就是很不明智的选择。从含时数据中还可以分析出影响用户选择的长期和短期的兴趣，通过将这两种效应分离出来，可以明显提高推荐的精确度[52-54]。事实上，简单假设用户兴趣随时间按照指数递减，也能够得到改进的推荐效果[55,56]。随着移动互联网的飞速发展以及GPS及其他手机定位技术的发展和普及，基于位置的服务成为一个受到学术界和业界广泛关注的问题。基于位置信息的推荐可能会成为个性化推荐的一个研究热点和重要的应用场景，而这个问题的解决需要能够对用户的移动模式有深入理解，包括预测用户的移动轨迹和判断用户在当前位置是否有可能进行餐饮购物活动等[57,58]，同时还要有定量的办法去定义用户之间以及地点之间的相似性[59,60]。事实上，即便简单把位置信息作为一个单独属性加以考虑，也可以明显提高广告推荐[61]和朋友推荐[62]的精确度。特别要提醒各位读者，知道了用户的位置信息，并不意味着可以随时向用户推荐近处的餐饮购物等等场所，因为频繁而不精确的推荐会让用户有一种被窥探和骚扰的感觉。从这个意义上讲，把握进行推荐的时间和地点非常重要！一般而言，在用户经常出没的地点，譬如工作地点、学校、住家等等进行推荐的效果往往是比较差的，因为用户对于这些地点比系统还熟悉，而且很难想象用户在上下班的路上会有特别地情致购物或者进餐。实际上可以预测的时空信息往往是商业价值比较低的，而用户在吃饭时间去了一个平常不太去的地方，往往有更大的可能是和朋友聚会就餐。这就要求系统更加智能，能够对用户当前行为所蕴含的信息量进行估计（要同时考虑时间和空间），并且在信息量充分大的时候进行推荐。
另外，不同用户打分的模式也很不一样[63,64]，用户针对不同商品的行为模式也不一样[65,66]（想象你在网上下载一首歌和团购房子时的区别），这些模式都可以挖掘刻画并利用来提高推荐的效果。总而言之，推荐引擎要做的是针对合适的对象在合适的时间和合适的地方推荐合适的内容（4S标准）。通过分析不同用户在选择、评价、时间、空间等等行为模式上的不同，我们最终的目的是猜测目标用户当前的意图，并且针对不同的意图匹配或组合不同的算法结果，将其推荐给用户。这不仅需要更高级的数据分析能力，还需要有丰富经验了解业务逻辑的工作人员配合完成。这种称为“情境计算”的思路，有可能较大程度提高推荐及其他信息服务（譬如搜索）的质量，百分点的推荐引擎就是在这种思路下架构的[67]。
图5：推荐系统评价指标一览。
挑战七：推荐系统效果评估。
推荐系统的概念提出已经有几十年了，但是怎么评价推荐系统，仍然是一个很大的问题。常见的评估指标可以分为四大类，分别是准确度、多样性、新颖性和覆盖率，每一类下辖很多不同的指标，譬如准确度指标又可以分为四大类，分别是预测评分准确度、预测评分关联、分类准确度、排序准确度四类。以分类准确度为例，又包括准确率、召回率、准确率提高率、召回率提高率、F1指标和AUC值。图5总结了文献中曾经出现过的几乎所有的推荐系统指标[68]。之所以对推荐系统的评价很困难，是因为这些指标之间并不是一致的，一般而言，多样性、新颖性和覆盖率之间一致性较好，但不绝对，而这三者往往都和准确度有冲突。如前所述，解决多样性和精确性之间的矛盾本身就是一个重大的挑战！更不幸的是，即便是同一类指标，其表现也不完全一致。举个例子说，一些基于SVD分解的算法，以降低均方根误差（参考图5）为目标，在预测评分精确性方面表现上佳，但是在推荐前L个商品的准确率和召回率（参考图5）方面则表现得很不如人意，有些情况下甚至还不如直接按照流行度排序的非个性化算法[69]。
图5介绍的那些指标都是基于数据本身的指标，可以认为是第一层次。实际上，在真实应用时，更为重要的是另外两个层次的评价。第二个层次是商业应用上的关键表现指标，譬如受推荐影响的转化率，购买率，客单价，购买品类数等等，第三个层次是用户真实的体验。绝大部分研究只针对第一个层次的评价指标，而业界真正感兴趣的是第二个层次的评价（譬如到底是哪个指标或者哪些指标组合的结果能够提高用户购买的客单价），而第三个层细最难，没人能知道，只能通过第二层次的效果来估计。如何建立第一层面和第二层面指标之间的关系，就成为了关键，这一步打通了，理论和应用之间的屏障就通了一大半了。
图6：Facebook页面上用户注意力集中的区域的分布，其中红色的区域是用户注意力最集中的区域，黄色次之，绿色再次之，白色最次。
挑战八：用户界面与用户体验。
这个问题更多地不是一个学术性质的问题，而是从真实应用中来的问题。十年前就有学者指出[70,71]，推荐结果的可解释性，对于用户体验有至关重要的影响——用户希望知道这个推荐是怎么来的。基于相似性的推荐（例如协同过滤）在这个问题上具有明显的优势，譬如亚马逊基于商品的协同过滤的推荐[72]在发送推荐的电子邮件时会告诉用户之所以向其推荐某书，是因为用户以前购买过某些书，新浪微博基于局部结构相似性的“关注对象推荐”[73]在推荐的同时会说明哪些你的朋友也关注过他们。相对地，矩阵分解或者集成学习算法就很难向用户解释推荐结果的起源。一般而言，用户更喜欢来自自己朋友的推荐而不是系统的推荐，这一点在后面讲社会推荐的时候还会详细提到。另外，好的界面设计，能够让用户觉得推荐的结果更加多样化[74]，更加可信[75]。
实际应用时，推荐列表往往含有很多项，这些推荐项最好能够区分成很多类别，不同类别往往来自于不同的推荐方法，譬如看过还看过（浏览过本商品的客户还浏览过的商品）、买过还买过（购买过本商品的客户还购买过的商品）、看过最终购买（浏览过本商品的客户最终购买的商品）、个性化热销榜（个性化流行品推荐）、猜你喜欢（个性化冷门商品推荐）等等。当然，每个推荐项呈现的结果往往都来自复杂的算法，绝不仅仅象它们的名字听起来那么简单。另外，推荐栏呈现的位置对于推荐的结果影响也很大，因为同一个网页上不同位置对于用户注意力的吸引程度大不一样。图6给出了EyeTrackShop针对Facebook个人页面不同位置受关注程度的示意，可以看出，不同的位置受到的关注相差很大。
如何更好呈现推荐，是一个很难建立理论模型和进行量化的问题，对于不同被推荐品而言，用户界面设计的准则也可能大不相同。建立一个可以进行A/B测试的系统（随机将用户分为两部分，各自看到不同的推荐页面和推荐结果），可以积累重要的实验数据，指导进一步地改善。
挑战九：多维数据的交叉利用。
目前网络科学研究一个广受关注的概念是具有相互作用的网络的结构和功能。网络与网络之间的相互作用大体可以分成三类：一类是依存关系[76]，譬如电力网络和Internet，如果发生了大规模停电事故，当地的自主系统和路由器也会受到影响，导致网络局部中断；第二类是合作关系[77]，譬如人的一次出行，可以看作航空网络、铁路网络和公路网络的一次合作；第三类是交叠关系[78]，主要针对社会网络，这也是我们最关注的。我们几乎每一个人，都参与了不止一个大型的社会网络中，譬如你可能既有新浪微博的帐号，又是人人网的注册用户，还是用手机，那么你已经同时在三个巨大的社会网络中了。与此同时，你可能还经常在淘宝、京东、麦包包、1号店、库巴网……这些地方进行网购，因此也是若干张用户-商品二部分图中的成员。
想象如果能够把这些网络数据整合起来，特别是知道每个节点身份的对应关系（不需要知道你真实身份，只需要知道不同网络中存在的若干节点是同一个人），可以带来的巨大的社会经济价值。举个例子，你可能已经在新浪微博上关注了很多数据挖掘达人的微博，并且分享了很多算法学习的心得和问题，当你第一次上当当网购书的时候，如果主页向你推荐数据挖掘的最新专著并附有折扣，你会心动吗？交叠社会关系中的数据挖掘，或称多维数据挖掘，是真正有望解决系统内部冷启动问题的终极法宝——只要用户在系统外部的其他系统有过活动。单纯从个性化商品推荐来讲，可以利用用户在其他电商的浏览购买历史为提高在目标电商推荐的精确度——当然，每一个电商既是付出者，也是获利者，总体而言，大家能够通过提高用户体验和点击深度实现共赢。与此同时，可以利用微博和其他社会网络的活动提高商品推荐的精度，还可以反过来利用商品浏览历史提高微博关注对象推荐的精度。给一个经常购买专业羽毛球和浏览各种专业羽毛球设备的用户推荐关注羽毛球的专业选手和业余教练的成功率应该很高，而且不会陷入“总在一个圈子里面来回推荐”的毛病中。
从机器学习的角度，杨强等人提出的“迁移学习”算法有望解决这种跨邻域的推荐[79]，因为这种算法最基本的假设就是在一个领域所学习的知识在其他领域也具有一定的普适性。Nori等人最近的分析显示[80]，在某系统中特定的行为（比如说在Delicious上收藏标签）可以被用于预测另外系统中的特定行为（比如说在Twitter上的信息选择），其核心的思想与杨强等人一致。事实上，这种跨网的学习已经被证明可以提高链路预测的效果[81,82]。尽管有上面的有利的证据，我们还是需要特别注意，迁移学习在不同领域间的效果差异很大，还依赖于相关系统内部连接产生的机制，并不是普遍都能产生良好地效果，因为有的时候在一个商品品类上表现出高相似性的用户在另外一些商品品类上可能表现出完全不同的偏好[83]。
图7：用户跨多个独立B2C电商网站浏览购物的示意图。
我们分析了百分点科技服务客户的真实数据，发现有相当比例的用户都具有交叉购物的习惯，即在多个独立B2C电商有浏览和购买行为，如图7所示[84,85]。即便只考虑两个点上，例如利用麦包包的浏览购买数据为名鞋库的用户进行个性化推荐（这些用户在名鞋库上是没有任何历史记录的新用户，但是在麦包包上有浏览购买行为），就可以明显提高推荐的准确度（比完全冷启动的随机推荐高数十倍）[84]，而如果利用3家或以上的外部电商的数据，其推荐的精确度可以明显高于热销榜（注意，热销榜一点个性化都没有），特别在团购类网站上表现非常好[85]。拥有交叉用户使得不同系统之间的“迁移”更加容易（注意，“迁移学习”原始的方法[79]不要求系统之间具有相同的用户和商品），Sahebi和Cohen最近测试同时评价了书和电影的用户，也发现利用对书的评分信息可以相当程度上预测对电影的评分[86]。虽然针对多维数据挖掘的研究刚刚起步，但我相信其必将成为学术研究和商业应用上的双料热点和双料难点。
挑战十：社会推荐。
很早以前，研究人员就发现，用户更喜欢来自朋友的推荐而不是被系统“算出来的推荐”[87]。社会影响力被认为比历史行为的相似性更加重要[88,89]，例如通过社会关系的分析，可以大幅度提高从科研文献[90]到网购商品[91]，从个人博客到[92]手机应用软件[93]推荐的精确度。最近有证据显示，朋友推荐也是淘宝商品销售一个非常重要的驱动力量[94]。来自朋友的社会推荐有两方面的效果：一是增加销售（含下载、阅读……）[95]，二是在销售后提高用户的评价[96]。当然，社会推荐的效果也不是我们想象的那么简单：Leskovec等人[95]在同一篇论文中指出针对不同类型的商品社会推荐的效果大不一样；Yuan等人指出不同类型的社会关系对推荐的影响也不同[97]；Abbassi等人指出朋友的负面评价影响力要大于正面评价[98]；等等。
在社会推荐方向存在的挑战主要可以分为三类：一是如何利用社会关系提高推荐的精确度[89,99]，二是如何建立更好的机制以促进社会推荐[100-102]，三是如何将社会信任关系引入到推荐系统中[103-107]。社会推荐的效果可能来自于类似口碑传播的社会影响力，也可能是因为朋友之间本来就具有相似的兴趣或者兴趣相投更易成为朋友，对这些不同的潜在因素进行量化区别，也属学术研究的热点之一[108]。
原文发布时间为：2015-09-01
本文来自云栖社区合作伙伴“大数据文摘”，了解相关信息可以关注“BigDataDigest”微信公众号
