您当前的位置:首页 > 电脑百科 > 程序开发 > 算法

推荐算法为啥这么“灵”,又为啥会“失灵”?

时间:2020-06-08 10:26:28  来源:  作者:

作者:木羊同学

来源:华章计算机(ID:hzbook_jsj)

推荐算法为啥这么“灵”,又为啥会“失灵”?

 

推荐系统是为用户推荐所需物品的软件工具和技术。提供的推荐旨在通过各种决策过程来支持用户,例如,买什么物品、听什么歌曲或读什么新闻。推荐系统的价值在于帮助用户解决信息过载和做出更好的选择,也是现在互联网领域最强大和最流行的信息发现工具之一。

今天就和大家聊聊:推荐算法为啥这么“灵”,又为啥会“失灵”?

01 推荐算法为啥这么“灵”?

要回答这个问题,首先得讲清楚推荐算法的原理是什么。

我们知道,互联网最大的特点就是有海量的信息。不过,光是数量庞大是没有任何意义的,需要信息真正发挥作用才能产生价值。所以,如何让信息发挥价值,始终是互联网发展的一条主轴。为此,我们想了很多办法。

“算法推荐系统”出现前,我们的做法是发现信息,这就是搜索引擎搜索引擎很有用,但限制也很明显,遗留了很多问题。回想一下:我们要用搜索引擎找信息,不是直接就得到想要的结果,而是得首先掏出一个“关键词”输入进去,然后才能看到命中的结果。

这个过程叫信息检索,也就是你得首先知道自己对什么信息感兴趣,得有线索,然后才能通过搜索引擎检索信息。但这就有个问题,互联网实在太大了,而人的认知圈子实在太小了,这就导致了大量本该有价值的信息,因为没被人看到,而只能静静躺在角落被白白浪费了。

这个问题初看不可能有解,毕竟从常识推断,我们得首先知道那条信息,才可能判断对它是否感兴趣,这个过程应该没法颠倒过来,去发现我们不知道但感兴趣的信息。但推荐算法做到了,它改变了搜索引擎的做法,不再是发现信息,而是发现兴趣。

推荐算法是怎样发现兴趣的呢?听起来好像很玄乎,不过原理远没有想象中的那么复杂,我用一句话概括——就是依靠人和物的关联关系,最少只要经过三次关联,就能完成兴趣发现,进行一次推荐。

这么说不太形象,我举一个例子。

  • 我爱喝快乐水,经常去家旁边的便利店买快乐水,店长当然很快就知道我对快乐水感兴趣,这是第一次关联——我关联快乐水。
  • 接着,店长收完钱,想起来有另一位顾客也对快乐水感兴趣,名字就叫小编吧。小编也常到店里买快乐水,这是第二次关联——快乐水关联小编。
  • 这位小编和我一样,对快乐水有着相同的执念,但又有点不同:除了到店里买快乐水,小编还常买另一样东西——薯片,这就是第三次关联——小编关联薯片。

想到这里,店长觉得:既然我们都爱喝快乐水,那没准你们也都喜欢吃薯片呢?于是,店长就向我推荐了薯片。这就是基于兴趣的推荐算法,大数据分析常举的例子——啤酒尿布,就是上面的这个原理。

我最近看到很多文章,说推荐算法比女朋友更懂你,外人一看都觉得挺神奇的,其实明白了推荐算法的原理,就应该知道这是理所当然的,术业有专攻,除非你的女朋友正好是店长。

当然了,推荐算法原理不复杂,但实际要发挥好作用,还需要根据应用场景作很多调整。推荐算法的重心在于发现人与人之间的共同点,但怎么划分共同点,是有很多不同的方法的。

就拿我们常见的推荐来说,既有“看过这个视频的观众还看过”这类基于视频节目的推荐,也有“同城的观众都在看”这类基于地理位置的推荐。

早期做推荐很简单,是基于点击量来推荐,但大家很快发现:基于点击量的推荐没法发现差异化的兴趣。所以,要想实现一套好用的推荐算法,通常要综合方方面面去考虑,而不只是单独的一两个点。

02 推荐算法为啥会“失灵”?

推荐算法平时没什么问题,但一旦出现极端情况,譬如说爆发大规模疫情,就会出现前面我们看到的推荐算法“失灵”的问题,大量推荐的都是疫情相同的信息,把其他信息都湮没了。

不过说实话,推荐算法有这样的结果,其实是“合理”的。你想一下:疫情期间你的朋友、家人、同学或者同事,包括你自己,最关心的是什么?就是疫情。

推荐算法这边呢,我们一再强调推荐算法要做的是发现兴趣,而恰恰是正确地发现了你对疫情的“兴趣”,所以推荐算法才给你大量推荐了疫情相关的信息。非要说这是问题的话,恐怕首先也得是社会学的问题。

但是,深入地想一想就会发现,这个问题没这么简单。互联网经济在过去很长一段的时间里是推崇一种理论的,叫长尾理论,大概意思是:人类社会中存在着大量的小众需求,你贩卖的东西再离经叛道,也总会能得到真爱的捧场,互联网就是沟通小众需求的桥梁。

推荐算法在很大程度上也受了这种理论的影响,所以有一种说法是:推荐算法的最终目标就是能发现这一个一个的小众圈子,把小众的信息推荐给圈子里的人。

但现实却是另外一回事。近几年大家讨论更多的是另一种互联网现象,如果你经营过公众号或者当过UP主,应该会对这种现象印象深刻,这就是头部效应

大部分甚至绝大部分的互联网流量,实际上是被少数几个“头部”信息生产者吸走了,剩下绝大多数的信息生产者,则仍然是静静地呆在角落里面被人遗忘。

本该打破这一现象的推荐算法,反而加剧了这种现象。因为占据头部,所以容易被推荐,因为容易被推荐,所以继续占据头部,推荐算法导致的这种上升螺旋,让头部效应更加明显。如果把本次疫情看作是一个新的头部,也许能更好地理解推荐算法为什么会在疫情中出现失灵。

那么,这个问题应该怎么解决呢?这个问题,容易回答,也不容易回答。从技术的角度看,这个问题想要解决,思路是很清晰的,就四个字:去极端化。

理论研究和真实环境往往有差别。理论研究都爱对环境条件进行简化假设,智能算法也不例外,通常假设各种情况出现的概率是服从均匀分布的,大家应该是旗鼓相当的公平竞争,谁也压不住谁,然后再在这个假设条件下构建算法的各种逻辑。

但实际上,一枝独秀也许才是真实环境中最为常见的情况。其它的所谓竞争者,要么是萌新,躲在角落瑟瑟发抖,要么是菜鸡,互啄上不了台面。在算法看来,这种现实情况假设情况相差实在太远,太极端,所以,会出现奇奇怪怪的结果自然也就不值得奇怪了。

要让算法恢复正常怎么办呢?只要把极端情况变得不那么极端就可以了,很多依靠评委打分的比赛为了避免受极端情况影响,通常会选择采取去掉一个最高分和一个最低分的做法,就是类似的思路。

不过,技术本身是中立的,是正是邪,要看使用的人,就好比菜刀,究竟是用来切菜还是砍人,不是由菜刀自己说了算。现在讨论的很多问题看起来是技术的问题,其实还是人的问题。譬如人工智能,说到自动驾驶,我们就很爱讨论一个话题,说算法应该怎么处理电车难题。

但实际上,算法自己是不会产生价值观的,算法的价值观,说到底还是人的价值观。推荐算法究竟要怎么改,说到底还是要看推荐算法的使用者怎么定义价值。

我想,推荐算法最后一定能够满足“推荐有价值信息”这一要求的,但是,这里的“有价值”究竟是对谁而言的有价值,那就是另一个问题了。

关于作者:莫凡,娱乐向机器学习解说选手,《机器学习算法的数学解析与Python实现》作者,前沿技术发展观潮者,擅长高冷技术的“白菜化”解说,微信公众号“睡前机器学习”,个人知乎号“木羊”。

推荐算法为啥这么“灵”,又为啥会“失灵”?

延伸阅读《机器学习算法的数学解析与Python实现》

推荐语:如果你之前不太了解机器学习,现在想要了解机器学习的主流算法和原理,并希望快速、清晰地建立对机器学习的“大局观”,但是担心一上来就被各种艰涩的数学公式“揍”得眼冒金星,那这本书就是你想要的。



Tags:推荐算法   点击:()  评论:()
声明:本站部分内容及图片来自互联网,转载是出于传递更多信息之目的,内容观点仅代表作者本人,如有任何标注错误或版权侵犯请与我们联系(Email:2595517585@qq.com),我们将及时更正、删除,谢谢。
▌相关推荐
导读:本文的主题为阿里飞猪推荐算法探索实践,首先会介绍电商背景下主流推荐技术的发展,例如基于全空间的CVR预估技术的发展历程等 ( ESMM / ESM^2 / HM^3 );接着会重点结合旅行...【详细内容】
2021-10-21  Tags: 推荐算法  点击:(56)  评论:(0)  加入收藏
商品详情页是手淘内流量最大的模块之一,它加载了数十亿级商品的详细信息,是用户整个决策过程必不可少的一环。这个区块不仅要承接用户对当前商品充分感知的诉求,同时也要能肩负起其他来源导流流量的留存,最终尽可能地激活...【详细内容】
2021-08-04  Tags: 推荐算法  点击:(89)  评论:(0)  加入收藏
架构头条 作者 | theinsaneapp.com译者 | 张健欣策划 | 万佳今天,我们会讨论一些不同的东西,例如 Spotify、YouTube、Signal Messenger、Amazon 等科技巨头的推荐算法,以及像 U...【详细内容】
2021-07-15  Tags: 推荐算法  点击:(121)  评论:(0)  加入收藏
导读:近年来,电商呈现内容化的趋势,以直播和短视频为首,内容化提升了用户体验,增加了平台收益。作为电商的重要流量入口,推荐算法除了应用于商品,现在也被应用于直播场景。我们将以阿里的B类电商网站1688为例,分享直播推荐相...【详细内容】
2021-04-21  Tags: 推荐算法  点击:(287)  评论:(0)  加入收藏
【写在前面】淘宝搜索引擎至今已经迭代了多轮,搜索排序也已经从最开始的统计模型升级到机器学习模型;2010年前是没有标签概念的就是基础标签这些都没有,随着算力的增强,2010年后...【详细内容】
2020-12-29  Tags: 推荐算法  点击:(222)  评论:(0)  加入收藏
指尖在抖音上划过,满屏幕的颜值少女,满屏幕的乡村野趣,满屏幕的都市传奇,满屏幕的生活乐趣。在碎片化的时间里,我们拿着手机,看着屏上的视频,充满了视觉的欢乐与笑语。手指迅速地划...【详细内容】
2020-09-28  Tags: 推荐算法  点击:(200)  评论:(0)  加入收藏
本次分享的主要内容包括以下三个方面:首先是介绍推荐业务背景,包括推荐产品形态及算法优化目标;然后是算法的演进路线;最后重点介绍在线学习是如何在饿了么推荐领域实践的。...【详细内容】
2020-09-21  Tags: 推荐算法  点击:(88)  评论:(0)  加入收藏
读者读完本文后,你会知道每类范式常用的算法有哪些、实现的思路是什么、以及常用的应用场景。本文也可以作为读者落地推荐算法到真实推荐场景的参考指南。一、推荐算法与产品...【详细内容】
2020-08-31  Tags: 推荐算法  点击:(147)  评论:(0)  加入收藏
近些年,随着深度学习理论,GPU 和 CPU 等计算机硬件,TensorFlow、Caffe、PyTorch 等算法平台的发展,深度学习算法在个性化推荐、计算机视觉、自然语言处理、语音识别等领域大放光...【详细内容】
2020-08-04  Tags: 推荐算法  点击:(53)  评论:(0)  加入收藏
今天,算法分发已经是信息平台、搜索引擎、浏览器、社交软件等几乎所有软件的标配,但同时,算法也开始面临质疑、挑战和误解。今日头条的推荐算法,从2012年9月第一版开发运行至今,...【详细内容】
2020-06-22  Tags: 推荐算法  点击:(66)  评论:(0)  加入收藏
▌简易百科推荐
前言Kafka 中有很多延时操作,比如对于耗时的网络请求(比如 Produce 是等待 ISR 副本复制成功)会被封装成 DelayOperation 进行延迟处理操作,防止阻塞 Kafka请求处理线程。Kafka...【详细内容】
2021-12-27  Java技术那些事    Tags:时间轮   点击:(1)  评论:(0)  加入收藏
博雯 发自 凹非寺量子位 报道 | 公众号 QbitAI在炼丹过程中,为了减少训练所需资源,MLer有时会将大型复杂的大模型“蒸馏”为较小的模型,同时还要保证与压缩前相当的结果。这就...【详细内容】
2021-12-24  量子位    Tags:蒸馏法   点击:(11)  评论:(0)  加入收藏
分稀疏重建和稠密重建两类:稀疏重建:使用RGB相机SLAMOrb-slam,Orb-slam2,orb-slam3:工程地址在: http://webdiis.unizar.es/~raulmur/orbslam/ DSO(Direct Sparse Odometry)因为...【详细内容】
2021-12-23  老师明明可以靠颜值    Tags:算法   点击:(7)  评论:(0)  加入收藏
1. 基本概念希尔排序又叫递减增量排序算法,它是在直接插入排序算法的基础上进行改进而来的,综合来说它的效率肯定是要高于直接插入排序算法的;希尔排序是一种不稳定的排序算法...【详细内容】
2021-12-22  青石野草    Tags:希尔排序   点击:(6)  评论:(0)  加入收藏
ROP是一种技巧,我们对execve函数进行拼凑来进行system /bin/sh。栈迁移的特征是溢出0x10个字符,在本次getshell中,还碰到了如何利用printf函数来进行canary的泄露。ROP+栈迁移...【详细内容】
2021-12-15  星云博创    Tags:栈迁移   点击:(22)  评论:(0)  加入收藏
一、什么是冒泡排序1.1、文字描述冒泡排序是一种简单的排序算法。它重复地走访要排序的数列,一次比较两个元素,如果他们的顺序错误就把他们交换过来。走访数列的工作是重复地...【详细内容】
2021-12-15    晓掌柜丶韶华  Tags:排序算法   点击:(16)  评论:(0)  加入收藏
在了解golang的map之前,我们需要了解哈希这个概念。哈希表,又称散列表(Hash table),是根据键(key)而直接访问在内存储存位置的数据结构。也就是说,它通过计算出一个键值的函数,将...【详细内容】
2021-12-07  一棵梧桐木    Tags:哈希表   点击:(14)  评论:(0)  加入收藏
前面文章在谈论分布式唯一ID生成的时候,有提到雪花算法,这一次,我们详细点讲解,只讲它。SnowFlake算法据国家大气研究中心的查尔斯·奈特称,一般的雪花大约由10^19个水分子...【详细内容】
2021-11-17  小心程序猿QAQ    Tags:雪花算法   点击:(24)  评论:(0)  加入收藏
导读:在大数据时代,对复杂数据结构中的各数据项进行有效的排序和查找的能力非常重要,因为很多现代算法都需要用到它。在为数据恰当选择排序和查找策略时,需要根据数据的规模和类型进行判断。尽管不同策略最终得到的结果完...【详细内容】
2021-11-04  华章科技    Tags:排序算法   点击:(40)  评论:(0)  加入收藏
这是我在网上找的资源的一个总结,会先给出一个我看了觉得还行的关于算法的讲解,再配上实现的代码: Original author: Bill_Hoo Original Address: http://blog.sina.com.cn/s/bl...【详细内容】
2021-11-04  有AI野心的电工和码农    Tags: KMP算法   点击:(36)  评论:(0)  加入收藏
最新更新
栏目热门
栏目头条