您当前的位置:首页 > 新闻 > 科技

网民如何提升自身的算法素养,远离算法之“算计”?

时间:2022-04-07 10:15:03  来源:光明日报  作者:

  如何远离算法之“算计”?

  ——新规之下的网民算法素养调研

  编者按

  3月1日,国家互联网信息办公室等四部门联合发布的《互联网信息服务算法推荐管理规定》(简称《规定》)正式实施。《规定》对算法推荐服务做出全面规范,明确了算法治理体制机制,科学构建了网络平台问责体系。随之启动的2022年“清朗·算法综合治理”专项行动,要求督促整改算法不合理应用带来的“信息茧房”“算法歧视”“大数据杀熟”等问题。上述新规及举措是在数字化变革时代对算法治理的有效回应。在“与算法共存”的时代中,网民作为网络行为主体,如何提升自身的算法素养,远离算法之“算计”,更加安全自主地享受网络生活?鉴此,光明日报联合中央民族大学调研组,进行了问卷调查(有效问卷912人次)及深度访谈,就个人用户的使用体验,梳理了算法化生存中的困境、挑战及具体应对表现,并就如何提升算法素养提出建议。

 

 

  “以前总是被‘安排’看到自己‘想看’的内容,关闭个性化推荐后,感觉看到了更广阔的世界。”“开了推荐,网购平台似乎比我更懂我,总让我忍不住买买买;不开吧,又怕错过合适的商品。”“关闭推荐之前,常刷到的短视频总让我欲罢不能,有美妆教程、精致生活,关闭之后刷到的竟是情景恶搞、土味情话……我赶紧又默默打开了个性化推荐。”

  …………

  随着《规定》发布,抖音微信淘宝、百度、京东、微博等App均已上线“个性化推荐”一键关闭功能。然而,调查中部分用户对于“个性化推荐”关不关表示纠结:有人觉得关闭后“打开了新世界的大门”,也有人觉得关闭后降低了用户体验,难以适应。

  从疫情防控中的行程追踪到智能出行中的路况计算,从符合口味的资讯内容到满足个性喜好的商品推荐……大数据时代,须臾不可离的算法已广泛渗透到社会各个层面,成为人的“技术伴侣”。我们需要算法的存在,享受它所带来的便利;同时又要对其带来的控制和其他风险有足够的识别与反抗能力。调查结果显示,有56.9%的受访者认为算法程序提升了电子产品使用体验,但北京大学互联网发展研究中心发布的《中国大安全感知报告(2021)》也显示,70%的调研对象担心个人喜好与兴趣被算法“算计”,50%表示在算法束缚下想要逃离网络、远离手机

  隐忧:

  身处算法社会,我们正遭遇哪些困境?

  潜藏在算法推荐之下的“差别化待遇”。3月初,北京市消协发布的互联网消费大数据“杀熟”问题调查显示,其在调查了16个平台、提取了32个模拟消费体验样本后发现,有14个样本新老账户的价格不一致。调研发现,用户与算法平台之间存在着鲜明的“信息沟壑”,平台掌握着算法的模型公式和呈现规则,通过对信息筛选标准的个性化设计,以及对其他平台的“数据跟踪”,让用户处在信息金字塔的底端。精准推荐的背后来自平台对个人数据的标签化运算,进而是将用户消费能力划分为“三六九等”,形成算法歧视。

  算法歧视不仅损害用户利益,更会激化社会的原有偏见。调研发现,新闻推送中的女性、老年人等弱势群体更容易受到人们的关注,有68.7%的受访者认为“女司机”“女大学生”等带有性别指向的词汇更容易上热搜,性别议题更易激起讨论。平台利用“用户画像”和“贴标签”区别个体、扁平化用户,强化现实生活中的刻板印象,可能引发社会舆论。

  无处可逃的信息收集与“隐私威胁”。热播的黑色幽默短剧《大妈的世界》中有这样一段情节:广场舞大妈们正发愁买什么颜色的演出服,此时王大妈随口说了一句晚上吃西红柿炒蛋,并拜托杨大妈去接“熊猫班”的外孙,结果手机购物App就分别给她推送了红黄相间、黑白配色的衣服。平台以“偷听”的方式窃取数据用以计算用户的偏好,再“突袭式”地进行信息推荐,已引起普遍关注。调研中多位被访者表示,置身于平台与算法联手建立的系统中,被“偷听”已成“家常便饭”。很多企业、App、第三方机构在共享用户的个人信息之际,试图掌控更多的个人隐私。访谈中,不少用户表示,浏览器总能“记住”其搜索历史并且同步到其他设备上,在首页反复推送搜索过的同类内容,让人有一种“被泄密”的不安感。

  基于收集个人信息的算法推荐服务带来的困扰不止于此。一方面,不当的推荐表现在“量”上,过多同质化的内容形成了信息冗余,容易使个体产生心理疲劳与隐私焦虑;另一方面,算法推荐的“度”也常常超出应该推荐的内容范围,色情、低俗等有违主流价值观的内容常常被置入开机页诱导用户点击。

  被算法过滤与掌控的“渐进式依赖”。“平时吃饭、遛娃我都会找App上排序靠前的餐厅和游乐场”,31岁的二胎妈妈孙颖表示,依靠应用平台推荐虽然也“踩过雷”,但这样的选择对于她而言更省时省力。互联网时代,不少网民越来越多地将事物的优劣判断交给算法。算法凭借着“优先”“分类”“联想”“过滤”等机制在很大程度上建构了“人们在互联网上的感知与现实”。调查显示,超六成的受访者会根据平台的排名、评分等数据做出个人决策,尽管他们并不认同排名靠前的商品或内容一定是更好的。

  调研还发现,不少提供算法推荐服务的平台,更是通过将相关内容放在突出位置、屏蔽其他平台链接等方式,实现“入口垄断”与“自我优待”。这些平台在热搜榜、首屏、弹窗等重点环节,通过设置关键词、定向推送等方式将特定内容推至榜单前列,暗中控制人们可关注的信息范围。72.1%的被访者认为平台会推荐与自身兴趣相似的内容。当人们习惯由平台供应信息时,有可能陷入算法设置的“过滤气泡”中,人委身成为数据的“附属品”,渐渐丧失接触多元信息的机会。

  应对:

  从“逃避”到“栖身”的用户生存之道

  从对“大数据杀熟”的诟病,到对“信息茧房”的熟知,普通用户在强势的算法技术应用面前,不得不选择以妥协的方式忍受算法带来的种种问题。调查中,超过半数受访者表示自己意识到了平台或商家对个人信息的收集,但如果不勾选“用户知情同意书”,就无法使用软件所提供的功能。让渡隐私来换取服务,成为普通人与算法共存时“无奈而自洽”的心态。然而,在“受制于算法”的大多数情形之外,仍有不少用户选择同算法“斗智斗勇”,规避算法的消极影响。

  善用“反追踪”策略的“数字隐身”。大学生高宇是社交平台的“重度用户”,在和算法推荐日复一日的相处中,她练就了一身“躲避”算法的本领:“我每次在首页刷到不想看的内容就会‘以迅雷不及掩耳之势’划过。”此外,她还在同一个社交平台注册了“小号”,“大号用来追逐热点资讯,小号用来发日常,这样不想看到相关内容的时候就有个地方可以‘躲’了”。

  当下,身处各类默认设置协议中的普通个体,发展出多元的“算法回避”策略。他们或更换手机号码、建立多个账号,以此迷惑算法;或采取不点赞、不发表、不评论的方式,减少在互联网中的数字痕迹;或因不喜欢某些软件的推荐机制而选择关闭或停用,直至寻求到算法友好的替代性产品;或想办法关闭手机收音功能,从硬件设备端对可能的算法监听予以阻隔。这些方式呈现出共性的算法化生存之策——“断连”与“隐形”。然而,调研中许多用户表示虽然可以远离算法软件,却无法躲避算法思维的连锁反应。调查显示,只有54.9%的人认为这种逃避产生了效果,霸王条款、偷用隐私、强行定位等情况依然难以靠个体力量得到缓解。

  “因地制宜”投喂算法的“反向规训”。依据算法情境“因地制宜”地制定使用策略,主动探究算法运作的规则与思维方式,通过意图鲜明的点赞、收藏、点击“不感兴趣”等行为设置自主偏好,甚至在感兴趣的帖子下留言称“大数据请记住我,多向我推送这样的(帖子)”……调研发现,部分用户选择以主动“喂养”的方式寻求与算法的相处之道。

  其中,一度活跃于“饭圈”的“数据粉”就是依靠与算法的“你来我往”试图影响信息排序的一群人。“数据粉”群体通常通过组织信息点击和发布,对偶像的作品点赞、带话题转发等,提高相关内容的热度,从而影响算法,令与偶像相关的内容跻身更显著的位置,高调抢占大众注意力。

  借算法平台谋取红利的“栖身式共存”。“以前我只选感兴趣的内容创作,但有一次偶然剪辑制作了一部爆款影视剧介绍,流量特别好,自此以后我开始琢磨怎么才能更火。”余家豪是一名业余的视频网站内容创作者,受和他类似感受的牵引,越来越多的MCN(多频道网络)及自媒体创作者全心“栖身”于算法主导的内容世界,迎合代码规则、抓住流量密码、实现商业变现,构成了算法化生存的另一种模式。调研中,在“是否主动迎合推荐机制发布内容”的回答中,选择“是”的比重超过三分之二。调研也发现,部分内容生产者不惜使用“三俗内容”“打擦边球”等方式迎合算法准则。

  反思:

  走出算法困境究竟难在哪里?

  平台价值观嵌入算法程序,增加了普通个体察觉偏见的难度。调研中,接受访谈的算法工程师表示,算法并不是绝对客观中立的技术,数据采集的范围与平台的市场意图等都会写进代码、影响样本分布或数据集,从而将“倾向”与“立场”嵌入程序设计中。对于普通用户而言,由于算法本身以数字、公式的方式呈现,具有“技术无意识”的特征,因此,个体更难察觉和追溯价值偏见的源头。例如以“流量至上”为代表的畸形的内容评价体系就是算法逻辑潜移默化作用的结果。

  算法设计方与社会公众之间存在知识鸿沟,导致算法难以被理解和诠释。按照行业惯例,大部分算法设计者并不会将运算的细节公之于众,算法存在着看不见的“黑箱”。长期以来,这种不透明的机制被看作是“自然化”的存在,很少有人去质疑其合理性,严重影响了社会对算法的监督。算法工程师与其他社会主体之间缺少公开而持续的算法解释环节,建立相关的多方算法沟通机制迫在眉睫。

  算法使用者处于弱势地位,加剧了个体维权难题。调研组发现,真正了解算法运行机制的人并不多,仅有43.0%的人认为自己熟悉算法,更多被访者表示自己对算法“一知半解”“知道又好像不太熟悉”。在我国当下有关媒介素养的教育中,“算法素养”培育仍然缺位。欧盟委员会于2020年开始呼吁成员国各国培育公众对算法系统功能及其影响的意识和素养。

  开展算法治理的配套措施和机制尚未到位。作为日常技术,算法深刻改变了人们的生活,但社会尚未跟上算法发展的步伐。换言之,技术的发展并没有完善的“基础设施”来配套。同时,算法行业的伦理意识尚显薄弱,缺少行业自治的伦理标准。有关算法推荐信息服务的管理规定虽然已经出台,但是与之相配套的治理算法的体制机制、保障措施还有待完善,整个社会对算法开展“协同共治”的氛围意识和参与渠道,都需要持续探索、切实推进。

  未来:

  全面提升算法素养,与《规定》形成互补

  《规定》出台让自上而下的算法治理有了法理依据,但在自下而上的算法素养提升方面仍有较大差距,需从以下方面着手开展相关工作。

  融通多元渠道,上好全民的“算法普及课”,形成社会共识与知识共享,打破“算法崇拜”。算法思维不仅应用于算法领域,也在更广泛的层面上影响着实践。增强算法思维,一方面要深入理解算法逻辑,提高运用计算思维、数据思维分析和解决问题的能力;另一方面,要防止走入“算法崇拜”的误区,着力培养算法素养与人文素养兼容的新思维。如今,系统化的算法思维教育仍然缺位,亟须全民共上“算法普及课”,补上算法思维教育的缺口。2018年起,算法相关课程已写进高中“新课标”,未来还需增加中小学算法课程,“从娃娃抓起”培养算法思维;加强算法科普读物与影视作品创作,以文化产业助推算法思维教育;建立算法思维评价指标体系,推动算法思维教育科学化发展。

  将提升算法素养与现有消费权益、隐私权益、特殊人群权利保护体系“有效对接”“精准匹配”,构建向上向善的算法传播格局。配合《规定》对透明性、可解释的算法规则的要求,基于公开的算法机制,增强用户对算法过滤信息的辨别力,同时加强对热点排序等功能的人工干预;在应对“隐私危机”方面,树立个体信息保护意识,厘清个人普通信息与个人敏感信息边界;在个人信息输入页面设置隐私泄露提醒,防止盲目泄露个人信息;加强隐私权相关案例的媒体报道,树立公众维权意识;加强理性消费、公平消费等知识宣传,开通差异化定价投诉渠道,明确奖惩机制,严格整治“大数据杀熟”等侵犯消费者权益行为,帮助大众避开“消费陷阱”。

  构建“主流价值观+行业伦理+公共监管”的协同治理体系,强化算法问责,营造合法规、有情怀、可追溯的算法开发环境。算法素养主体既包括算法使用者,也包括算法开发者。提升算法开发者的算法素养,更需要多元协力、携手共治。应追踪《互联网信息服务算法推荐管理规定》等法规的实施效果,对违规应用算法技术的企业进行处罚、约谈等,实现刚性约束;在行业内广泛开展对算法伦理的宣传与讨论,加强主流价值观的行业内宣传,将社会公德和职业道德引入行业价值体系,实现柔性制约;督促互联网行业建立实践层面的操作规范,着意防范“算法偏见”“算法歧视”等现象,从开发设计环节追求算法公平,实现技术创新与伦理之间的平衡;推进算法开发过程公开化、透明化,引入公众监督,营造依法、审慎、道德的行业环境。

  作者:光明日报联合调研组

  (执笔人:北京市习近平新时代中国特色社会主义思想研究中心特约研究员毛湛文、本报记者白雪蕾;调研组其他成员:赵安琪、聂一丹、于昊、季芸、代宁)



Tags:算法   点击:()  评论:()
声明:本站部分内容及图片来自互联网,转载是出于传递更多信息之目的,内容观点仅代表作者本人,如有任何标注错误或版权侵犯请与我们联系(Email:2595517585@qq.com),我们将及时更正、删除,谢谢。
▌相关推荐
  如何远离算法之“算计”?  ——新规之下的网民算法素养调研  编者按  3月1日,国家互联网信息办公室等四部门联合发布的《互联网信息服务算法推荐管理规定...【详细内容】
2022-04-07  Tags: 算法  点击:(0)  评论:(0)  加入收藏
听起来高大上的“算法”,其实一点也不难学!本专栏用最简洁的语言和逻辑,脱离编程语言的束缚,在最短时间内,从算法概念/程序结构/数据结构/算法思想/应用方法这五个方面,跟您一起,轻...【详细内容】
2022-04-06  Tags: 算法  点击:(4)  评论:(0)  加入收藏
保护个人信息,护航数字经济发展给“算法应用”立规矩(网上中国)使用某个应用程序后,它就能“猜”到你喜欢什么,并且精准推送相关内容,滋生“信息茧房”、大数据“杀熟”等问题。...【详细内容】
2022-04-06  Tags: 算法  点击:(5)  评论:(0)  加入收藏
近年来,在材料科学、人工智能芯片等前沿领域,深度学习受到广泛的研究和应用。具体来说,深度学习通过学习样本数据的内在规律和表示层次实现机器像人一样具有分析和学习的能力,因...【详细内容】
2022-03-30  Tags: 算法  点击:(9)  评论:(0)  加入收藏
hash函数是根据关键字key计算出应该存储地址的位置,哈希函数把key转成哈希值来定位数据存储的位置,是基于哈希函数建立的一种查找表,Python 中的字典就是用哈希表来实现的。本...【详细内容】
2022-03-29  Tags: 算法  点击:(16)  评论:(0)  加入收藏
回归算法 一、理解线性回归模型 首先讲回归模型,回归模型研究的是因变量(目标)和自变量(预测器)之间的关系,因变量可以是连续也可以离散,如果是离散的就是分类问题。思考房价预测模...【详细内容】
2022-03-28  Tags: 算法  点击:(4)  评论:(0)  加入收藏
桶排序算法就是把数据平分到每一个桶中,然后对桶中的数据进行排序,再按桶的顺序依次倒出数据,桶排序算法很好理解。桶排序算法也是以空间换时间的算法。举例说明一下桶排序算法...【详细内容】
2022-03-24  Tags: 算法  点击:(17)  评论:(0)  加入收藏
递归三要素:1、明确递归终止条件;2、给出递归终止时的处理办法;3、提取重复的逻辑,缩小问题的规模。1、1+2+3+…+nimport java.util.Scanner; public class Recursion {...【详细内容】
2022-03-18  Tags: 算法  点击:(28)  评论:(0)  加入收藏
“我的”——“设置”——“通用设置”——“管理个性化内容推荐”——“个性化内容推荐”。...【详细内容】
2022-03-17  Tags: 算法  点击:(18)  评论:(0)  加入收藏
大数据的时代,几乎每个手机用户都遇到过被个性化算法“支配”的情况:点赞一个视频,APP会源源不断推送近似视频;搜索过一件商品,从此打开购物平台都是同类型商品;想抢个优惠券,还可...【详细内容】
2022-03-17  Tags: 算法  点击:(16)  评论:(0)  加入收藏
▌简易百科推荐
  如何远离算法之“算计”?  ——新规之下的网民算法素养调研  编者按  3月1日,国家互联网信息办公室等四部门联合发布的《互联网信息服务算法推荐管理规定...【详细内容】
2022-04-07    光明日报  Tags:算法   点击:(0)  评论:(0)  加入收藏
保护个人信息,护航数字经济发展给“算法应用”立规矩(网上中国)使用某个应用程序后,它就能“猜”到你喜欢什么,并且精准推送相关内容,滋生“信息茧房”、大数据“杀熟”等问题。...【详细内容】
2022-04-06    人民日报海外版  Tags:算法应用   点击:(5)  评论:(0)  加入收藏
当地时间3月23日,微软通过扩展到23个新的国家来展示其对弥补网络安全差距的兴趣。这是微软的一个主要关注点,因为网络安全对全球各地的政府机构以及个人构成了重大威胁。而影...【详细内容】
2022-04-02    cnBeta  Tags:网络安全技能培训   点击:(9)  评论:(0)  加入收藏
 互联网巨头原有商业模式面临挑战  欧洲议会、欧洲理事会和欧盟委员会日前就《数字市场法案》达成一致,旨在限制谷歌、苹果、亚马逊、元宇宙(原名脸书)等互联网科技巨头。...【详细内容】
2022-04-01    工人日报  Tags:商业模式   点击:(11)  评论:(0)  加入收藏
两成网民遭遇个人信息泄露,如何整治数据安全“重灾区”?  中国信息通信研究院日前发布的《中国信息消费发展态势报告》显示,在消费群体方面,我国网民规模持续扩大突破十亿。《...【详细内容】
2022-03-29    央视新闻客户端  Tags:数据安全   点击:(17)  评论:(0)  加入收藏
本报北京3月28日电(记者周世祥)国家智慧教育平台启动仪式今日在教育部举行。教育部党组书记、部长怀进鹏出席仪式并宣布国家智慧教育平台正式上线。  据悉,国家智慧教育平...【详细内容】
2022-03-29    光明日报  Tags:国家智慧教育平台   点击:(16)  评论:(0)  加入收藏
3月28日,抖音电商正式启动“春雨计划”,宣布将充分倾斜资源,提供更多的流量激励、权益保障和业务助力,鼓励商家和达人创作优质电商内容、提升长期经营效率。据悉,针对优质内容,“...【详细内容】
2022-03-29    中国新闻网  Tags:抖音电商   点击:(18)  评论:(0)  加入收藏
俄乌之战已经一个多月了。随着战争进程,目前俄罗斯对乌克兰的网络攻击主要还是发生在1月份。俄罗斯发起了一些小规模网络攻击,70多个乌克兰网站遭到破坏,其中几次攻击中断了外...【详细内容】
2022-03-28  天王星星链    Tags:网络战   点击:(27)  评论:(0)  加入收藏
财联社(上海,编辑 夏军雄)讯,当地时间周三(3月23日),谷歌公司宣布,将允许流媒体音乐平台Spotify在安卓平台使用第三方支付系统。谷歌启动了一项试点计划,将允许少数开发商在应用程序...【详细内容】
2022-03-25  科创板日报    Tags:Spotify   点击:(16)  评论:(0)  加入收藏
#谣零零计划#先前报道的Windows XP源代码泄漏引起了全球关注。目前,许多人已经确认这些泄露的源代码属于WindowsXP和 Server2003的代码,甚至私有网络TV也可以编译操作系统。...【详细内容】
2022-03-25  元朝的元    Tags:源代码   点击:(17)  评论:(0)  加入收藏
最新更新
栏目热门
栏目头条