让渡隐私的个性化推荐,关还是不关?

让渡隐私的个性化推荐,关还是不关?

《黑客帝国》里,反叛军领袖墨菲斯向男主角尼奥提供了红、蓝药丸的选择,吃了红色药丸能从幻象中醒来,面对的却是痛苦的末日图景,吃了蓝色药丸则停留在幻象中,一切如常。

近日,《互联网信息服务算法推荐管理规定》(下称《规定》)开始正式实施,涉及算法推荐的抖音、快手、拼多多、小红书、微信、微博等头部平台均允许用户“一键关闭个性化推荐”,不过,关闭后的使用体验直线下降,期待中的广告减少并没有发生,部分平台推荐内容一成不变。

用户希望关闭个性化推荐,恰如尼奥选择服下红色药丸。不过,用户光是找到关闭个性化推荐这个红色药丸的按钮就很费劲,而服下药丸后,用户并不能获得高质多样的内容,差劲的体验感、不见减少的广告,最终让用户选择还是打开个性化推荐,回到量身打造的算法世界。

为了体验,用户被迫打开算法推荐

当得知个性化推荐可以关闭后,朱腾立刻向观察者网表示了果断关闭的意愿,完成我-tab栏-设置-通用设置-管理个性化内容推荐-关闭-确认关闭7步操作后,朱腾主页右上方的推荐变成了精选。

“我的主页永远都是游戏和萌宠,想要点新鲜感,拓宽一下视野”,朱腾说,之前的推送有些“取悦过头”,他虽然喜欢打游戏和萌宠,但也想开拓视野看点不一样的。

与朱腾有类似想法的人大约在生活中占了一半。中国青年报社社会调查中心联合问卷网对1144名受访者进行的一项调查显示,53.8%的受访者表示会选择关闭算法推荐功能,他们希望《规定》能遏制诱导过度消费(68.2%)、大数据杀熟(61.9%)、诱导沉迷(57.5%)、过度收集个人信息(46.0%)等方面的不良之风。

但关闭算法推荐,并不意味着能获得优质多样的信息推荐。朱腾刷了不到5分钟的非算法推荐视频,就默默把个性化内容推荐打开了。“怎么净给我推送疫情新闻”,朱腾抱怨,他猜是因为自己打开了位置信息,又身在疫情严重的吉林省的原因。

希望打破平台用算法织就的“信息茧房”,获取到新信息是用户关闭个性化推荐的主要原因之一,但关闭后的内容推荐仍然单一且体验不佳。

某问答平台用户江鑫告诉观察者网,当获知可以关掉个性化推荐后,他也立刻就尝试了,但不论怎么刷新,首页永远都是同样的内容。他的直观感受是“好像没有一种通识的无差别推荐的内容,要么根据算法推荐,要么就不推荐,(平台)直接躺平”。

除了体验不佳而被迫打开算法推荐,更多用户并不知道可以关闭算法推荐,这与平台设置的隐蔽有关。有媒体测算,目前平台给出的关闭个性化内容推荐的操作在5-7步之间,步骤较为繁琐。而如果用户不刻意关闭,个性化推荐则默认开启,也不会给用户更新提示。

操作的复杂化,实际上是在为用户关闭化推荐设置障碍。有五年互联网行业产品经理工作经验的马竞对观察者网表示,“明面上放置了一个公平的可关闭按钮,但平台有很多办法诱导你不去选择关闭”,“这些平台的产品经理正在规划(让用户打开个性化推荐的)方案中”,他说道。

在观察者网的调查过程中,有用户直接向观察者网表示,“首先要找到这个关闭按钮就挺麻烦的吧?我不想费心思去找”。

此外,多位用户试用关闭个性化推荐后,表示广告推送并没有减少,一位短视频用户就对观察者网表示,自己尝试了关闭个性化推荐,但广告推送并没有变少,虽然这些广告不够精准,但体验并没有优化。

个性化推荐,让平台商业化潜力迅速拔高

平台之所以对关闭算法推荐躲躲藏藏,在于其商业化与算法推荐紧密相关。

马竞介绍,PC时代的算法推荐,网站分发的内容没有区别,用户完全是被内容吸引,用户达到一定体量后,平台会对依据用户的地理位置、年龄、性别进行粗略区分,打包成不同的用户库,然后分发广告。

进入移动端后,平台不仅对用户进行标签库的区分,对呈现的内容也进行了精细化。到这一阶段平台收集的信息可以无限精细下去,平台不再满足于获取个人信息,而是从用户的关系链、好友圈,商业化潜力无穷。

用户获得个性化内容推荐的同时,平台的商业化潜力也被迅速拔高。比如擅长个性化营销的抖音、快手等平台,在用户信息流中加入的广告和直播带货,实际上就是通过算法进行精准营销,提升用户的购买率。而抖音和快手发力同城、好友等私域流量,也可掌握用户的关系网,进一步升级电商和广告等平台主流营收模式的增长潜力。

《哈佛商业评论》曾有报告指出,就市场营销而言,用户体验的个性化可以让投资回报率提升五至八倍,并将销售额提高10%以上。

通过个性化推荐提升用户体验,是平台提升商业化效率的另一维度。换言之,即通过“千人千面”产品服务,不断给用户提供命中喜好的内容,让用户产生“它很懂我”的心理,帮助新用户留存、转化付费,最终目的仍是提升商业化变现效率。

马竞认为,精准的算法推荐会让用户接受信息的即时满意度变高,从而延长用户的使用时长、帮助新用户留存,平台的数据会更好看,商业化潜力也更高。

管理咨询专家、前尼尔森研究总监朱逸也曾指出,推荐算法是根植于网络商业中的底层技术,价值在于对过往商业效率的改善与提升,具体表现为讯息的精准触达、公众偏好的理解、商品与服务的迭代等,促使了商品、服务、社交在多元主体间的顺畅与高效。

但是,平台过分逐利势必会损坏用户的隐私或是利益,大数据杀熟就是典型例证。此前,滴滴打车手机越贵打车价格越高、携程订购酒店价格远高于实际挂牌价、美团会员配送费高于非会员等事件频发,实际上就是平台牺牲用户利益,追求自身利益的更大化。

马竞认为,让用户即使满意度上升的同时,精准的算法推荐也会让用户的延迟满足能力下降,长此以往,用户的跳跃性思维和创新思维都会被禁锢在算法之中。

平台需提供细化选择权,商业竞争应回归本质阶段

从法律层面来看,平台的举措已经在形式上满足了《规定》的基本要求,并不能被视为违规行为。

北京观韬中茂律师事务所律师胡律师表示,平台运营商基本都在政策中添加了“个性化推荐”的相关条款内容,条款内容上对于算法推荐服务的基本原理、目的意图和主要运行机制进行了概况性的解释说明,也在客户端的设置中给用户提供了关闭“个性化推荐”功能的选择权利。

胡律师称,从上述调整可以看出,各大平台按照《规定》的要求相应调整自身的政策和功能,从形式上来说基本满足了《规定》的相应要求。

不过,形式上的满足并非领会《规定》的内核。《规定》出台是为解决被诱导沉迷、大数据杀熟、算法歧视等用户痛点,维护用户利益。但目前来看,由于用户已经习惯甚至依赖个性化推荐带来的体验感,而平台也暗自助长这种依赖,或许将导致大数据杀熟等问题并不能通过法规的施行得到解决。

未来如何避免算法变“算计”,更多要依赖平台对《规定》内核的领会和相关法规的进一步细化。

胡律师表示,《规定》实际上指导平台对个性化推荐进行可选择标签的细化操作,让用户选择哪些具体信息、浏览行为和隐私数据分享给平台。比如《规定》第十七条第二款规定:“算法推荐服务提供者应当向用户提供选择或者删除用于算法推荐服务的针对其个人特征的用户标签的功能”。

但是平台并未提供更细化可选的个性化推荐选项,而是集中于一个开关按钮。

从法规层面来看,胡律师指出,《规定》中对于“用户标签”的含义并没有再进一步的明确,“用户标签”是否可以再细化为“内容浏览、互动交流、搜索、关注、浏览、下载及交易等标签”,使平台给予用户更加细化的“个性化推荐”算法依据的选择权利,而不是仅仅提供关闭或者打开“个性化推荐”功能的选择权,还需要我们拭目以待。

对于商业化利益,平台和依附于平台的商家也需要转换思路。目前的互联网行业监管趋严,国家对用户合法权益的保护力度渐强,依靠广告营销和平台浏览并非长久之道。

浙江垦丁律师事务所联合创始人欧阳昆泼对媒体表示,“以擅长个性化营销的电商平台为例,在货找人的发展阶段,商家可以依靠精准推荐快速猎取用户,而重视营销和流量的卖家获得更大利益。但是在隐私政策和新规时代,失去‘瞄准镜’的互联网营销将会效果大减。”

欧阳昆泼表示,这就要求商家必须学会多条腿走路,行业竞争也渐渐回归到本质竞争阶段。相比那些擅长流量的商家,专注产品和用户价值的企业更有机会脱颖而出,产品力成为获取用户的关键因素。而对互联网平台而言,则必须投入专门的人力、财力去落实与法律管控相关的事务,包括保护用户隐私、让用户有控制权以及算法推荐的审核和备案等方面。

《人民日报》评论则指出,平台的“算法”不能变“算计”。守好边界,让算法应用规范起来,才能让算法更好地为用户服务,也才能推动信息服务行业长远、健康发展。

《黑客帝国》中,现实世界由一个叫“母体”的计算机人工智能系统控制,机器极为智能唯独缺乏创造性,它们将人类“豢养”在矩阵之中,榨取人类头脑中的创新思维,钻研人类心理而后不断升级矩阵,希望最终通过矩阵革命获得独立,彻底摆脱人类。

当然,算法没有这般恐怖,平台通过算法追求商业化利益与用户的权益保护之间势必存在平衡点,而这还需平台的自觉与法规的细化,到实现这一步后,用户便也不再需要牺牲体验来保护权益,也不必面对红蓝药丸的选择了。

网络空间向滥用算法说不

网络空间向滥用算法说不

关闭某App的个性化广告时跳出的提示。

日前,国家网信办等四部门出台《互联网信息服务算法推荐管理规定》(以下简称《规定》)。《规定》明确要求保障用户的算法知情权和算法选择权,应当向用户提供不针对其个人特征的选项,或者便捷的关闭算法推荐服务的选项。

记者了解到,截至目前,抖音、微信、淘宝、美团、大众点评、今日头条、百度、微博、小红书、腾讯新闻、哔哩哔哩、快手等App,均上线了个性化内容推荐和个性化广告推荐的关闭按键。但真正执行情况却并不理想,多数App想要关掉个性化推荐没那么容易,要想真正对滥用算法说不,还任重而道远。

政策

直击痛点 向滥用算法说不

此次《规定》明确,应用算法推荐技术,是指利用生成合成类、个性化推送类、排序精选类、检索过滤类、调度决策类等算法技术向用户提供信息。各类提供算法推荐服务的互联网公司几乎都在监管范围内,如各类短视频平台、电商平台、社交平台及餐饮外卖平台等。

《规定》的出台,可以说直击许多痛点。例如禁止算法歧视、“大数据杀熟”,假消息不能被“个性化推荐”。《规定》还针对大家关心的用户权益保护问题,明确提出用户要有算法知情权和选择权,用户可选择关闭算法推荐服务。此外,《规定》还明确保障用户的选择权、删除权等权益。通过向用户提供不针对其个人特征的选项,或向用户提供便捷的关闭算法推荐服务的选项,并提供选择或删除针对其个人特征的用户标签的功能,避免消费者被算法“算计”。

针对向未成年人、老年人、消费者等主体提供服务的算法推荐服务提供者,《规定》作出具体规范。如不得利用算法推荐服务诱导未成年人沉迷网络,应当便利老年人安全使用算法推荐服务;不得根据消费者的偏好、交易习惯等特征,利用算法在交易价格等交易条件上实施不合理的差别待遇等。

调查

算法推荐困扰网友

由北京大学互联网发展研究中心与互联网公司联合发布的《中国大安全感知报告(2021)》显示,有七成受访者感到算法能获取自己的喜好、兴趣从而“算计”自己,近五成受访者表示,在算法束缚下想要逃离网络、远离手机。

不同用户打开手机能刷到不同类型的短视频和新闻,早已被大家所熟知。不少人吐槽,自媒体平台上的毒鸡汤、各类养生谣言,似乎长了眼睛,专挑老年人推送。而一些游戏类的内容,更喜欢推给青少年用户。除了千人千面的短视频平台以外,各大电商平台的“猜你喜欢”、搜索App的结果排序、浏览器中的推送消息,基本都运用了推荐算法。

小罗是福州一家企业的白领。她告诉记者,有一次她在和同事午餐期间聊起网上颇热的“热饭神器”。下午回到办公室打开购物App,发现搜索栏和页面上已经推荐了“热饭神器”。“感觉自己被监听了,还挺可怕的,毫无隐私可言。”小罗说。

和小罗一样,网友“泰克罗”也有类似的经历。他告诉记者,自己是某外卖平台的超级会员,本以为会员会比普通用户点餐便宜,但实际上他即使叠加了各种会员优惠券,仍然比普通用户的价格更贵。这让他一度十分郁闷,也向平台投诉过,却难有满意回复。“我还发现在购物平台上,相同的平台,一样的物品,我的手机页面上显示的比我朋友的贵了20元。”他怀疑,这是不是因为他用的手机比朋友的贵,由此被大数据“杀熟”。

体验

关闭推荐步骤烦琐

记者了解到,《规定》的一个重要内容,就是要求平台必须要在显著位置上线算法关闭键。记者体验后发现,各大平台虽然推出了关闭键,但要找到关闭键,却没那么容易。

抖音可以算是国内推荐算法的知名代表。记者尝试在抖音关闭个性化推荐时发现,要完成它,需要7个步骤。打开App、点击“我”、点击导航栏、点击“设置”、点击“通用设置”、点击“管理个性化内容推荐”、点击“个性化内容推荐”右侧的关闭按钮。如果对手机App操作不那么熟悉的用户,在进行到第二步的时候可能就无法继续下去。

抖音也在关闭页面上明确提示:选择关闭个性化内容推荐后,仅会向用户推送与偏好无关的具有普遍性的内容或广告。因此,一旦关闭个性化推荐服务,用户可能会看到不感兴趣甚至不喜欢的内容,使用体验可能会受到影响。

在微信上,记者点击“我”,打开“设置”,进入“个人信息与权限”,再点进“个性化广告管理”,可以选择关闭个性化广告。关闭时出现了提示信息:“若你不想接受个性化广告服务,你可点击相关按钮进行关闭管理。若你选择关闭,你看到的广告数量不会减少,但本产品将不再向你展示个性化广告,你看到的广告将可能与你的偏好相关度降低。”

记者又在淘宝上尝试关闭个性化广告,需要先点击“我的淘宝”,再点击右上角的“设置”,进入“隐私”里的“广告管理”进行关闭。关闭个性化广告时,淘宝跳出了与微信类似的提示。

而在大众点评上,关闭算法推荐需要依次点击“我的”“设置”“隐私管理”,然后选择关闭“接收个性化内容推荐”和“接收个性化广告推荐”,同时还设置了“清除历史个性记录”的按键。

记者同样测试了小红书、微博等平台,想要顺利关闭推荐,操作步骤几乎都在5个以上。

网友

期待《规定》的整治效果

《规定》的出台也引发了不少网友的热议。不少网友表示非常期待整治的效果,希望大数据监听、“杀熟”等行为能够逐渐杜绝。“普通百姓并不懂算法,对于平台给出的算法解释可能无法读懂。所以对于算法的知情权和选择权很多时候会沦为摆设。”也有网友表示,希望相关部门在监管和执法中能够更加给力,还网络更加清朗的环境。

福建景行律师事务所律师江一泓告诉记者,近年来,青少年沉迷网络如打赏主播、游戏大额充值等案例并不少见。而此次《规定》的出台也非常明确提出要去承担相应的责任。他认为,互联网时代算法技术的应用越来越广泛,相应监管需要迎头跟上。期盼未来在具体执行过程中尽快形成各类具备可操作性的细则。