我的体验有微妙之处,你的只是一个数据点

查看原文 HN 讨论

文章摘要

Jim Nielsen 这篇短文回应了 Eric(Eric Bailey)的一篇文章,后者论述的是:我们需要的远不止几个图标,才能表达共同人类体验中的那些微妙层次。

Eric 的具体建议是让 Netflix 提供一些反馈按钮,用来表达我们在消费和评价内容时都有过的那类体验,比如:「我对这部剧表示了兴趣,但这不代表我想被这个类型的推荐淹没」;「无视我刚按的『赞』,那是我的猫踩了键盘」;「我在做糟糕的选择、我在带着恨意追这部剧」。

Nielsen 说这些例子的妙处在于它们有多熟悉——我们读了会笑,因为我们都有过同样的念头:「我在这儿按赞,但我真正的意思是……」我们按下按钮的那一刻就知道,这是对我们真实体验的一种简化表达,而且一定会被错误解读,但我们还是按了。Eric 那句被引用的原话大意是:没有办法表达「我在参与这个,但我为此讨厌自己」;需要另一个鼠标键,意思是「我在点这个,但我是在愤怒点击,为了我的心理健康你能不能别再往我面前拖更多这种东西」。

我们知道这些反馈机制常常是对我们实际体验的歪曲。然而,一转身到了专业语境里,看到「142,432 位用户给这个点了赞」这样的数字,我们就把关于自己个人体验的一切认知全忘光了。我们让它意味着我们想让它意味的东西、意味着方便测量和汇报的东西——比如「哇,关于我们内容的多好的洞察!我们赶紧围绕这个显然如此多人喜欢的、客观的、科学的事实来重构整个片库!」

文章的核心论断就是那句标题所概括的:我们把别人的体验简化成纯粹的数据,却给自己豁免于这种过度简化。

Nielsen 认为,绕开这种简化需要的是那些内省性的东西:价值观(「我们该不该提供更多这种内容?」)、微妙性(「人们在这个界面里点『赞』时,真正的意思是什么?」)、愿景(「如果我们提供更多这种内容,那会把我们带向何方?」)。但这些太内省了——而内省是慢的。

HN 评论精华

63 分的帖子,讨论几乎完全落在一个具体的痛点上:推荐系统对单次点击的过度反应。几乎每个人都在讲自己被算法「毒化」信息流的经历,比喻一个比一个生动。

「一次点击,毁掉一个月」这条主线:

lifefeed 贡献了本帖被引用最多的比喻:缺乏微妙性正在毁掉所有这些网站,不只是 Netflix(他已经放弃管理它了)。问题出在网站仔细记录他看了什么,然后据此做出剧烈的改变。「这就像我出门散步,看见一大坨屎,而那确实是件有意思的事,因为天哪那也太大了。然后算法注意到我停下来看了,下次我散步时到处都是屎。这就是我 Instagram 信息流现在的样子,打个比方说,一片望不到边的屎田。」

compiler-guy 说甚至不必是一坨屎——可以是某件本身有趣、但你并不想深入的东西。他的真实案例是 YouTube 上的野猪诱捕:一段两分钟的视频出现在他的信息流里,看了确实挺有意思,能了解怎么做和为什么做;但之后他的信息流被这类内容塞满了很久,甚至几年后偶尔还会冒出一个,绝望地想让他重新参与。「它作为一次性的东西很有趣,而不是作为一种生活方式。」

godelski 的抱怨最直白:「我最喜欢的是,你看了一个 30 分钟视频里的 1 分钟,然后接下来一个月你的信息流就废了。我难道没有清楚地表达我的不感兴趣吗?」他要的是「给我踩、给我『我不喜欢这个』、给我『永远别再给我看这堆垃圾了你个混蛋』」。他还从投票理论角度做了一段有意思的类比:他喜欢赞成投票(Approval Voting),但更喜欢 Score 和 STAR;他想不明白为什么行业走了这样一条路——先做了一个「不做单选就会搞乱结果」的评分系统,然后看到这个问题就说「那干脆用 321 吧,反正大家实际上就是这么用的」(赞/不投/踩),然后又决定干脆换成赞成投票;整个行业似乎抱着一种「数据是客观的、只有单一解读」的病态信念;而且我们十多年来都有能力用 AI 做语义解读,却认定把聊天机器人硬塞进所有东西比区分参与类型(因为喜欢而评论 vs 因为讨厌而评论)更值得做,把这一切都当成同一种「engagement」。他指出 Netflix 那种 0–5 星的评分系统大家本来都懂,人们没有充分使用它,是因为他们在黑盒试探算法,然后发现算法根本不在乎微妙性。

pessimizer 写了本帖最有洞察力的一段:这些手法之蠢让他震惊——他买了一张餐桌,此后网站永远在推荐餐桌。更重要的是他关于「泡泡」的论述:「我不想因为看了一个纳粹视频就收到一堆纳粹视频推荐。我不想因为花了一整天看纳粹视频就收到没完没了的纳粹视频推荐。如果我在很长一段时间里看了很多纳粹视频,那好,可以逐渐把它们塞进我的推荐。」他的核心观点是:人们之所以回避倾听泡泡之外的任何东西,是因为他们害怕自己的泡泡会被彻底打碎、再也找不回去。人们喜欢自己的泡泡,也喜欢偶尔到外面走走。如果我离开家去一个刚认识的人家里参加派对会摧毁我的房子,那我永远不会出门。他还补了一句冷的:看到那些巨大的屎视频被推荐,会提醒你在某个后端某个「爱屎者」标记被翻开了,现在你的政府、你的保险公司、你的老板、以及卖屎色情的人都被卖了你的信息。

jerf 提出了一个相当细致的分类:对他来说「最好中的最好」是它自己的一类东西——他一般不看爱情片,但看那些被公认为该类型顶尖的作品体验很好,很多类型、媒介都是如此,哪怕是「可爱动物视频」里的顶尖作品偶尔看看也很有趣。但他必须对 YouTube 观看历史下重手删掉很多东西——那些他作为例外享受过、但不想被永远无限推送的内容。算法里有些奇异吸引子极其强大,「可爱动物视频」就是其一。另一个他常撞上的问题是:他看某个视频是因为(他随口编的例子)一只鹦鹉在惟妙惟肖地模仿皮卡德舰长,这个推荐本来源于他对科幻的一般兴趣,但算法看到的是「啊哈!又一个爱看可爱动物视频的可怜人类!」他说至少 YouTube 有这个旋钮,而且一般会尊重它;那些没有这个旋钮的算法非常难以避免退化到最低公分母,因为只要有一丁点你喜欢某个极其流行的东西、或者对某个高价广告关键词感兴趣的迹象,就会立刻淹没他真正的兴趣。pixl97 给了个更黑色幽默的版本:「[看了一个二战视频] YouTube:恭喜你成为纳粹,这是你所在地区加入至上主义团体的说明。」graemep 补了一句更冷的商业逻辑:真正的好生意是把纳粹内容推给那些会被纳粹激怒的人——engagement 就是一切。

关于「手动管理算法」的疲惫:

BuyMyBitcoins 说他用 uBlock Origin 的自定义过滤器隐藏 YouTube 的推荐侧栏(只留下一个「下一个」视频)。即便如此,搜索结果里偶尔会出现某个话题有趣但来自他平时不看的频道的视频——他已经学会右键在隐私窗口里打开链接,这样他的搜索结果(和那唯一剩下的侧栏缩略图)就不会被那一个频道/话题毒化。「点击一个视频就让 YouTube 认为我现在痴迷于那个频道,这太疯狂了。而且它会在接下来几周里一直执着于此。」lifefeed 顺着说:这是另一件他厌倦的事——手动管理算法,用隐私窗口,外加点踩、隐藏那些他只想看一次的东西。「我喜欢算法这个『想法』,某个能帮我找到酷东西的存在。实践中它只是又一件我必须在脑子里维护模型的事。」

kg 提供了唯一一条「其实有办法」的经验:YouTube 某种程度上有这个信号——去历史记录里删掉刚看的视频,据说这会移除它对后续推荐的影响;如果那个视频或类似的再次出现在推荐里,可以点视频旁边的「…」选「不感兴趣」来压制。他说这样培育推荐对他效果一直很好,能稳定收到想看的和至少理论上感兴趣的混合内容,只希望这个机制在 YouTube 上更顺手、也希望别的社交服务有同样的机制。BuyMyBitcoins 的经验完全相反:他已经不再费心提交任何反馈,因为「不感兴趣」按钮看起来毫无作用——唯一真正把一个频道从他的推荐和搜索结果里移除的操作是清空 cookie,之前几十次用反馈机制的尝试没有任何效果。

一条来自行业内部的关键证词: twelfthnight 说他好奇是不是大多数人其实喜欢/不在乎推荐,也不想花时间给公司更多反馈——他就在流媒体推荐领域工作,「基本上没有人自愿给出额外反馈,而且大多数不基于真实行为的机器学习的举措都在 A/B 测试里失败了」。jjulius 回答了为什么:一是他不想给公司更多关于自己的信息;二是他不相信那些信息会主要用于让他受益,他相信它主要会被用来以某种方式把他留在平台上。

关于「那替代方案是什么」的一场好辩论:

fasterik 提出了对文章的实质性反驳:他理解对现有推荐系统的不满,但替代方案是什么?加一堆随意的按钮或滑块不太可能真的改善体验。「看过这个的人也看了那个」已经是个不错的发现方式,问题在于片库本身是垃圾——他在 Prime Video 和 Criterion Channel 上得到大量好推荐,因为这两家有相当数量的优秀影片。

jjulius 的回应是本帖最有立场的一段:「我不想要『推荐系统』,我只想要容易浏览的、按真实类型排序的片库(说的就是你,Netflix 首页那一堆狗屁『分类』)。我想按自己的节奏、用自己的方式翻看东西。我想像在唱片店翻唱片那样翻电影和剧。」他乐于接受了解他微妙口味的朋友和家人的推荐,不想要某个为了把他留在平台上而由某人构建的未知算法的推荐。fasterik 说文章讲的是改进推荐系统而不是取代它,jjulius 的反问相当漂亮:那什么算「推荐系统」?比算法更深地了解我口味的朋友和家人难道不是推荐系统?你通过 BFI 或 They Shoot Pictures 的榜单找喜剧的做法难道不是一种推荐系统?他接着展开了核心论点:算法推荐限制了探索和能动性,不让我们把品味发展到当前地平线之外;没有它们,偶然性才能真正偶然,我们的努力在得到回报时能增加依恋和愉悦,一路上也有更多机会积累知识。「我根本上相信,破碎的算法信息流、推荐系统之类的答案,不会在更多算法里找到。」fasterik 坚持「推荐系统」有相当狭窄的技术定义(一个接受用户输入、产出推荐列表的自动系统),并提出也许 jjulius 不喜欢的是普通用户的偏好——「人们似乎喜欢被告知该看什么;如果对一个抛弃推荐的流媒体服务真有需求,那应该有人能靠做它赚很多钱」。jjulius 反驳:那个狭窄的技术定义确实存在,但它并不独占这个概念,更宽泛的社会性定义同样存在——「为什么我们要把自己限制在这么狭窄的思考里?算法问题就必须要算法解法吗?」

inigyou 提了个简单粗暴但很妙的方案:把同一个推荐器跑在你点了「踩」的东西上,就当它们是「赞」,然后把这个算法推荐出来的一切拉黑。他还有另一条被反复引用的观察:YouTube Shorts 在移除踩按钮几周后质量就崩了。

其他角度:

bryanrasmussen 指出,「我在参与这个但我为此讨厌自己」如果存在的话就是踩——系统已经知道你在参与了,它检测到你停止滚动并做了围绕这个东西的各种动作。darkwater 提了个更基础的问题:如果人们并不真的喜欢,为什么还要在 Netflix 上发出点赞信号?干脆什么都别点不行吗?

derbOac 认为文章提到的只是现有推荐系统缺陷的冰山一角,并提出了两个值得区分的层次:一是「用户与内容体验的不同侧面」——我可以对同一个视频同时有正面和负面感受,或者因为某个原因喜欢它但因为另一个原因不喜欢;二是「元回应」——我想提供一个说明我该如何被使用的回应。关于我对内容感受如何的信息,和关于我希望这个信息如何被使用的信息,是两件不同的事。 他还怀疑公司在动机上究竟是想呈现你想要的,还是想让你留在站上;它们关于「你为什么在一个视频上花很多时间」的假设是否正确。

Arainach 说他在统计和推荐被如此游戏化之前并不介意朴素的评分算法,YouTube 和 Amazon 是最糟的几个:他经常看完一个视频或听完一首歌后明确地想「我喜欢这个,但我不想让 YouTube 专注推荐这类东西,所以我不点赞」。在 Amazon 上,有整整一类链接他不会点、一类商品他不会搜或买,因为他不想让它们永远填满自己的推荐。而「手动翻设置、找到完整历史记录再逐条删除」不是好的变通办法——太费劲了,不如一开始就不把数据给平台。chmod775 的例子很典型:他的 Amazon 首页现在全是电动剃须刀、台灯和各种 USB 线,「我刚买了所有这些,为什么我还想要更多?」jjulius 说大多数看起来「精准投放」的广告对他就是这样:买了某样东西,两周后所有定向广告都是他几周前买过、现在不再需要的那样东西。szidev 提供了音乐领域的版本:他调出 Crowded House 电台,Spotify 的假设是他只想听澳大利亚音乐人,而不是他想听 80、90 年代摇滚。

jmcqk6 从心理学角度给这篇文章定了性:这是基本归因谬误(fundamental attribution error)一次出人意料但恰当的应用。fedeb95 把它推广到商品评价:五星评分即使带评论也很少不只是一个数据点,而且不同人给星的含义差别极大,所以简单地挑「星数最高、评论最多」的商品是衡量质量的糟糕指标。他自己看两件事:一是评分分布——如果频率随星数单调递减,多半是好产品,他会去看 3、4 星评论找优缺点;二是如果分布在 1 或 2 星有尖峰,无论五星有多少、评论总数多大,他都会进一步调查问题出在哪。他说这个方法在 Amazon 上一直很管用。

FLeXMurphy 提醒大家已经忘了 Netflix 当年为「谁能造出最好的推荐引擎」办有奖竞赛时造的声势(奖金好像是一百万美元):「当时就是垃圾,现在还是垃圾,而且随时间变得更糟了。」marcosdumay 略作修正:「当时是垃圾,现在是垃圾,但在开始变糟之前它确实进步了很多。」nemomarx 怀念能在看完后给一个评分并被系统采纳的时代——「现在只剩下『你看了多久,还有谁看了』,感觉微妙性少了很多」。skybrian 提到社交网站常允许用 emoji 或话题标签给内容打标,这更有表现力,只是人们对它们的含义会有分歧。zug_zug 同意「我看了但我后悔了」会是个有用的按钮——前提是公司会尊重它;但他的默认假设是它们已经知道这一点、并不在乎,诱导参与/成瘾至少能带来「观看量」,甚至可能是刻意策略。他的设想是:我们需要开始为所有服务构建中间层信息流(大概通过 AI 之类),让我们自定义每类内容各占多少——比如经济有多糟的内容不超过 5%、新 AI 花招不超过 5%、当日八卦 0%、教育类 40%。Gooblebrai 顺着 lifefeed 的比喻想到一个反乌托邦画面:一个用这种算法给用户更多他注意到的东西的虚拟现实,会有多可怕。