politics, social media, digression,

The Social Delimma-注定永远失败的注意力战争

DolorHunter DolorHunter Follow Jan 03, 2021 · 1 min read
The Social Delimma-注定永远失败的注意力战争
Share this

首先祝大家新年快乐, 也祝本博客一周年快乐.

这周看了最近很火的纪实电影(docudrama film) The Social Delimma. 这部电影在九月初就被发布到 Netflix, 但是我在这周才被推荐来看. 主要还是中文的翻译实在不行, 之前一直没注意到. 在纪录片中,人们指出社交媒体是“有用的服务,通过并行的赚钱机器可以发挥很多作用”。社交媒体具有许多有益的特质,影片中提到的一些特质包括促进人与人之间的长距离联系,获取知识,甚至寻找器官捐赠者。但是,社交媒体公司的前雇员解释了如何使用用户数据来构建模型来预测用户的行为,以及公司如何保持用户的注意力以最大化广告收益。随后,影片深入探讨了社交媒体公司用来使用户上瘾的操纵技术以及为达到这一目的而使用的心理。这部电影辩论说,这通常会导致青少年和年轻人的抑郁和自杀率增加。该纪录片还涉及如何监视,跟踪,测量,监视和记录在线平台上的用户操作。然后,公司会挖掘这些人为产生的资本,以增加参与度,增长和广告收入。奥尔洛夫斯基使用演员阵容在戏剧化中描绘这一点。随后,人工智能的危险再次被触及。受访者进一步解释了计算机处理能力如何呈指数级增长,从而增强了AI的功能。

之前的 从国际桥牌社的爱到政治极端化的恨 提到了台湾和美国的社会撕裂的现象, 原来我们这些Trump Voter(川普支持者)是”韩粉” 的结尾也提到了演算法(推荐算法)的出现导致同温层的高墙与壁垒前所未有之高, 用户接受信息的渠道更加的单一和固定. 科技的出现提供了便利, 但是其快速迭代/进化, 已经远远超出了我们的控制. 当演算法控制你能看到什么的时候, 跨出同温层似乎变得更加困难了. 当演算法能控制你能看到什么的时候, 你还在掌控大局吗? 还是你已经变成了科技的奴隶?

The Social Delimma 通过将科技业和科学界大佬的口述, 与演员对于人工智能算法对于社会的演绎, 双线叙事描述了算法是如何监视,跟踪,测量,监视和记录在线平台上的用户操作。科技公司获利的工具是卖广告, 通过向用户提供服务, 把用户吸引到平台, 并放送广告以获利. 在你使用软件的时候, 你以为科技公司提供的服务是商品, 其实你是科技公司的商品, 卖给广告商的商品. 科技公司为了获取你的注意力, 通过推荐算法操控你, 预测你的行为, 推荐给你你想看的东西, 从而达成持续的吸引, 增加广告的收入.

看完之后, 虽然我有所预测, 知道科技公司是靠卖广告获利, 但是还是毛骨悚然. 我其实很早就发现了移动软件的成瘾性,看了The Social Dilemma才知道原来是科技公司刻意为之。推荐算法的目的是为了卖广告,或者说是培养你的忠诚度来卖广告。好在iPhone有每日使用时间的报告,并且我早早把几乎所有软件都通知都关了,让操控能离我远些。但是尽管如此,手机还是占领了我的零星时间。我们无法控制人工智能, 人工智能的进化速度远远在我们之上. 科技公司使用的推荐算法就是由人工智能完成的, 针对每个人的数据推测出他们的行为, 推送给他们想看的东西. 而我们无法掌控人工智能算法, 我们在利用人工智能的同时, 也无可避免的遭受到了其危害, 我们变得只能看到我们想看的东西, 从而导致社会的共识越来越少, 族群的冲突越来越多. 而我们几乎无法抵抗, 因为在与人工智能的战争中我们注定一败涂地.

其实这一切可能也不是人工智能的错, 只是我们无法控制它, 只能让他野蛮生长. 推荐算法原本的设计初衷是好的, 但是有的人就会被推荐算法操控, 从而接收信息的渠道变得越来越集中. 有时候并不是你想看如此极端的内容, 而是推荐算法推着你看, 当你越走越偏后, 就很难把推荐算法拉回头了. 不过, 我们也并非毫无办法招架, 我们可以通过看我们不喜欢的东西, 来打破舒适圈, 让推荐算法给我们推荐多样的东西. 比如这样 用三台電腦實驗YouTube的「演算法」在控制我們嗎? Is the YouTube Algorithm Controlling Us?|科普長知識|GQ Taiwan. 不过, 如果推荐算法按照用户的习惯,预测出用户喜欢的内容,从而推荐用户激进内容和假新闻,最终形成操控用户的结果。谁要对这样的结果负责,算法还是用户,与其说是算法操纵了用户,不如说算法可能只是加速了用户的自我毁灭?是不是应该立法限制推荐算法的使用,或是含推荐算法要额外说明,像是烟酒毒那样?

我是科技业者, 但我对于人工智能的未来充满希望, 却也充满惶恐. 伊隆·馬斯克(Elon Musk)是Tesla, SpaceX, Solar City 的老板, 也是PayPal创始人. 伊隆·馬斯克也对未来深感担忧, 他认为我们对于人工智能的担忧远远不够, 人工智能可能将会是一场灾难. 片中出现的许多科技业和科学界大佬都也对此表示担忧, 包括了前Google设计伦理学家(Design Ethicist)Tristan Harris, 前Facebook高管和前Pinterest总裁Tim Kendall, VR之父Jaron Lanier, 风险投资人(venture capitalist)Roger McNamee, Firefox和Mozilla Labs雇员Aza Raskin, 前Facebook和前Google工程师 Justin Rosenstein, 哈佛大学教授和社会心理学家Shoshana Zuboff, 前Twitter高管Jeff Seibert, 前Facebook增长副总裁(VP of Growth)Chamath Palihapitiya, 前Facebook总裁Sean Parker, 斯坦福大学成瘾医学医学主任Anna Lembke, 纽约大学斯特恩商学院的社会心理学家Jonathan Haidt, Facebook前运营经理(Operations Manager)Sandy Parakilas, 数据科学家Cathy O’Neil, 前NVIDIA产品经理Randima Fernando, 前Google体验设计顾问Joe Toscano, Instagram的早期团队Bailey Richardson, 纽约大学法学院兼职教授Rashida Richardson, 前YouTube工程师Guillaume Chaslot, 斯坦福大学天文台研究经理Renée Diresta, 前人权观察组织高级互联网研究员Cynthia M. Wong.

片尾科技业大牛的建议都是关掉通知,手机使用时间限制,还有换掉谷歌搜索引擎。我在电脑用Google的时候有登录账号,因为想利用推荐算法更快的找到我要的专业内容完成工作。手机上始终没有登录账号。某天在电脑上突然切换了个日本IP(一直用美国IP)当晚手机谷歌搜索(美国IP)结果的内容出现日文。

我们喂给人工智能的数据, 到底会长出什么呢? 之前我出于实验目的, 打开了Google个性化广告的功能, 想看看到底会收集多少数据. 只短短两三天, 关于我标签就有几十个, 之后每周都迅速成长, 只短短几个月已经长的看不完了. 个性化标签可以在Ad personalization查看.

看完后, 在Data & personalization的其他分页中, 也有大量的数据. Activity controls分页中, 我一直都把Location History关闭, 因为该功能实在太过敏感. 观看记录主要针对YouTube, 还算正常. Web & App Activity 功能打开一看真是要给我吓死, 里面记录了我的每一次网页访问和软件使用轻快. 几点几分使用了Google搜索功能, 搜索什么内容; 几点几分使用了YouTube软件并且跳过了两个广告; 甚至几点几分使用了谷歌的页面翻译功能翻译了哪个网页…

谷歌还算诚实, 愿意把收集到的资料(或者部分资料)公开给你看. 其他软件则通常没有这个功能, 因此也不知道他们到底收集了多少资料, 天知道他们拿到了多少数据, 天知道这些数据喂给人工智能, 最后会结出什么样的果子.

The Social Delimma 的片尾参与电影的科技业和科学界大佬都各自提出了解决办法:

  1. 关掉消息提示以应对注意力战争
  2. 限制手机使用, 睡前不用手机, 手机不进卧室
  3. 关注不同观点立场的人, 防止被推荐算法带歪
  4. 换用不会收集资料的引擎, 如Qwart, DuckDuckGo
  5. 删掉社交软件和新闻软件, 你并不需要他们
  6. 限制小孩的手机使用, 直到高中(16岁)

虽然我之前对 DuckDuckGo 的使用体验不佳, 但是在对于隐私和便利的权衡下, 我觉得还是应该再给 DuckDuckGo 一个机会. 虽然我目前的使用体验并不如其他人感觉的那么好. 更新: 鸭鸭走用的受不了了, 还是换回Google, 但把记录功能关闭.

再提一下浏览器, 大部分人使用的都是Chrome, 用起来确识很快很爽. 但是你知道网页上有多少追踪器和指纹收集器吗? 尤其是在线看视频一类的网页. 我觉得Chrome用户至少下载一个EFF基金会(电子前哨基金会)制作的EFF Privacy Badger, 阻止追踪器的运行和收集Cookie, 至少拿来看看日常访问的网页有多少追踪器也不错.

我从v68后开始使用, FireFox大提速启动速度几乎跟Chrome相当. 之后就一直用的是FireFox, 其在隐私保护的路上越走越远了. 从内建Protection(地址栏左边的小盾牌), 虽然不如 EFF Privacy Badger 那么彻底, 但是已经可以阻挡一些的追踪器了. v85又要制作网络分区(network partitioning), 进一步限缩cookies访问数据的功能.

当然如果你不喜欢FireFox也没事, 可以从Brave入手开始安全之旅. Brave是由前Mozilla基金会(Firefox所在基金会)开发, 使用Chrome开源部分的核心, 操作逻辑跟Chrome相似性很高. 同时浏览器内建拦截器, 并且为此打造了一个新的广告模式. 通过看Brave投放的广告获得虚拟货币(或者也可以不看, 只要在设置里关掉广告). 设置默认自动打赏给访问次数最多的网页(如果他们有开通Brave认证), 也可以手动打赏给网页. 虚拟货币也可以兑换出来, 换成法定货币. 这个视频对Brave做了比较好的介绍 2140-▍Brave:你的注意力是門好生意?

祝数据隐私权成为基本人权, 祝我们不要被我们创造的人工智能毁掉.

参考资料:

Join Newsletter
Get the latest news right in your inbox. We never spam!
DolorHunter
Written by DolorHunter
Developer & Independenet Blogger