柔软但危险:量身订做行为向导技术

4字数 1470阅读 218

从 2018 年中开始,本博客开始了针对「行为向导技术」的一系列讨论,从行为向导技术的种类划分效果差异如何应用,到劝服科技的伦理准则两难困境,再到助推与自由理念的扞格以及背后的自由家长主义。显然,「柔软」(采取膜内路径)的行为向导技术通常比较吸引设计师,因为对于他们的使用者来说,这样的技术似乎比较不伤害行动与选择的自由。然而,我们已经看到,那些看似能够保障自由的设计守则,其实正在弱化行为向导技术的改善社会能力。

特别是在某些重要的议题——例如环保 ——上,采取劝服科技或助推多半是自废武功或划地自限,因为一方面,短期与长期目标的冲突导致我们很难确保每个人都同意以环保作为目的,另一方面,更糟糕的是,我们至今仍然缺乏压倒性的道德论证来捍卫或确定自然极具价值,因此无法强力规定每个人都必须友善环境。显然,面对这种需要共同行动才有可能解决的社会问题,比较「强硬」——采取膜外路径——的行为向导技术,也就是「物律」,才是解决问题的契机。

反对者可能会质疑,为何不使用量身订做的(personalized)行为向导技术?这种质疑的确呼应了近年劝服科技和助推的设计趋势:在不违反使用者目标的情况下,有效改善使用者行为的方式——就是以他的目标为目标。这是什么意思呢?比如说,想让在乎钱的驾驶少开车,那就设计能够计算并且跳出油费提醒的仪表板,或者,如果你的使用者在乎的是健康,那么行为向导技术就应该送出「少开车、多健康」的讯息。大量使用这种行为向导技术,确实有可能在不违背使用者目标的情况下,大幅增加被改变者的幅度和数量。然而,这种作法并非没有问题。

首先,量身订做之所以有效,其中关键在于送出的讯息必须尽量符合使用者的价值观,但这实际上是矛盾于环境保护的本质,因为友善环境的行为主要是最大化他人或自然的利益,而非个人的利益。换言之,长期使用量身订做式行为导向技术的后果,反而会加强人们自私自利的心态,而自然的价值则被视为可有可无的鸡肋。如果这些反对者认为,强硬的行为向导技术只会让使用者像机器人一般做出环保行为,心里根本没有环境意识或道德观念,那么他们也必须注意到,同样功效但柔软的行为向导技术,其实并没有表现得比较好。

此外,量身订做意味着「资讯搜集」,而这正是大众经常担忧 Facebook 或 Google 的原因。如果设计师不够了解你,就无法为你量身订做。要了解你,设计师必须透过各种方式搜集你的行为数据,进而推测你的价值观,然后才能做出足以说服你的行为向导技术。这显然涉及令多数人担心的隐私问题。换句话说,除非我们忘记或放弃隐私的伦理问题,否则量身订做行为向导技术很难成为选项之一。

更糟糕的,是「透明性」问题。让我们比较一下两个大楼:一个拥有智慧环境科技,会在扫描并侦测你的行为与资料后,建议你走楼梯而不要搭电梯,才能补足今天的运动量并且有利于膝盖健康;另一个没什么高科技,只是简单的把楼梯建在中庭,然后把电梯藏在偏远而且不显眼的角落。这两个大楼都能促进使用者多走楼梯、少搭电梯,间接省下能源消耗,但哪一个比较像是如今让人担心的 Facebook 或 Google?显然是前者。在后者中,我们可以清楚看到究竟是什么东西在发挥效果,但在前者里,我们不只很难发现周遭的侦测仪器,而且根本不知道其中的「演算法」究竟为何。

量身订做是让行为向导技术柔软但有效的唯一办法,但我们已经看到,它不只行不通,还会带来其他问题。我们必须承认,不违背使用者目标还能大幅改善社会问题的行为向导技术,并不存在。换句话说,我们很难一边捍卫人类自由、一边相信环境问题的改善指日可待。解决这种两难的关键在于:重新理解自由

下期见。

* 本文(不含图片)刊登于台湾《週刊编集》第 15 期,2018.09.10

推荐阅读更多精彩内容

  • R: 对受众(包括读者,听众,观众或学员)来说,最容易理解的顺序是:先了解主要的,抽象的思想,然后再了解次要的,为...
  • 过完这个暑假就大三了,我忍不住焦虑起来。 甚至开始有些神经质,就业的压力就像洪水一般瞬间向我涌来。杭州的八月份热的...
  • 随着工作年限的增加,技术的不断积累,我们对于技术的认知和看法就会形成一套自己的世界观,就像是一个安全的技术沙盒,你...