自动化是以效率为优先,但是,低效率也迷人。
一个效率为先、无摩擦、不再有模糊性且总是遵从最优解的世界,是我们的理想国吗?可能不见得。
我想建议,最主要的资源是我们的一种习惯,即尽可能地将我们的认知任务卸载(off-loading)到环境本身——将我们的心智推挤入周围的世界。在那里我们所建造的大量的外部设备能够储存、加工和再现我们的意义。这些设备提高、加强和保护转换过程,而转换过程就是我们的思维活动。这种普遍的卸载实践将我们从我们有限的动物脑中解放出来。
上述一切,都在呼唤着一个内容的“有机农场”的到来。可以想象,一个纯粹由机器所主宰的内容“无机农场”,栽满的不过是塑料花而已,虽姹紫嫣红,但却了无生机。
到目前为止,因为信息获取越来越便利,我们被喂养得越来越好,由此节约出来的大脑和时间被娱乐、游戏所填满,这让我们真的以为,人工智能解放大脑的目的,就是为了无所事事般休闲。
一如美国哲学家、神经科学家丹尼尔·丹尼特(Daniel Dennett)所建议的:
自动化总是以最优选择来决定行动,以最大概率来指导推荐算法,而人类做出选择并不一定是遵从最优解。
如果人类只是草履虫那样的低等生物,那么由机器接管的世界将是完美的简单模型。所幸,不是。
接下来,我们将看到,在信息的无机农场里,机器的确越来越多地将替换人的工作,人将逐渐从生产者转变为纯粹的消费者,或者说,一台人肉终端接收机。
到目前为止,我们所看到的机器的进步,仍只是对人类行为的一种简单模仿。当机器智能化到高级程度,人的任务不再是发现某个东西是什么,而是去发现它的所有模糊、概率性的联系;认知的任务不再是看到简单性,而是去思考复杂性;人的工作不再是工作本身,而是重新定义什么是工作,为机器发明“工作”。
因为主观性、低效率、批判性,在我们整体的文化生活中一直扮演着无比重要的角色。技术并不是那些缺陷的解决方案,因为这些根本就不是缺陷。相反,它们是我们应该加以捍卫的重要而脆弱的文化生态。
地图导航类软件的确能够帮助我们每次都选择最佳路线到达正确目的地以及将来辅助自动驾驶。但是,你有没有想过,其实永不迷路是不是一种错位的生活状态?如果不必担心身在何处,那么你也不需要知道你现在的位置了。如果机器越来越懂你,喂给你最喜欢的信息食物,你也不需要担心会错失什么异常信息。
人之异于机器者,几希也——人工智能的每一次里程碑式的进步,事实上不仅在让人工智能的概念得以夯实,也在重新定义:究竟什么是人脑,甚至于,什么是人类?
所以,所谓兴趣推荐引擎的“越来越懂你”是个巨大的谎言,其匹配准确度将存在一个临界点或者说黄金平衡点,一旦跃过,反而其边际效应将急剧下降,用户将产生厌烦,并反感于自己被束缚于信息茧房之中。
所以,不用太过忧心。至少到目前为止,我们所能展望的机器写作新闻的前景,只不过描绘的是一幅内容的无机物园圃。
当人工智能将解放人体最后一个器官——大脑,把那些需要集中注意力于机械性地重复、庞大的记忆和流程化的输出的工作得以替换,当人脑释放出富余的“存储”、“运算”的空间,休闲并不是人脑的目的,我们必须追问:将有什么新东西将重新填满、占用和操练我们的大脑?
在古典媒体时代,不按点击流量“指导”主编和记者报道什么或者不报道什么,从某种程度上保护了内容的多样性,鼓励了精致的创作。在网络时代,由于网络媒体都在争当流量大赢家,较少阅读量的内容被那些反常、荒诞、庸俗甚至是假消息挤出了首屏,扭曲了内容创作的回报机制。如果要形成内容的“有机农场”,就需要有益的低效率,它不是消灭头部效应,而是能够让每种类型、每个层次上的内容都能够匹配到理想读者,并获得合理回报。也就是,在它应许的市场得以价值最大化。
作为“园丁”,我们可能需要从根本上反思,机器所带来的种种“好处”是不是都是我们想要的。
技术至上论者乐见于程序能够帮助人们摆脱生活中的“摩擦”。就像 Facebook 事实上是在将线下复杂的人际关系自动化、算法化,马克·扎克伯格称为“无缝分享”,但问题在于,它剔除了人在社交中的自觉努力。
作家、艺术家还有一个身份是公共知识分子,他们扮演着绝对无法外包给算法的重要的公民角色。
优美的应用程序总是希望能减少手指的点击,但有时候,故意设置一个“确认”按钮,将迫使一个选择首先要经过大脑的思考。比如在互联网公益方面,如果只是单纯地追求募捐金额、参与人数,许多人会在非有意选择的情况下“顺便”捐助。但是,如果考虑到公益的目标还包括了对道德心的唤起和社会动员,那么,有意设计一个点击按钮,迫使用户必须主动作出参与公益的选择,这种故意制造“摩擦”的行为是需要的。而算法就像是消毒剂,试图清除一切的不确定性和模糊性,这种“无摩擦状态”正是我们需要警惕的。
但是,一个内容的“有机农场”将被开垦、被种植,将焕发勃勃生机。原因如下——
就像在现实生活中,人有时会做一些并不符合自己显而易见的最大利益的事情,哪怕就阅读而言,我们也不会只关心热门头条,只看高相关性新闻,只接收碎片化信息。信息世界充满冲突和争夺,这是好事,因为这样一来,特定的话题、人物和族群才无法长久地把持头部地位。
机器不会批判,但批判性是人类文化最重要的特征之一。
如果我们仅以信息世界来论,这样的图景也并非人人想要的。
再想想看,婚介服务能够算法优化吗?让机器高效率地按身高、学历、收入、家庭等数据条件进行男女匹配,恐怕是对爱情的一种讽刺。
其中一个例子是“大自然保险丝(Natural Fuse)”,这是由伦敦建筑师乌斯曼·哈克(Usman Haque)设计的艺术项目。它的运作方式是:如果你要开一盏灯,就必须把它与一株植物连接,以此作为你对能源消耗的碳补偿。每株植物带有一个标着“关/无私/自私”字样的开关,当灯渐渐黯淡,你需要做出选择,是打开自私模式从其他处于“无私”状态的植物那里借调碳配额,还是减少电能消耗。
相信我,这不是真的。因为我们获取信息的目的不是只获取本身,而是为了基于信息决策、思考以及从中产生智慧。
类似这样的对抗性设计项目都有一个共同愿望:让我们对“技术无意识”变得更敏感,发现造就我们技术狂欢的底层设施,超越数字化简主义,避免游戏化的简单粗暴,让我们不要变成只懂得享受便利、折扣的消费者。同时,也是提醒我们,要珍视自己的价值观,并在人文与技术对话的过程中,逐渐修正自己的价值观。
就像电影《黑客帝国》所想象的那样:人类像蚕宝宝一样从一出生开始就被喂养、被照顾、被规训得无微不至,人成为工厂流水线上的一个“有机化合物反应堆”,这样的超级自动化的世界并不美妙。
对抗性设计(Adversarial design)的概念由美国佐治亚理工学院数字媒体专业副教授卡尔·迪赛欧(Carl Disalvo)提出,在其2015年出版的著作《对抗性设计》一书中,介绍了多个故意制造摩擦、以便让用户意识到技术存在的交互设计案例。
一个误区是,正是因为我们错误地认为休闲优于工作,希望享受轻松而不愿付出努力,我们才过高地估计了各种自动化的好处,而有意无意地忽略了它的“附带伤害”。
而一个内容的“有机农场”(Farm)是可以预见的。
技术中立论者有意无意地忽略了重要的一点是,机器生产的内容不会有批判性,因为机器不会拥有世界观、价值观和道德观。而千百年以来人类创作的无论是文艺作品还是媒介文化,其内容本身就包含着批判性,并且读者可以对这些作品进行持久地批判,因为它包含着作家强烈的个人动机、见解和主观视角。
自动化在消除一切不确性、模糊性的东西,创造一个无摩擦的信息世界,但人类处理信息需要分歧、冲突和有所选择。
这一设计的目的,就是让遥远的无法具体感知的碳平衡来到消费者触手可及的面前,使得消费者每一次消耗能源的举动都必须面临一次节能意识的提醒。它增加了麻烦,但这是它的特色,而非漏洞。它并不惩罚过度消费的用户,也不奖励那些与他人分享的用户,它只是向我们展示了日常消费习惯与能源消耗之间的关系。它的目的不是要最大限度地提高能源利用效率,而是要最大限度地提高协商效率,强迫用户去面对自己可能无视的问题。
丰饶的内容“有机农场”,犹如我们对于好作品的欣赏品味一样,它一定是包含了叙事想象力、好奇心、不满的欲望和独创性的花朵。而这些,都依赖于人的伟大创造。