强控制的算法，弱控制的活法

文/陈根

人工智能时代的到来使技术产生了颠覆式的变革与发展,大数据、机器学习、神经网络等新兴技术在社会生活各方面的应用,构成了智能时代独特的表征。这些技术以算法为主线,串起了一张完整的技术网络。

于是,具备自主学习能力和预测能力的智能算法开始由虚拟空间向现实空间延伸。如今,算法已不仅仅是特定的技术,更是社会权力运行体系中的重要变量。我们使用它,它也反过来浸染了我们,小到个体思维,大到整个社会运作的逻辑。

与过去不同,智能时代重塑了人与技术的关系,技术不再仅仅是“制造”和“使用”的方式,而是一种人化的自然。今天,当算法大行其道时,在带来了科技的便利和高效的同时,我们又失去了什么?

算法下的选择让渡

一般来说,算法是为解决特定问题而对一定数据进行分析、计算和求解的操作程序。算法,最初仅用来分析简单的、范围较小的问题,输入输出、通用性、可行性、确定性和有穷性等是算法的基本特征。

算法存在的前提就是数据信息,而算法的本质则是对数据信息的获取、占有和处理,在此基础上产生新的数据和信息。简言之,算法是对数据信息或获取的所有知识进行改造和再生产。

由于算法的“技术逻辑”是结构化了的事实和规则“推理”出确定可重复的新的事实和规则,以至于在很长一段时间里人们都认为,这种脱胎于大数据技术的算法技术本身并无所谓好坏的问题,其在伦理判断层面上是中性的。

然而,随着人工智能的第三次勃兴,产业化和社会化应用创新不断加快,数据量级增长,人们逐渐意识到算法并非中立。

事实上,对于计算机的能力,人们总是有一种乐观情绪,觉得其在我们的操纵和控制之下。然而,尽管人类可以操控,或者说可以去分析算法的结果,但在科技革命的浪潮催生了以技术为导向的技术理性下,不可避免的,理性成为一种工具,变成了纯粹的目的,人自身的目的性和主体性在这种理性活动中被加速掩盖。

科幻电影《流浪地球》里,太阳急速衰老膨胀,短时间内包括地球在内的整个太阳系都将被太阳所吞没。而在火种计划的空间站,作为人工智能,moss大概是绝对理性的,它的目的就是保证人类种群延续。由于0．0001%的成功率,moss判断不能去撞木星,这就是人工智能的判断。

当然,电影的结尾我们都看到了,当刘培强依然选择烧毁太空站保存的资料后,忤逆了人工智能的判断,最终,moss默认了撞击木星的方案,使地球人类得以拯救。

然而,正是因为与现实选择相悖,《流浪地球》才有了意义。实际上,更多时候,在面对人工智能的判断时,人们无法反对。像人工智能应用的比较多的围棋,人类可以去逆推机器的下棋背后的棋理,但却没有办法去模仿的人工智能对胜率的判断。

毫不夸张的说,相比于基本元件运算速度缓慢、结构编码存在大量不可修改原始本能、后天自塑能力有限的人类智能来说,人工智能虽然尚处于蹒跚学步的发展初期,但未来的发展潜力却远远大于人类。

如今,越来越多的数据产生,算法逐渐从过去单一的数学分析工具转变为能够对社会产生重要影响的力量,建立在大数据和机器深度学习基础上的算法,具备越来越强的自主学习与决策功能。人可以在分析上去跟机器抗衡,但是在判断上越来越难挑战机器。

这个判断变成了计算机给人们设立的一套算法。人不再是算法的主体,反而成为算法下可被预测和计算的客体。算法由此预测人的生活,消除个体的行为不确定性,对人进行赋值。于是,由于无法反对人工智能的判断,作为结果,人的自主控制能力逐渐被让渡出去。

当人们默认了人工智能的判断,用大数据为我们筛选喜好,任凭算法对人们进行还原时;当随着数据体量的扩充和计算能力的发展,算法广泛地应用于信息处理、生物识别、数据挖掘、医疗健康、新闻生产和保险投资等多个领域,全方位改变着人类社会的生产、生活方式和运行结构时。

终于,依托于技术而产生的算法,也限制了人们对自我的认知、意识和价值的评判,使人们不再反思制度,也不再关心实践。

算法下令人无从选择

在算法用机器语言刻绘现实世界下,除了人们逐渐让渡的判断外,算法已不仅仅是特定的技术,更是社会权力运行体系中的重要变量。

事实上,算法作为一种价值体系,也有其自身的运行逻辑。智能算法的研发与使用依托于大型互联网企业,注定了算法以利益为导向,遵循商业逻辑,具有与生俱来的偏好性。

早在上个世纪四五十年代,就有海德格尔包括法兰克福学派批评“工具理性”,而算法大行其道下,更是把工具理性又提到了一个新的高度。算法是技术,也是产业,这而种市场化的运作方式遵循商业逻辑,追求资本利益的最大化。

一段时间前被推上热搜引起互联网热议的“外卖困局”,“算法”就在其中占据着举足轻重的地位。智能派单系统依托于大数据处理技术和人工智能技术。骑手的数据特征,包括所在位置、在线时间、接单数量、配送进度、客户评价等不断被累积记录,平台并以此进行大数据分析,智能分配订单,并通过系统监控骑手的接单情况、送餐路线,在送达后,骑手还需要请求任务结束。

在这种模式下,骑手的自主性基本被剥夺,失去了对时间的控制,完全需要按照算法提供的指令来工作。另外,在骑手送完订单后,系统可以根据订单需求预测和运力分布情况,告知骑手不同商圈的运力需求情况,实现闲时的运力调度。通过算法技术和模式的引入,系统计算的配送不断缩短,就有了《外卖骑手,困在系统里》一文中,三年内从1个小时为3公里长的配送最长时限到2018年的38分钟。

无独有偶,外卖的困局之所以能引起全互联网的热议,正是因为其反应的是算法时代下劳资的困境,而劳资的困境,也就是人和技术的困境。

智能时代重塑了人与技术的关系,技术不再仅仅是“制造”和“使用”的方式,而是一种人化的自然,是一种围绕着我们和在我们当中的自然的社会建构,也带来了一系列新生的问题。

工业社会时代,人对于技术的敬畏是天然的和明显的,技术被看作是一种具有阶层和权力属性的,掌握技术的人通常被赋予更高的权力,保持在一个更高的社会阶层和地位上。而智能时代下,信息技术覆盖融合着人忙的生活,对于技术的理解和驯化,调试人和技术的关系成为当时研究的基本范式。

然而,技术有其本身的逻辑:控制、集中化、极度理性。它只看算法,而算法的逻辑就是效率。于是,技术的追求效率和资本的追求效率刚好达成了一种共识,技术所谓的追求最优化,恰好是资本的逻辑。于是,在这个追求结果,追求创造资本的效率,投入产出要达到一个最佳的比例的过程中,人性就被排在末后,落于无从选择的地步。

与过去不同,智能时代重塑了人与技术的关系,技术不再仅仅是“制造”和“使用”的方式,而是一种人化的自然。

算法在为个人提供便利的同时,也让人们逐渐失去了选择;算法具有先进性,作为一种内化的、泛在的技术,普遍存在于个人生活和社会运作的方方面面,表现为对公众和社会组织的引导,从而形成的一股不可小觑的力量口。

这个世界的科技进展与人类命运的关系,或许只有少数人关心,但这种关心,无论何时,都弥足轻重,且应当被更多重视。只有审视真相,我们才具有改变的力量。