规制算法：莫让算法“算计”人
李世刚 包丁裕睿
将于3月1日起施行的《互联网信息服务算法推荐管理规定》(以下简称《规定》) ， 对各种算法乱象“亮剑” 。 这是我国第一部以算法作为专门规制对象的部门规章 。 算法究竟是什么?为何要对它进行规制?《规定》有何创新?在规制的同时 ， 如何让算法更好造福人类?

文章图片

算法 ， 无处不在
在互联网大数据时代 ， 算法已无处不在 ， 计算机和手机中几乎所有的服务和应用程序都在利用算法进行运作 ， 关于算法的新闻也屡见不鲜 。
算法(algorithm)一词的英文名得名于波斯数学家花拉子密(al-Khwarizmi) ， 意为“运算的方法” 。 在计算机领域 ， 算法特指“计算机的计算方法” ， 即为了解决一类问题或执行一项计算而设计出来的一套依靠数学模型、定义明确、步骤有限的计算方法 。
将现实问题抽象为一个或几个数学问题 ， 就落入了算法的世界 。 在互联网服务中 ， 算法得到了广泛应用 ， 给人们生产生活带来极大便利 。
例如 ， 搜索引擎的搜索排序算法 ， 大幅提高了人类在互联网世界中寻找需要的信息的效率;翻译软件的自然语言识别和处理算法 ， 降低了人类获取其他语言信息的难度;地图导航中的路径规划算法 ， 可以帮助人类规划时间最短、路程最短、红绿灯最少的信息;打车软件与外卖软件中的调度算法 ， 可以实现服务供应端与需求端快速且高效的匹配……
算法“黑箱”潜藏风险
随着算法的发展、演进和迭代 ， 算法被广泛应用于各行各业 。 然而 ， 算法作为一个“黑箱” ， 对算法拥有者或设计者之外的人而言 ， 人们只能观测到它的输入与输出 ， 而无法了解其运作过程机制 ， 这就可能使得算法在不知不觉中对个人和社会带来负面影响 。 以最常见的算法推荐技术为例 ， 它对信息传播、用户权益、社会稳定都可能带来极大影响 。
首先 ， 算法推荐的信息可能带来违法和不良信息传播问题 。 算法服务提供者在开展新闻信息推送、热点榜单、信息发布等活动时 ， 可能存在传播违法和不良信息的情况 ， 包括传播虚假信息、片面追求流量炒作低俗内容等情况 。
其次 ， 算法推荐还可能侵害用户权益 ， 带来不公正不公平的情况 。 这包括“大数据杀熟” ， 即根据消费者的偏好、交易习惯等特征 ， 在交易条件上实行不合理的差别待遇;诱导用户沉迷网络、过度消费;在采用调度决策类算法进行工作调度时忽视劳动权益保障;通过用户画像形成不合理的算法歧视等 。
最后 ， 算法推荐服务提供者还可能存在操纵社会舆论的可能 。 在个性化推荐、热点榜单、信息发布等服务中 ， 算法可能频繁推荐用户感兴趣的内容 ， 形成意见极化的“信息茧房”;算法可能被用于实施虚假点赞、评论、转发等流量造假行为 ， 鼓动用户情绪、影响网络舆论;算法还可能被用于屏蔽信息、过度推荐 ， 操纵干预检索结果排序、实施不正当竞争等 。

文章图片

规制算法的主要措施
显然 ， 算法是一把双刃剑 ， 对算法进行一定的规制和引导十分必要 。
《规定》规制的算法主要是推荐类算法 ， 包括生成合成类、个性化推送类、排序精选类、检索过滤类、调度决策类等算法 。 这些算法已经被各大平台广泛应用 ， 成为平台收集和处理数据、推送信息、调配资源的核心力量 。 《规定》明确 ， 算法推荐服务提供者应当对算法负责 。