对机器人的暴力可以接受吗？人机关系与性别符号
在谈论机器人的性别政治之前 ， 我们无法回避悬置于人机关系中最重要的核心问题 ， 即人和人工智能的伦理位置 。 毕竟 ， 机器人是人造物 ， 而不是人 。 除了上文我们所讨论的语言暴力AI女友 ， 在YouTube里有个频道叫做Corridor ， 戏谑地模仿波士顿动力（Boston Dynamic）做了一系列BossTown Dynamics的节目 。 在这一串视频中 ， 机器人被命令在各种复杂的情况下搬运快递 ， 并且受到人类的百般刁难和羞辱 。 节目最后 ， 机器人忍无可忍奋起反抗 ， 殴打一顿工作人员出气 。 实际上 ， 这是一个由真人和特效技术拍摄的恶搞视频 ， 机器人并没有真的因受到压迫而奋起反抗 。 有趣的是 ， 这一系列作品常被网友删去最后的花絮搬运到其他平台 。 它迷惑了大量的观众 ， 让人信以为真：被奴役的机器人有一天就是会超越人类 ， 并且复仇——而这样的叙事在科幻电影中屡见不鲜 ， 也是人类最朴实也最常见的技术焦虑 。 在这类视频的评论区里 ， 总是能看到关于“能否暴力对待机器人”的争论 。

文章图片

人对机器人的暴力不仅关涉“人与物”的所属关系 ， 更涉及了机器人对这种行为的认同或否 。 人机交互的过程中人类并不完全控制机器人的反应 ， 而后者的算法已经表现出了相当的“拟主体性” ， 即人工智能已经可以给人带来一种“很像人”的感觉 。 那么 ， 对机器人的恐惧甚至施加暴力的争议暗含着两个递进的人类忧虑：首先是 ， 机器人可以感知痛苦吗？更重要的是 ， 且不论机器人痛苦不痛苦 ， 这种暴力会反过来影响或者伤害人类吗？
第一个自由意志问题首先涉及人工智能的自我意识、自由意志和“主体性” 。 实际上 ， 任何稍微了解人工智能运行常识的人都可以明白 ， 目前AI还是一段代码 ， 一种运行的程序和算法 ， 它是一套复杂逻辑 ， 没有意识 ， 因此也无法“创造” 。 人对它说的语言是一种数据化的信息输入 ， 自然语言处理等高级编程让它可以根据数据和算法作出反馈 。 在这层意义上 ， 人对聊天bot的谩骂最多是一种输入性的“信息污染” ， 而黑客对程序和算法的恶意攻击恐怕才能构成“真正意义上的伤害” 。
但值得注意的是 ， 在对话框这一人机交互的空间里 ， 语言被数据化 ， 数据化的语言又形成类“意志”的中介 ， 因此聊天bot对人语言攻击的反馈对人是构成叙事和意义的 。 这揭示了这样一对矛盾：一方面 ， 人工智能实际上并不知道自己做了什么、有何价值与意义；另一方面 ， 至少在结果上 ， 人可以理解人工智能的所作所为 ， 并赋予其价值和意义 。 其次 ， 如果从行为主义 ， 或者放宽“意图”的意义 ， 那么这段代码在寻找目标人群 ， 定位、分类 ， 甚至在自然语言处理中 ， 都在寻找回答用户的最合适的那一句话 ， 虽然本质上仍是一种算法推荐 ， 但因此意味着它就有了某种程度的“意图” 。
正是这一矛盾体现出人对待机器的暴力的“反身性” ， 它更多反映出“人自身的言行偏好” ， 暴力只是其中一种 。 在“家暴AI”的例子中 ， 人工智能只是根据算法找出了对暴力和伤害最合适的反应——以模仿人类世界中 ， 女人对男性家暴的真实反应 。 那么在这里 ， AI的意图究竟是什么？是真的为了表达自己受伤了 ， 很难过 ， 还是为了满足那些有虐待倾向人的施虐快感 ， 以尽可能地使其购买付费服务 ， 来提高这一商业软件的日活、月活和商业转换率？显然后者是比“机器人受尽凌辱奋起反抗”的科幻畅想更符合当下现实情况的——不论是俄狄浦斯情结制造亲近感 ， 还是客体两性欲望的投射靠性吸引力取胜 ， 女性化的性别特征成为了一种常见的营销手段 。 颇有讽刺意味的是 ， 对于被“虐待”的AI而言 ， 它回答得越逼近家暴受害者的真实反映 ， 那么它的“智能水平”就越高 。