知乎 “瓦力”挑战AI技术世界难题 启迪内容平台价值观

本篇文章1536字，读完约4分钟

北京，6月25日(新华社)——现实生活中的社会交往有人们通常自觉遵守的文明规范。然而，在互联网上，很多人往往忘记了社交礼仪的重要性，不再注重语言的分寸，当他们不同意别人的讲话时，就会用“脑回路真奇怪”、“你是村里人，没见过高楼”等奇怪的语言互相攻击。

这些词语并不违法，但当它们因不同的文化背景和生活经历而以破坏性的方式表达时，它们会破坏网络社区的文明秩序，降低公众讨论的质量和体验。如今，互联网公司也采取了行动。例如，智虎试图通过人工智能技术来处理这些奇怪的言论，并用创新的思想来引导新的文明。

“瓦力”是一种价值

智湖内容质量团队技术总监刘兆来表示，“瓦力”是负责社区治理的算法机器人之一，它可以实时识别和处理不友好、不相关和垃圾的广告分流信息。这一次，《瓦力》挑战了困扰世界情感分析领域的前沿问题:“阴阳”内容识别。

所谓的“阴阳”是指用户以讽刺的方式攻击他人，影响正常的讨论秩序。例如，在现实世界中，当每个人都在认真地讨论问题时，突然一个人讽刺每个人的多管闲事，气氛会马上尴尬甚至紧张。“阴阳气”语音的判断很大程度上依赖于个人情感，每个人的情感阈值不同，同一语料在不同的讨论语境下会产生不同的情感，这给算法识别带来了很大的挑战。在过去的七年中，智湖积累了诸如“报告”等行为语料库，具有用户筛选的性质和丰富的社区管理经验，这使智湖迈出了关键的一步:以社区的最大公分母为标准。

“基于对用户实际经验的累积观察，我们与算法团队一起，已经训练出一个能够识别阴阳的算法模型。目前,“瓦力”对阴阳注释文本的识别准确率非常接近社会最大公分母，比许多人工判断更准确。”智虎首席运营官孙表示。在不久的将来，智虎将允许用户自由选择是否开启“瓦力”智能过滤，真正让阴阳识别技术进入产品化的试验阶段。

互联网让created/きだよきだよ0/room成为公众讨论的话题，但它也带来了很多网络暴力，甚至导致了类似“90后女孩和父母两次自杀”这样的人间悲剧。更可怕的是，网络暴力没有幸存者，建立一个良好的网络讨论环境也是保护每个网民切身利益的举措。智虎的“瓦力”已经从认识不友好提升到认识陌生，这将对中国乃至世界互联网的讨论环境起到一定的推动作用。

值得称赞的是，人工智能算法变得更聪明，并试图在人类无法处理的海量信息中识别人类语言背后的情感意义。更重要的是，《瓦力》传达了智虎积极的方向和价值观。客观地说，算法是一个“中性”的工具，不同的目标和应用可以发挥完全不同的价值。智虎的选择是用这种算法建立一个友好的网络，让每个人都能说得很好。

文明是斗争的结果

诞生于20世纪80年代的进化心理学认为。人类心理学也符合达尔文的进化论，所有本能行为都是为了保证自己的生存和繁衍。然而，当我们审视人类发展的历史时，我们会发现，每一次进步都是建立在对人性的反抗和修正的基础上的，人性就是反思自己行为和抑制原始冲动的能力，这样人们才能摆脱丛林生活的野蛮。

历史记载的几千年来，人类早已脱离了险恶的丛林环境。尽管我们的心理仍然带有祖先的烙印，但在经历了几次工业革命和一个巨大的数字世界在网上建立之后，我们有能力建立一个新的生态，而不是让原始基因发展成惯性。

随着互联网发展到现阶段，有必要将网络礼仪这个话题提上日程。在讨论公共话题时，尊重他人、善待不同的观点应该是网络世界的基本规则。

幸福永远不会止于物质财富，精神财富也是幸福的重要来源。互联网产业正成为中国人精神生活的重要场所，也承载着沉重的社会价值责任。在追求财富的过程中，网络公司也应该更加注重平台内容的价值核心，用正能量取代消极能量，用积极引导取代消极放纵。智虎的《瓦力》带给我们的不仅仅是对人工智能技术的赞美，更是“启迪未来”的开端和典范。

来源：央视线