今日头条升级“灵犬”服务 超60万人次打击低俗

本篇文章874字，读完约2分钟

新华社北京5月16日电今天的头条通过官方微博宣布，“灵泉反低俗助手”最近完成了服务升级，增加了反色情短信模式和反辱骂模式，准确率从73%提高到82%，提高了9个百分点。到目前为止，已经有60多万人使用“灵泉”小程序来对抗低俗和净化网络环境。

据悉，这是“灵泉”上线以来的首次大规模更新。“灵泉”于2018年4月8日正式推出。这是中国第一个人工智能反俗小程序。“灵泉”只需要一段文字或文章链接来检测内容健康指数并返回识别结果，包括是否可以获得算法推荐以及是否需要引入人工判断。对于用户输入的内容，“灵泉”将首先提取、切分单词并识别语义，然后根据算法规则输出相应的分数、评分和结论。所有这些都是在几秒钟内完成的。

在移动互联网时代，海量内容创作的快速增长给内容识别带来了巨大挑战。“打开灵泉，以聚集整个人的力量来对抗粗俗。我们希望升级服务，更好地帮助用户发现低俗信息，共同打造一个清晰的网络空空间。”《今日头条》主编张福评论道。

对于人工智能来说，目前开展反低俗工作至少有三个难点:一是识别“内涵色情”，这需要联想能力和较高的机器学习能力；第二是短文本识别。一般来说，机器接收到的上下文越充分，判断的准确性就越高；第三，书面语和口语的区别，与标准书面语相比，口语很随意，变化很大，很难识别。

据张付平介绍，为解决上述困难，“灵泉”制定了专门的低俗分类标准，构建了新的扫黄短信模式，研究了近万个标准案例，重点加强了对短信、色情和内涵色情的识别，同时注重口语和标题语言的覆盖。《灵泉》还构建了新的反辱骂模式，以加强对辱骂内容的识别。

基于人工智能模型的训练路径:“采集数据-标注样本-训练模型”，在重复训练中，灵泉将变得越来越智能。“灵泉”还有一个特别的“反馈奖”入口，鼓励网民给予积极的反馈，提供灵泉的不准确识别案例或任何改进建议，并给予实物奖励。

根据今天的标题，目前在内容审查方面，除了色情、低俗、标题派对、虚假信息和低质量模型等180多个人工智能模型外，今天的标题还投入了6000多个专业审查团队，结合人工和技术手段提高内容审查的效率和准确性。

来源：央视线