• 中国城市报手机端
  • 设为首页
mobile-logo
您当前的位置:首页 > 科技 > 科学技术

知乎欲用AI技术建立互联网社交规则

网络暴力有望得到治理


来源: 中国网科技 作者: 单征宇

0

1529981985824024.png

 知乎运营总监孙达云

如何整治网络暴力、处理网上有害不良信息、谣言等问题近日有了最新动向。中国网科技从知乎方面了解到,随着专注于知乎社区治理的算法机器人“瓦力”推向市场,未来人们用AI技术来建立起一个规范的互联网社交环境指日可期。

“瓦力”是一种价值观

“脑回路真奇特”、“你是村里来的没见过高楼大厦吧”……这些留言在各大互联网社交平台上随处可见。24日,知乎在798举办的“阴阳怪气”主题书法展上,特意将这些评论以书法作品的形式贴在墙上进行展出。

对于这一做法,知乎对中国网科技透露,网络上很多人会不注重社交礼仪的重要性,不讲究语言分寸,一旦不认同别人的观点,就用这样“阴阳怪气”的语言攻击对方。知乎希望通过这种形式,来激发大家对建立网络社交礼仪的关注。

记者调查发现,不仅是知乎一家平台,虎扑、天涯社区乃至微博等均有用户反映,会受到因别人用“阴阳怪气”的留言给自己带来的困扰和焦虑。这些行为虽然不违法,但却会破坏平台的网络社区文明秩序,甚至对热点新闻会形成错误的舆论导向。

问题如何解决?据知乎内容质量团队技术负责人刘兆来介绍,知乎将通过算法机器人“瓦力”来应对这一问题。他称,“瓦力”可通过AI技术实现可实时识别和处理不友善、答非所问和垃圾广告导流信息。而经过技术升级之后,“瓦力”则可以实现对“阴阳怪气”内容的识别,并对内容做相应处理。

据了解,留言“阴阳怪气”,是指用户以反讽方式攻击他人,并影响正常的讨论秩序的行为。但中国网科技注意到,对于用户是否发表出“阴阳怪气”的言论目前却很难界定,据知乎方面透露,在过去7年,大量用户举报等行为,使得知乎积累了丰富的带有用户筛查性质的行为语料,并沉淀了丰富的社区管理经验,这些都帮助“瓦力”去学习,最终做到用社区最大公约数(大部分用户都认可的一个尺度)来作为“阴阳怪气”言论的判定尺度。

知乎运营总监孙达云表示:“目前‘瓦力’对阴阳怪气评论文本的识别准确率比很多人工判断都更准。”

据悉,知乎近期会让用户自由选择是否开启“瓦力”智能过滤,让阴阳怪气识别技术进入产品化尝试。而在接受中国网科技针对专访时,孙达云对记者称,知乎投入大量精力将AI技术运用到治理社区网络暴力、违法有害信息等问题上来,就是知乎对AI技术上的选择。他说:“知乎不会用低俗内容吸引用户流量,而是更希望给用户更好的讨论氛围,提供更多有价值的信息,所以“瓦力”也是知乎在AI算法上的价值取向。”

期望建立“网络社交礼仪”

如今,内容平台在“AI+内容”上的运营尝试多从推荐阅读的方向上切入,但在孙达云看来,知乎在“AI+内容”的运营上更为全面,在运用AI技术治理网络暴力这方面投入的精力更多。

孙达云对记者称,知乎的竞争优势,就是知乎社区的氛围价值,这也是为何知乎在治理网络暴力,塑造网络留言规范上的投入精力超过其他内容平台的原因之一。知乎不仅是内容平台,更是一个用户社区,用户在社区里面的行为、彼此之间的交互、互动的使用体验非常重要。

值得注意的是,被记者问及下一阶段是否会将“瓦力”应用进一步做商业化推广,选择与其他内容平台合作,孙达云对记者说:“这是知乎的愿景,未来非常愿意把它变成一个互联网社交礼仪、讨论礼仪”

据孙达云介绍,知乎在商业化运营上有两个非常明显的特征:一是对网络谩骂零容忍,二是重视维护用户的内容版权。而从这几年互联网发展时间线来看,包括微信公众号在内等越来越多的平台,都在和知乎一样,重视这两个特征给平台带来的价值,并一同加入进来维护用户内容版权,治理网上谩骂的行为。

孙达云表示:“所以说,如果能有更多同行参与进来,有更多科研机构甚至业界专家来讨论AI治理网络暴力话题,这对中国互联网甚至世界互联网的治理都有非常大的作用。”

(原标题:知乎欲用AI技术建立互联网社交规则 网络暴力有望得到治理)

(责任编辑:郭禹辰)

相关链接>>

gcz

栏目新闻

48小时点击排行