谷歌推出人工智能工具筛查恶意言论

谷歌(Google)推出了一款人工智能工具,可以识别网上的辱骂评论,帮助出版商回应要求它们遏止仇恨言论的日益增大的压力。名为Perspective的这款免费谷歌软件,正得到一系列新闻机构的测试,包括《纽约时报》(New York Times)、《卫报》(Guardian)、《经济学人》(The Economist),作为帮助简化人工审核其文章下面的评论的一种方式。

“新闻机构希望鼓励与其内容相关的参与和讨论,但发现要筛查数以百万计的评论,甄别其中的恶意挑衅或辱骂言论需要耗费大量财力、人力以及时间,”研发这款工具的谷歌科技孵化器Jigsaw总裁贾里德•科恩(Jared Cohen)表示。“其结果是,很多网站彻底关闭了评论功能。但他们告诉我们这不是他们想要的解决办法。”

目前,该软件供谷歌“数字新闻行动”(Digital News Initiative)涵盖的一系列出版商使用,包括英国广播公司(BBC)、英国《金融时报》(Financial Times)、《回声报》(Les Echos)和《新闻报》(La Stampa),同时在理论上可供YouTube、Twitter和Facebook等第三方社交媒体平台使用。

“从小开发者到互联网上的最大平台,我们对与各方合作持开放态度。我们都有共享利益,并受益于健康的网上讨论,”Jigsaw的产品经理CJ•亚当斯(CJ Adams)表示。Perspective帮助更快地甄别辱骂评论,以便人工审核。该算法经过了数十万条在维基百科(Wikipedia)和《纽约时报》等网站上被人工审核者贴上“有毒”标签的用户评论的训练。

它的工作原理是基于在线评论与被贴上“有毒”标签的评论的相似度,或这些评论使别人离开对话的可能性,对其进行打分。“我们都很熟悉网上评论与日俱增的毒性,”科恩表示,“人们因为这一点而离开对话,我们希望赋予出版商力量,能够重新赢回这些人。”(转载自FT中文网)

发表回复