游客

Facebook回应用户直播杀人 承认内容审核程序有缺陷

游客 2017-04-18 23:03:56    200836 次浏览

来源:澎湃新闻

澎湃新闻记者 王歆悦 综合报道

由于对内容监管不力又遭诟病。

美国时间4月16日下午,一名37岁的美国男子史蒂夫·史蒂芬斯(Steve Stephens)在Facebook上发了两段视频,一段是宣布他计划杀人,第二段据称是他自己接近一位老人并朝他头部射击。大约10分钟后,他通过直播工具Facebook Live谈论这起谋杀及自己的其他犯罪行为。视频2个多小时后才被Facebook介入删除。

这种让人不适的视频内容出现在Facebook上,让公众又开始质疑这家社交巨头对平台暴力行为监控力度的不足。

Facebook方面称,史蒂芬斯从美国东部时间下午2时09分开始发布视频。Facebook在当日下午4点左右收到了含枪击片段的第二段视频的首份举报。公司在下午4时22分左右删除了史蒂芬斯的Facebook页面,这距离他开始发布视频已经过去了两个多小时。

《华尔街日报》报道称,Facebook全球业务副总裁Justin Osofsky在4月17日发表博客文章,承认公司的内容审核程序存在缺陷,并打算对用户举报争议内容的方式进行改进。Osofsky称,Facebook也在评估公司管理和优先处理被举报内容的方式。

Osofsky表示,经历了一系列这种恶性事件后,公司正在评估报告机制,以确保用户能够尽量便捷地举报违反标准的视频和其他内容。Facebook发言人在声明中称,这是一起骇人的犯罪,他们不允许这种内容出现在Facebook上。该发言人表示,他们将努力维持Facebook的安全环境。

此次视频引发的事件是Facebook视频工具被用来宣扬暴力的最极端案例之一。这让人们重新开始质疑Facebook对其平台上敏感或暴力直播内容的监管能力。

据《华尔街日报》统计,人们使用Facebook Live直播了超过60个敏感视频,其中包括谋杀、自杀以及1月发生的一起殴打智力障碍青少年的事件。

Facebook对于使用其平台宣扬暴力有着严格的标准,并有内容管控团队来对暴力内容进行监控。Facebook将其内容审查的工作外包给全球数千名承包商,但据说直播视频的内容只由一个专门的小团队来管理。Facebook称,该承包团队位于旧金山湾区,8小时轮班地不停运作。Facebook的现员工和前员工说,其内容审核团队受过专门训练,来删除具有攻击性和暴力直播视频,包括斩首、淫秽内容等。

熟悉Facebook的人士称,当一个视频同时观看的人数达到一定量级时,视频将被自动发送给承包商审阅。

但内容监管方面的专家表示,科技公司要想维持一定标准是很难的,因为网站上用户每天上传的内容与审查员的人数相差悬殊。因此,Facebook正在开发能够识别暴力和争议内容的技术,但目前为止,要理解视频中发生了什么,对于软件来说还是很有难度的。

2016年初,扎克伯格把平台的直播业务Facebook Live作为重头,并让团队在2个月内准备好全球范围的开通。但迅速推出产品反映了硅谷在产品研发上的普遍做法——赶紧推出市场后再慢慢解决问题。

如果出现恶性事件,在有法院传票的情况下,Facebook通常会与执法部门共享用户基本信息,如姓名、最近登录时间和信用卡信息。如果有法院指令,Facebook也会共享用户IP地址等信息。

美国法律通常会保护互联网公司免担平台上用户上传内容的责任。但在最近几个月,公司CEO扎克伯格表示,尽管Facebook只是为人们开发交流的工具,但是公司也应该为这项科技被如何使用承担一定责任。

内容加载中