http://bit.ly/2p5M3EL 直播谋杀影片3小时才下架，Facebook监测系统再次面临挑战 by PingWest 直播的一大障碍，就是无法及时掩藏人性的恶。 4月16日，在美国克里夫兰街头，一名男子开着车似乎在寻找着什麽，一边还自言自 语：「找个人，我要杀人，就那个人，那个老人。」随後他拿着枪下车走向那位老 人，要求他说出一个女性的名字，老人表示不知道，枪声响起，老人倒下。 这不是某一个电影或者电视剧的剧情，而是4月17日透过Facebook Live直播的真实谋 杀事件。 直播的主角，也就是作案男子名叫Steve Stephens，是一名47岁的非裔男子，目前正 在被克里夫兰市的警方通缉。社交网站为凶手变态的杀人炫耀心理提供了天然温床， Stephens在Facebook上记录了这个变态杀人狂的发展路线，还发文讲述自己的「复活 节大屠杀」，一间弃屋和15具屍体。 直播中被害的老人是78岁的Robert Goodwin Sr，并非仇人，而是被Stephens随机指 定的。 Facebook在事後封禁了事件相关的影片，并发表声明说：「这是一个可怕的罪行，我 们不允许Facebook上的这种内容。我们努力在Facebook上保持安全的环境，并在紧急 情况下与执法人员保持联系。」 但这个影片下架的过程耗时近三个小时。这三个小时，影片一边被谴责一边被转发着 就火了起来，也传播到了网路上的各个地方，恐怖氛围酝酿的很到位。这既不是Face book第一次成为暴力恐怖事件的温床，也不是第一次暴力影片没有及时得到处理。 ．2016年6月13日，一名自称效忠「伊斯兰国」极端组织的法国籍男子拉罗西·阿巴在 巴黎附近持刀杀害了两名警察，并且对残忍杀害过程进行了直播。 ．2016年7月，美国人Antonio Perkins遭到了芝加哥警方的枪杀在Facebook上直播。 ．据《华尔街日报》统计，目前在Facebook Live上的自杀、谋杀类的暴力直播已经达 到50起。堪比一个影片网站的恐怖频道。 每次事故发生後Facebook都会自己检讨并表示杜绝此类影片的再次传播，但是在这个 用户数量超过15亿的社交平台，审查员审查的速度还是远没有跟上事故发生的速度。 Facebook最初的审查机制主要依靠用户之间互相举报，层层向上报告。用户举报不宜 内容，然後工作人员再逐个对内容进行检查，重要程度高的再往上交给高管决定，确 定违反规定的再进行下架删除。这一套流程完成时间，正好可以满足一起暴力事件的 充分发酵。 这样的审查通常不够及时而且还很耗力，仅仅是浏览被用户标记过的影片就需要数个 小时。 随後Facebook开始开发智慧监测的软体，可以对影片直播中的敏感内容进行监控和识 别。这个系统可以对黄色、暴力、以及极端组织发布的画面进行自动识别和标注。由 於大量自杀直播事件的频频发生，在今年三月，Facebook把自杀也加入智慧监测的列 表。 但是这样的监测也有一定难度。智慧监测系统的开发者说，要对影片直播内容进行即 时监控识别，主要存在两个技术难题：首先是电脑视觉识别的演算法必须足够快，预 计目前Facebook的研发能够达到应用水平。另外系统也必须对违规影片直播进行优先 级决策，让一些了解政策的专业人士决定是否应该停止某个直播。 从今天的事件看来，这个难度真实存在并且还没有找到很好的解决办法，智慧监测系 统中的漏网之鱼仍然很多。 中国的网路直播平台也在面临一些相同的问题，虽说大部分的直播系统都自称是机器 +人工的审核方式，但机器只能排除一部分完全没问题的画面，大部分的直播影片还 是需要人工判断。去年12月在微博上流传着这样一张照片，这是某家直播平台的审核 现场，这种场景是不是很熟悉？网咖的网管们面对的萤幕基本都是这个样子。 审核员会在後台浏览所有的直播间画面，觉得不对劲的画面点进去亲测，然後透过「 忽略」和「处理」的按钮对直播影片归类。映客直播此前还公布了自己审核员的门槛 标准，必须经过严格的培训和考核之後才能正式上岗。 直播的人工审核瓶颈在於事件的时时发生，也就是在你已经抓到非正常事件的时候很 大可能事件已经造成了不良的後果。所以审核的意义就更大在於及时的采取後续措施 ，同时把不良影响扩大控制在最小程度。要求任何形式的审核机制在犯罪发生的正当 时立刻检测到并做出反映，是不现实的。 然而，对於性骚扰、自杀他杀、虐杀猫狗等暴力直播来说，直播时观众的反应可能已 经刺激了直播者的犯罪心理。 当然，即便没有直播这个世界上依然每天有无数的暴力事件在发生。只是直播在让我 们贴近彼此的同时，也离那些阴暗面更近了，这可能才是最可怕的地方。 ------------------------------------------------------------------------------ 心得︰网路直播的技术与传递资讯的管道越来越便利， 但也希望其他网路使用者能遵守相关的法律规范，避免成为犯罪温床啊！ 另一位网路观察家萧瑟寡人，最近也针对了此事件做一篇分析专题报导 http://bit.ly/2q0WSW9 --

※ 发信站: 批踢踢实业坊(ptt.cc), 来自: 111.250.65.142 ※ 文章网址: https://webptt.com/cn.aspx?n=bbs/Video/M.1492841650.A.AFD.html