http://bit.ly/2p5M3EL 直播謀殺影片3小時才下架，Facebook監測系統再次面臨挑戰 by PingWest 直播的一大障礙，就是無法及時掩藏人性的惡。 4月16日，在美國克里夫蘭街頭，一名男子開著車似乎在尋找著什麼，一邊還自言自 語：「找個人，我要殺人，就那個人，那個老人。」隨後他拿著槍下車走向那位老 人，要求他說出一個女性的名字，老人表示不知道，槍聲響起，老人倒下。 這不是某一個電影或者電視劇的劇情，而是4月17日透過Facebook Live直播的真實謀 殺事件。 直播的主角，也就是作案男子名叫Steve Stephens，是一名47歲的非裔男子，目前正 在被克里夫蘭市的警方通緝。社交網站為凶手變態的殺人炫耀心理提供了天然溫床， Stephens在Facebook上記錄了這個變態殺人狂的發展路線，還發文講述自己的「復活 節大屠殺」，一間棄屋和15具屍體。 直播中被害的老人是78歲的Robert Goodwin Sr，並非仇人，而是被Stephens隨機指 定的。 Facebook在事後封禁了事件相關的影片，並發表聲明說：「這是一個可怕的罪行，我 們不允許Facebook上的這種內容。我們努力在Facebook上保持安全的環境，並在緊急 情況下與執法人員保持聯繫。」 但這個影片下架的過程耗時近三個小時。這三個小時，影片一邊被譴責一邊被轉發著 就火了起來，也傳播到了網路上的各個地方，恐怖氛圍醞釀的很到位。這既不是Face book第一次成為暴力恐怖事件的溫床，也不是第一次暴力影片沒有及時得到處理。 ．2016年6月13日，一名自稱效忠「伊斯蘭國」極端組織的法國籍男子拉羅西·阿巴在 巴黎附近持刀殺害了兩名警察，並且對殘忍殺害過程進行了直播。 ．2016年7月，美國人Antonio Perkins遭到了芝加哥警方的槍殺在Facebook上直播。 ．據《華爾街日報》統計，目前在Facebook Live上的自殺、謀殺類的暴力直播已經達 到50起。堪比一個影片網站的恐怖頻道。 每次事故發生後Facebook都會自己檢討並表示杜絕此類影片的再次傳播，但是在這個 用戶數量超過15億的社交平台，審查員審查的速度還是遠沒有跟上事故發生的速度。 Facebook最初的審查機制主要依靠用戶之間互相舉報，層層向上報告。用戶舉報不宜 內容，然後工作人員再逐個對內容進行檢查，重要程度高的再往上交給高管決定，確 定違反規定的再進行下架刪除。這一套流程完成時間，正好可以滿足一起暴力事件的 充分發酵。 這樣的審查通常不夠及時而且還很耗力，僅僅是瀏覽被用戶標記過的影片就需要數個 小時。 隨後Facebook開始開發智慧監測的軟體，可以對影片直播中的敏感內容進行監控和識 別。這個系統可以對黃色、暴力、以及極端組織發布的畫面進行自動識別和標註。由 於大量自殺直播事件的頻頻發生，在今年三月，Facebook把自殺也加入智慧監測的列 表。 但是這樣的監測也有一定難度。智慧監測系統的開發者說，要對影片直播內容進行即 時監控識別，主要存在兩個技術難題：首先是電腦視覺識別的演算法必須足夠快，預 計目前Facebook的研發能夠達到應用水平。另外系統也必須對違規影片直播進行優先 級決策，讓一些了解政策的專業人士決定是否應該停止某個直播。 從今天的事件看來，這個難度真實存在並且還沒有找到很好的解決辦法，智慧監測系 統中的漏網之魚仍然很多。 中國的網路直播平台也在面臨一些相同的問題，雖說大部分的直播系統都自稱是機器 +人工的審核方式，但機器只能排除一部分完全沒問題的畫面，大部分的直播影片還 是需要人工判斷。去年12月在微博上流傳著這樣一張照片，這是某家直播平台的審核 現場，這種場景是不是很熟悉？網咖的網管們面對的螢幕基本都是這個樣子。 審核員會在後台瀏覽所有的直播間畫面，覺得不對勁的畫麵點進去親測，然後透過「 忽略」和「處理」的按鈕對直播影片歸類。映客直播此前還公佈了自己審核員的門檻 標準，必須經過嚴格的培訓和考核之後才能正式上崗。 直播的人工審核瓶頸在於事件的時時發生，也就是在你已經抓到非正常事件的時候很 大可能事件已經造成了不良的後果。所以審核的意義就更大在於及時的採取後續措施 ，同時把不良影響擴大控制在最小程度。要求任何形式的審核機制在犯罪發生的正當 時立刻檢測到並做出反映，是不現實的。 然而，對於性騷擾、自殺他殺、虐殺貓狗等暴力直播來說，直播時觀眾的反應可能已 經刺激了直播者的犯罪心理。 當然，即便沒有直播這個世界上依然每天有無數的暴力事件在發生。只是直播在讓我 們貼近彼此的同時，也離那些陰暗面更近了，這可能才是最可怕的地方。 ------------------------------------------------------------------------------ 心得︰網路直播的技術與傳遞資訊的管道越來越便利， 但也希望其他網路使用者能遵守相關的法律規範，避免成為犯罪溫床啊！ 另一位網路觀察家蕭瑟寡人，最近也針對了此事件做一篇分析專題報導 http://bit.ly/2q0WSW9 --

※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 111.250.65.142 ※ 文章網址: https://webptt.com/m.aspx?n=bbs/Video/M.1492841650.A.AFD.html