1
過去，Facebook等社交平臺上的直播內容一直為人類所掌控，但AI的出現正在改變這一切。
一周以前，美國黑人男子費蘭多·卡斯提爾（Philando Castile）遭美國警察射殺，其女友用手機在Facebook上直播了整個過程，但不久后，這段視頻因為“技術故障”而被清除。余波未平，就在昨天，另一個槍擊視頻在該社交媒體上瘋傳。事發地點為弗吉尼亞州的諾福克城，一名黑人青年與兩名友人在車上聽音樂時遭遇槍擊，這名黑人男子也直播了此次事件，而視頻并沒有被刪。
隨著直播上涌現越來越多的暴力內容，Facebook和Periscope等社交平臺正在不斷摸索他們應該在篩選用戶可見信息上扮演什么角色，以及如何讓自己的審查團隊完成信息審查任務。
對于第二個問題，他們萌生了一個想法：利用AI 過濾信息。
紐約的Dextro公司正致力于利用機器學習來解讀視頻的聲音和圖象信息，其聯合創始人大衛·盧安（David Luan）表示：“各大科技公司已經掌握了相關技術，能夠屏蔽直播或者錄制視頻中的情色信息。”這類視頻分析軟件已經投入使用，對Periscope、YouTube、Facebook等發布的視頻進行監測，過濾暴露的情色內容。
“我們能夠挑出包含槍支或者游行畫面的視頻。”盧安說。并且速度很快，他透露，一旦視頻發布，只需300毫秒，就能確認視頻內的所有信息。對于Facebook這種擁有16.5億用戶的社交平臺而言，快速篩選信息極其關鍵。因為視頻一經傳播，影響巨大。
盧安表示，總的來說，過去兩年在圖象識別上取得了很大的進展。包括Dextro在內的公司運用算法和模型提取流媒體視頻中的概念，幫助公司和用戶尋找最有意思的內容，或者找到更加相關的視頻。同樣地，AI正在熟練掌握分析圖像和視頻的技術。Twitter的AI團隊Cortex就利用大型仿真神經網絡，實時掌握Periscope的用戶發聵信息，優化用戶推薦內容。
而此前在人臉識別、物體識別等靜態圖象識別技術上“下了大賭注”并且已經取得很大進展的Facebook，現在也致力于視頻分析系統的研究和開發工作。
“有趣的是，如今人工智能算法報告的“敏感”圖片比人類報告的更多，”Facebook機器學習應用團隊的負責人Joaquin Candela在三月接受TechCrunch的采訪時表示，“我們如果能夠利用人工智能對各項信息100%把關，人們接觸到的“敏感”圖片就會越少。”
AI還可以對視頻中“開心”或者“憤怒”的畫面打上關鍵字標簽或者進行全方位的描述。Clarifai也是一家利用機器學習分析視頻文件的公司，它的軟件能識別11000種不同的物體和場景。該公司的聯合創始人兼CEO Mathew Zeiler表示，AI可以通過熟悉打架場景中人們攥緊拳頭的畫面來識別視頻中的打斗場面。如果能讓AI熟悉各種武器的圖片，那么很多情況就在我們的掌握之中，Zeiler說道，“因為我們可以提前看到這些武器的畫面。”AI一旦確認了目標，就會立即采取行動——比如關閉視頻或者更換審查者。
盡管研究者們在“教會”計算機辨別靜態圖像的道路上取得了顯著的進展，但分析視頻畢竟要艱難得多。為此，Twitter的AI團隊利用高性能圖形處理器，組裝出了一臺超級計算機，專門進行視頻分析研究。
Detrox的盧安表示，人工智能沒有辦法完全像人類一樣把握情景語境，“如果某人遭遇了十分激烈的質問，且被質問的方式很不恰當，那么就需要從這個場景的關鍵點去把握整個事件，但是人工智能并不具備縱觀全局的分析能力。”
比如，在美國頗負盛名的高校內，一名黑人砸碎一扇描繪棉花田里黑奴的彩色玻璃窗的行為背后的含義；或是英國宣布脫歐計劃后，曼切斯特一群白人青少年與一名突然沖上電車、皮膚黝黑的男子爭辯下隱藏的微妙詆毀言辭，都是AI無法辨別的。此類場景中的文化和歷史信息，AI無法捕捉，至少現在是不行的。
然而，在Diamond Reynolds的直播視頻里，AI識別到了警察對準費蘭多·卡斯提爾（Philando Castile）的槍口以及在車座上血流不止的這位黑人小伙。AI及時過濾了這條視頻，但如果換成是某個人對此進行審查，處理方式就很難說了。
Facebook利用AI清除不良信息的力度尚不明確，但迄今為止，人類依然掌控著審查系統。一旦用戶直播或上傳的視頻點擊率過高，那這段視頻就會被發送至該社交平臺的四大審查中心，分別位于門洛帕克、奧斯丁、都柏林、海德拉巴。這四個城市的審查者們負責遏制違反Facebook社區標準的文件流的傳播。威脅、自殘、“危險組織”、欺凌、犯罪活動、“違禁物品”、裸露、仇恨言論、宣揚暴力等都是社區標準中明令禁止的內容。
Facebook今年移除的視頻中，有一條來自巴黎。畫面顯示，一個ISIS的效忠者非法殺死了一名高級警方指揮官和一名警察。另一條來自美國密爾沃基，三個青年上傳了一段情色視頻。然而芝加哥大街上，一名男子錄下了自己白天被謀殺的過程并上傳到了臉書主頁上，這條視頻卻并沒有被刪。
眼下，人類審查系統仍必不可少，部分原因在于AI無法對所有的情景做出準確的判斷。盡管在尋找暴力跡象方面，AI比人類快得多，但是分析復雜的情形和事件時，還得由人類出馬，比如前文提到的曼切斯特青年與路人發生的爭執。
不過，一切都在發生改變。盧安說道，“如今，AI的發展日新月異。”此外，手勢識別技術突飛猛進也加快了AI成熟的腳步，盡管AI現在還無法識別隱藏的武器，不過今年年底的時候，就很可能實現這一目標。
雖然AI能夠審查的內容越來越細化，但并不意味著人類對信息的把控和過濾完全成為過去式。對于任何網絡平臺而言，最關鍵的日常仍然是人類用戶之間標記和傳遞的各種各樣的信息。因為總的說來，這些被標記的信息代表了許多用戶想要瀏覽的內容。此外，在篩選符合公眾利益和價值的信息上，人類審查員的角色勢不可替代的。
Facebook對其平臺上發布的視頻的判斷標準仍不明確。也許隨著AI不斷發展，其辨別準確性會大幅提升，從而承擔更多審查重任，Facebook、Periscope等社交網絡對視頻的管制也會隨之更加清晰透明。
雷峰網原創文章，未經授權禁止轉載。詳情見轉載須知。
