兒童被虐待問題一直是社會的毒瘤，扎在父母心中的一根刺，很多人工智能公司也一直致力于研究相關技術來解決這一問題。Google近日發布了一套AI工具包，用于快速審查大量的兒童性虐待內容，同時盡量減少人工檢查的需要。

資料圖

　　該工具使用深度神經網絡掃描虐童圖片，并將這些圖片按照可能被瀏覽的幾率進行排序。此外，該套工具還能標記之前未發現過的性虐童內容。

　　該工具包通過Google的內容安全編程包免費提供給企業合作伙伴和非政府組織。雖然不能確定是否能顯著減少性虐童圖片的數量，但可以協助發現和報告兒童性虐待。

　　目前，該領域的大多數技術解決方案都是通過根據以前識別的性虐待材料的目錄檢查圖像和視頻來實現的。(參照PhotoDNA，該款工具是由微軟開發并由Facebook和Twitter等公司部署的)這種被稱為“爬蟲”的軟件是阻止人們共享已知的先前已識別的CSAM的有效方法。但它無法識別尚未被標記為非法的材料。為此，人類必須自己審查有關內容。

　　這便是谷歌新的AI工具將提供幫助的地方：該工具利用谷歌在機器視覺方面的專業知識，通過對標記的圖像和視頻進行排序并“優先考慮最可能的CSAM內容以供審查”來協助人類。這樣，工作人員將能夠提高審查的效率。

　　中國近年來在人工智能方面也投入了大量資金，但大多數視頻分析系統目前在僅僅在國防安全領域，包括國防和反恐活動中使用。

　　紅黃藍幼兒園只是近年來的一些幼兒園虐待案件之一，其中一些已經被監控攝像頭發現，引發了家長們對安全隱患的擔憂，促使國務院對全國范圍內的幼兒園進行檢查。

　　清華大學電子工程系教授Zhang Li說，他們和中國其他的頂級AI實驗室很快會將資源轉移到解決防止兒童虐待的問題。

　　Zhang表示，國內許多機場，火車站和公共場所已經在使用這項技術來檢測異常行為，使用的方法有面部識別等等。

　　但是，要在幼兒園使用這一技術，研究院需要獲得大量的數據，這是一個難題，他說。

　　“有些幼兒園可能不愿意分享數據，因為這些視頻可能包含敏感信息。一些家長也可能有隱私方面的擔憂，“Zhang說。

　　北京中國科學院模式識別國家實驗室研究員Huang Kaiqi表示，計算機可以通過跟蹤人體圖像中的每個像素來跟蹤移動或手勢，因此可以檢測到微小的行為，如兒童被扎針。

　　“虐待通常包含一系列的行為。這些行動可以形成一個模式，可以通過機器學習和識別。“他說。

　　其他檢測方法如聲音和熱感應也可以用來收集更多的信息，這樣行為跟蹤系統可以做出更準確的判斷。

　　例如，如果孩子在教師采取某種行動后反復哭泣，系統可能會發出警報。公安部負責全國監視和報警系統的高級警官表示，將考慮在學校、包括幼兒園的安全系統中增加人工智能技術。

　　據官方人士透露，北京在2012年頒布了一項規定，要求所有學校都安裝安全攝像頭，但許多系統沒有專門的人員進行監控，硬盤通常只是被保存起來以備不時之需。

　　人工智能擁有一雙永不眨眼的眼睛，一個永不疲倦的頭腦。單靠技術無法從根本解決問題，只有技術研發與公眾素質并行提升，才有可能把對孩童的傷害扼殺于搖籃。

　　Google發布免費AI工具包，可快速審查性虐童圖片