騰訊科技訊 6月21日，微信正式上線“珊瑚內容安全助手” （以下簡稱“珊瑚”）小程序，公眾號運營者和小程序開發(fā)者可以通過小程序一鍵鑒別內容和產品的安全風險。作為微信首個移動端安全鑒別工具，“珊瑚”小程序的推出，意味著微信將在內容安全方面為運營者和開發(fā)者提供更多幫助。

“三管齊下”，幫助運營者提高小程序內容安全

據(jù)了解，“珊瑚”小程序將為運營者和開發(fā)者提供風險自測、內容鑒別、行業(yè)動態(tài)等三個維度的功能，由騰訊云提供技術支持。

開發(fā)運營者可通過勾選自己的產品功能、各功能發(fā)布內容的情況，由“珊瑚”小程序自動計算給出產品風險評級、針對性的風險提示及相應的風險防控建議等，讓開發(fā)運營者對產品的安全風險了然于心。

小程序提供風險自測、圖文安全鑒別、行業(yè)動態(tài)等功能

在文字鑒別、圖片鑒別模塊，“珊瑚”小程序還可對用戶上傳內容中是否含有違法有害信息給出鑒別結果，同時提供能力介紹和接入引導文檔，為開發(fā)運營者從“體驗”、“理解”到“接入”， 提供一站式安全能力服務。后續(xù)“珊瑚”小程序還將支持音頻、視頻鑒別能力，為用戶提供更完善的內容安全服務。

此外，“珊瑚”小程序還包含定期更新的互聯(lián)網(wǎng)行業(yè)內容安全動態(tài)、相關法律法規(guī)等內容，幫助開發(fā)運營者及時掌握行業(yè)情況。

維護平臺生態(tài)健康，與開發(fā)者運營者共生長

隨著小程序生態(tài)的繁榮，小程序內容安全成為外界關注的重點。部分小微開發(fā)運營者缺乏搭建體系化內容安全策略的能力，導致其開發(fā)運營的小程序存在安全隱患。

為解決這些問題，2018年5月，微信團隊就向開發(fā)者開放了文字檢查、圖片檢查兩個API接口，輔助開發(fā)者及時發(fā)現(xiàn)不良內容信息。而在今年6月6日，微信上線了小程序內容安全的異步檢查接口（mediaCheckAsync），基于騰訊“云鸮”技術支持，向開發(fā)者提供更高級、更強大的內容安全能力，包括異步方式檢查圖片、音頻兩種多媒體文件，自動識別色情、暴恐等違法有害高危內容，文件大小限制也從原來同步接口的1M提升到10M，滿足常見格式和大小的圖片審核需要。

微信團隊表示，將小程序命名為“珊瑚”，是因為珊瑚是一種對生活環(huán)境要求較高的生物，寓意小程序、開發(fā)運營者、平臺與環(huán)境之間是共生共贏的關系，只有生態(tài)中各方共同努力，維護健康生態(tài)，產業(yè)環(huán)境才會越來越好。

未來，“珊瑚”小程序將基于騰訊云圖像分析等AI技術，為廣大小程序開發(fā)者提供更強、更豐富的內容安全能力，并持續(xù)運營、定期更新行業(yè)內容安全動態(tài)信息，幫助開發(fā)運營者了解最新的行業(yè)情況，共建健康繁榮的小程序生態(tài)。