珊瑚内容安全助手小程序上线 帮助开发运营者鉴别内容风险

珊瑚内容安全助手小程序上线 帮助开发运营者鉴别内容风险飞入寻常百姓家
来源:新民晚报   作者:杨玉红   2019-06-21 12:02:40

小程序提供风险自测、图文安全鉴别、行业动态等功能.jpg

图说:微信正式上线“珊瑚内容安全助手”

小程序一键就能鉴别内容和产品的安全风险。今日,微信正式上线“珊瑚内容安全助手” (以下简称“珊瑚”)小程序,将为运营者和开发者提供风险自测、内容鉴别、行业动态等功能。

提高小程序内容安全

开发运营者可通过勾选自己的产品功能、各功能发布内容的情况,由“珊瑚”小程序自动计算给出产品风险评级、针对性的风险提示及相应的风险防控建议等,让开发运营者对产品的安全风险了然于心。

在文字鉴别、图片鉴别模块,“珊瑚”小程序还可对用户上传内容中是否含有违法有害信息给出鉴别结果,同时提供能力介绍和接入引导文档,为开发运营者从“体验”、“理解”到“接入”, 提供一站式安全能力服务。后续“珊瑚”小程序还将支持音频、视频鉴别能力,为用户提供更完善的内容安全服务。

此外,“珊瑚”小程序还包含定期更新的互联网行业内容安全动态、相关法律法规等内容,帮助开发运营者及时掌握行业情况。

小程序内容安全成关注重点

随着小程序生态的繁荣,小程序内容安全成为外界关注的重点。部分小微开发运营者缺乏搭建体系化内容安全策略的能力,导致其开发运营的小程序存在安全隐患。

为解决这些问题,2018年5月,微信团队就向开发者开放了文字检查、图片检查两个API接口,辅助开发者及时发现不良内容信息。而在今年6月6日,微信上线了小程序内容安全的异步检查接口(mediaCheckAsync),基于腾讯“云鸮”技术支持,向开发者提供更高级、更强大的内容安全能力,包括异步方式检查图片、音频两种多媒体文件,自动识别色情、暴恐等违法有害高危内容,文件大小限制也从原来同步接口的1M提升到10M,满足常见格式和大小的图片审核需要。

未来,“珊瑚”小程序将基于腾讯云图像分析等AI技术,为广大小程序开发者提供更强、更丰富的内容安全能力,并持续运营、定期更新行业内容安全动态信息,帮助开发运营者了解最新的行业情况,共建健康繁荣的小程序生态。

新民晚报记者 杨玉红

编辑:徐驰

看评论

推荐阅读