近期,互联网社交平台Soul APP发布《第三季度生态安全治理报告》。在行业内,Soul首创动态查重功能,致力于打压跟风搬运等不良行为,保护原创内容,倡导用户真实地表达自我。在识别杀猪盘、打击导流欺诈、治理虚假不实内容以及低俗内容等方面,Soul也作出积极努力。报告显示,Soul配合多地公安破获色情导流、黑产犯罪团伙3个,目前对10余人采取刑事强制措施;且积极参与公安部专项行动,协助五省三十市及京津冀各地警方研判分析诈骗导流、黑产团伙作案手法等,抓获犯罪嫌疑人200余人。

http://img.danews.cc/upload/images/20221031/e0328cae2bb832e571e8e291858a6f1d.jpg

严厉打击导流欺诈行为,平台导流外溢案件比往年同期下降70%

报告显示,整个三季度,Soul在广场、私信等多场景中进行反诈安全提示曝光达1600万次。上线上千个风控策略,处罚91万人次。Soul配合公安破获色情导流、黑产犯罪团伙3个,目前对10余人采取刑事强制措施,且积极参与公安部专项行动,协助五省三十市及京津冀各地警方研判分析诈骗导流、黑产团伙作案手法等,抓获犯罪嫌疑人200余人。在一系列举措下,Soul在本季度日均拦截95%以上的导流欺诈行为,平台导流外溢案件发案同比往年同期下降70%,接到诈骗举报量同比下降50%。

一直以来,电信网络诈骗严重侵害公民的合法权益和财产安全。为守护用户安全,Soul建立起严密的风控体系,应用大数据、AI等新兴技术,在风险前、中、后期全链路引入AI模型,实时打击、提升风险拦截效率。

日常运营中,Soul设立反诈中心,通过分享案例、时时提醒,成为反诈宣传的大喇叭。在用户对话中,如果出现“投资”“刷单”“转账”以及其他与支付相关的高危敏感字眼,Soul依靠技术手段能够精准洞察,及时对用户发出警示。同时,针对用户的举报,Soul会在第一时间响应,核查并封锁涉嫌诈骗的账号。为打击导流诈骗行为,Soul还与公安机关等部门联动,为用户共同编织安全防护网。S第三季度,Soul在反诈防骗工作中获得的亮眼成绩,也是平台常态治理、多维协作的结果。

http://img.danews.cc/upload/images/20221031/d76549bd1e1f6c11b49c9184966633d9.jpg

行业首创动态查重功能上线,搬运、抄袭类相关举报日均下降42%

数据显示,第三季度,Soul官方风纪球长对“保护原创、鼓励真实”发布了共18篇帖子,涉及违规处罚公示、安全标准宣导、真实公约等内容,总计曝光量达到6292万。通过启动动态查重机制,Soul日均识别、打击搬运抄袭帖3.2万条,搬运、抄袭类相关举报日均下降42%。

在平台发展中,Soul一直将“真实”作为倡导鼓励的平台氛围和社交礼仪。为给用户带来更多有趣、多元、温暖、真实的社交体验,保护原创者的作品和著作权,Soul开启了国内社交平台的动态查重先例,上线了查重识别模型——比对站内历史发帖,识别并标记来自不同用户的雷同内容。例如,如果发布者的图片曾经在站内内容广场出现过,在其个人主页对应的内容帖下方将出现该内容曾在站内出现过的提示。此前,一位网友在Soul上晒豪车和一张123万的汽车订购单,而通过查重识别,该图片被自动标注“系统识别该图片曾在站内出现过”,此事在互联网引起热议。通过启动动态查重等举措,Soul不仅保护了原创作者的权益,也强化对跟风博眼球等内容的打击。同时,此举能够有效打击虚假人设,有助于防范网络诈骗。

http://img.danews.cc/upload/images/20221031/11395934dc06e1de0504a51a91eb6512.jpg

与此同时,Soul还发起《尊重原创 分享真实》公约(又称《Soul Real》公约),呼吁各位Souler参与原创内容保护,已带动70多万用户积极了解保护原创的动态查重功能,共同抵制跟风抄袭盗图的行为,并有上万名Souler签署该公约,获得积极响应。

http://img.danews.cc/upload/images/20221031/6122754daa8de23e0f512bb1345131f1.jpg

开展低俗内容专项治理,日均举报量较上季度下降50%

一直以来,不良低俗内容就像互联网上的“牛皮癣”,影响人们的互联网使用体验。为了给广大用户打造绿色清朗的社交环境,Soul开展了不良低俗内容专项整治,从内容广场、文字群组、群聊派对等多个产品场景进行集中优化治理。

针对内容广场的帖子与评论,Soul通过专项识别模型前置处理低俗内容。线上运行的软色情识别模型以及低俗色情识别模型,能够对文本、图片、视频、音频形式的有害信息进行有效识别。在此基础上,Soul在第三季度还上线了超过60条不良低俗内容治理策略,从而进一步精准识别不良低俗内容。

整个第三季度,Soul在不良低俗内容治理方面也取得可观成果。Soul官方风纪球长对安全生态宣传内容发布了共43篇帖子,涉及违规处罚公示、安全标准宣导、辟谣等内容,总计触达2870万用户。在广场治理方面,日均拦截5000条软色情内容,日均处理违规用户1863人次。在强力的治理举措下,日均举报量较上季度下降50%。此外,Soul还针对群聊派里的不良低俗内容重拳出击,通过敏感词检索模型设定,日均中断4000余条违规语音消息,日均拦截违规文字消息1.1万条,日均梯度处罚2000多名违规用户。

http://img.danews.cc/upload/images/20221031/f1a8b019afabe142994d78cd5e35247d.jpg

强化网络空间治理,Soul会一如既往、不遗余力地持续努力,而营造积极、向上向善的网络文化,需要更多用户和互联网参与者的共同努力。Soul鼓励广大用户共同监督平台内的违规行为和内容,携手共建绿色清朗的网络环境。