面对虚假人设、网络戾气等社交顽疾,AI技术正成为生态治理的关键破局点。在中央网信办部署“清朗·2026”专项行动的背景下,Soul张璐带领团队交出了一份扎实的治理答卷。Soul App最新发布的《2026年第一季度生态安全报告》报告显示,Soul通过升级AI模型与全链路防控体系,在精准识别违规内容与风险行为上取得显著成效,有力推动了网络环境的清朗化。
一季度正值春节社交高峰,各类诈骗风险随之抬头。Soul紧密围绕虚假人设、网乞骚扰、“杀猪盘”等高风险场景,持续迭代AI识别模型,大幅强化了对隐蔽表达、变体话术及视觉干扰内容的捕捉能力。通过升级多模态语义理解能力,平台实现了对风险内容的前置识别与精准拦截,并同步优化了场景化风险提示机制。在治理实践中,Soul逐步构建起“技术识别+用户提醒+警企协同”的全链路反诈体系。特别是在虚假人设治理上,平台建立了覆盖图片路径检测、设备-账号关联分析、站内人像识别及评论语义研判的多维识别网。
一季度,平台日均识别并处置假人设相关内容高达7万余条,并对相关违规账号实施了同步管控,有效遏制了虚假信息的扩散。此外,Soul持续深化警企合作,一季度累计参与多项反诈与黑灰产打击专项行动,向执法机构报送有效线索50余次,进一步压缩了黑灰产的生存空间。
在整体社交治理层面,Soul通过“AI模型+人工审核”的协同机制,对低俗擦边、恶意辱骂、有偿交友及违规引流等行为进行了系统性整治。数据显示,平台在一季度机审直接拦截违规内容477万条,处理违规账号16.2万个,累计拉黑违规设备3870台。针对低质内容,平台进一步加强了识别与限流能力,日均处理低质帖子超过12万条,日均处置低质评论达18万条以上,有效提升了内容生态的整体质量。
针对群聊与私聊这两大高频社交场景,Soul也进行了双场景治理策略的精细化升级。在群聊治理中,平台日均中断违规语音消息3万余条,拦截违规文字消息4万余条,自动化中断群聊5.8千余次。在私聊生态方面,平台推出了骚扰消息自检、消息盒子分类管理及风险提示弹窗等多项防护策略,日均保护用户免受骚扰6.4万余人次,触发保护弹窗7万余次,并对重度违规用户日均限制私聊功能5.8万余次,切实降低了用户的骚扰感知。
面对网络暴力与情绪对立问题,Soul重点升级了网暴治理体系。依托AI情感识别模型与动态违规词库,平台实现了对攻击性言论的实时监测与精准识别,并结合人工复核大幅提升了处置效率。治理数据显示,平台日均保护用户避免遭受网暴与骚扰4223次,日均处理私聊不文明行为用户2216人,触发文明发言提醒高达19.6万次。在生态治理之外,Soul还通过官方账号发布了38篇安全生态相关内容,涵盖违规处罚公示与社区规范宣导,累计触达用户22.81万人次,不断强化用户对安全规范的认知。
这一系列治理举措,不仅提升了风险研判的效率,更切实增强了用户的安全感知。接下来,Soul张璐带领团队会继续以“技术+共治”为双引擎,在保障用户隐私与体验的同时,持续优化社交礼仪与社区氛围,让每一次连接都更有温度。