发假照片立假人设？社交平台Soul App出手了

来源：人民网 发布时间：2023-09-19 原文链接：https://mp.weixin.qq.com/s/aLtfLtklb-VgsgJ2zE2SqQ

近年来，网络诈骗犯罪案件频发，诈骗手段层出不穷。据统计，在所有诈骗类型中，90后的手机诈骗受害者占所有受害者总数的36.4%，是不法分子网络诈骗的主要对象。除此之外，今年火爆的电影市场，主打一个“人间清醒”。从此前揭露缅北电信诈骗残酷现实的《孤注一掷》，到近期聚焦“杀猪盘”骗局的《鹦鹉杀》，均引发了全网热议。

业内专家指出，防范电信网络诈骗，要进一步织密防护网络，加强技术反制、预警劝阻、资金返还和宣传防范，最大限度预防案件发生，减少群众财产损失。

互联网平台需要依托自身技术 提高虚假内容与人设的识别能力

北京邮电大学教授、网络空间安全学院党委书记、中国网络空间安全协会理事兼网络治理与国际合作工作委员会秘书长谢永江认为，“互联网平台更可以借助自身技术优势，完善反诈防火墙，从算法到产品，提高虚假内容人设的识别，狙击潜在诈骗风险。”他提到，上海的一些互联网平台就在产品端不断完善，显化提醒。

比如去年Soul上线了查重识别模型，开启国内社交平台动态查重的先例。如果发布者的图片曾经在站内内容广场出现过，在其个人主页对应的内容帖下方就会出现“该内容曾在站内出现过”的提示字样，该类识别和显化提醒更好地强化虚假人设、“杀猪盘”和跟风博眼球内容的打击，该功能对社交行业具有较好的借鉴意义。

**九成诈骗被导流至第三方平台，社交平台反诈工作需要加强宣传 **

作为我国规制电信网络诈骗的首部专门法律，2022年12月1日正式施行的《中华人民共和国反电信网络诈骗法》（以下简称《反诈法》）坚持源头治理和综合治理相结合，为建构打击遏制电信网络诈骗的长效机制提供了强有力的规范支撑。

针对国家政策战略和法律法规提出的重点要求，Soul等社交平台不断构建和完善多层次反诈骗体系的建设，现已建立较为完备的风控体系，用大数据和人工智能等技术，通过强化文本、语音、图像和视频等媒介的信息识别能力，从用户注册前序行为、注册、站内行为、举报申诉以及到账号注销等用户全生命周期，其风控体系都会开启风险管控与安全守护机制，全程守卫用户在平台内的安全。

但由于社交平台电信网络诈骗的链条具有延长性，常常形成前端“引流”、后端侵财的违法犯罪链条，从诈骗团伙与诈骗目标取得联系到诈骗的实际得手，具有一定的时间差。数据显示，Soul平台发生的电信网络诈骗，有99%以上的比例会引流至第三方社交平台。针对这一特点，实践中需要积极引入事前预防的新方法。

中国互联网协会调解工作委员会秘书长王斌表示，为了维护网络安全、守护网民安全，中国互联网协会调解工作委员会期待以行业协会为枢纽，增强跨平台协作。除了中国电信、百度反诈等传统反诈力量以外，也发现诸如Soul等年轻人喜爱的新兴社交平台也根据Z世代年轻人的偏好，在不断创新反诈宣传的办法 。

据了解，为加强年轻用户的反诈骗意识，Soul持续联动公安部门在线上线下举办反诈科普活动，帮助用户提升反诈意识。由其首创的“反诈群聊课堂”新模式已联合上海市反诈中心连续举办两年，通过rap、脱口秀等趣味方式科普反诈知识，较好地提升了用户的防诈骗意识，同时也带动了大量Z世代用户参与其中，用户们采用更多元和年轻化的方式，包括绘画、rap、弹唱、声音演绎等，将反诈科普的知识在年轻群体中传播开来。王斌表示，“这种寓教于乐、创新的警企协同反诈骗宣传形式，值得行业参考借鉴。”

“此前在《孤注一掷》上线时，我们邀请了上海市反诈中心、浦东反诈中心民警与用户一同参与包场观影活动，将“反诈课堂”搬到电影院，通过线上线下联动的方式，宣传反诈知识。除了举办这些科普活动以外，我们在平台内的多个场景都有相关提示。” Soul反诈中心的负责人表示，“当用户下载并注册了Soul后，我们系统会推荐《星球防诈骗指南》，以图文和案例的形式传递防诈骗知识。在私聊场景中，当用户发送‘支付’等相关字眼时，系统会屏蔽相关消息，需要完成反诈骗答题才能解锁消息。在广场公域场景中，用户如果在平台搜索‘诈骗’、‘杀猪盘’、‘鹦鹉杀’等字眼时，《Soul星防诈骗指南》和Soul反诈中心科普帖也会呈现置顶显示，引导用户了解学习反诈骗知识，提高警惕意识。”

多方联动 共建社交行业反诈治理生态

诈骗问题是社会问题，需要通过群防群治，与全社会一起共同治理。电信网络诈骗治理难度之所以高，是因为其不断更新电信网络技术手段，针对特定诈骗对象制订特定诈骗方案，且具有链条化的运作方式等突出特征。这些特征要求建立由政府主导的多机构合作模式，协同调配不同机构和网络平台共同参与，从严管理与核查平台用户身份信息，并加大反诈宣传，提高民众警惕意识，从而降低用户被害可能性。

目前，由于许多不法分子会将潜在目标引流到第三方平台行使诈骗，除了加强对用户的宣传教育外，切断该类导流链条对平台的反诈治理工作来说尤其重要。以Soul为例，在与有关部门的协作方面，其联动多家权威机关，共同铲除不法活动栖身的网络温床，在有关部门的技术指导下成立了反诈专项小组，形成打击合力增强防范治理效果。同时，也与上海网安合作建立了反诈模型，并接入公安三所大数据库，积极配合有关部门案件侦办工作。数据显示，该平台已配合多地公安破获色情导流、黑灰产犯罪团伙11个、涉赌团伙1个，配合公安机关抓获犯罪嫌疑人200余人，协助公安机关开展新型犯罪态势调研6次；在与相关机构的合作方面，其联合主流即时通讯平台等对黑灰产进行强力整治，累计传入微信风险账号5w+，阻断了2000+不法分子在平台之间导流的链条。

反诈是一项长期工作，社交平台需要持续努力推进多维度、多层级的能力建设。不但在事前预防识别预警、事中监测处置和事后查办惩处等各个方面不断完善，还需要引入各种创新技术和宣传、运营等组织手段，强化平台内外的联动响应，综合提升全链路的管控和治理能力。

目前社交平台在治理方面，面临着多项来自黑灰产业链的威胁，其打击工作需要由多个上下游平台共同配合、齐力防范，携手治理各类违法犯罪活动，一起提升行业自律水准，合力培养健康的行业生态。